2026年8月5日、Claudeで障害が発生し、7時間29分にわたって影響が続いた。稼働率や累計件数といった詳しいデータは本日の記事で扱っているので、そちらを参照してほしい。この記事では障害そのものではなく、こうした障害が起きたときに自分たちのシステムをどう守るか——フォールバック設計について考える。
大前提として断っておきたいのは、以下はすべて一般的な設計論であり、当編集部が実際に測定した効果の保証ではないということだ。「これを実装すれば99.9%を達成できる」というような話はしない。障害はいつか必ず起きるという前提で、被害をどう小さくするかという考え方の整理だと捉えてほしい。
リトライとバックオフ——闇雲な再試行は状況を悪化させる
API呼び出しが失敗したとき、反射的に「すぐもう一度呼び直す」実装をしてしまいがちだが、これは危険だ。障害発生時に大量のクライアントが一斉に即時リトライすると、ただでさえ不安定なサービスにさらに負荷が集中し、復旧を遅らせる方向に働きかねない。
基本の型は、指数バックオフ(retry間隔を1秒→2秒→4秒…と広げていく)と、ジッター(間隔にランダムな揺らぎを加える)の組み合わせだ。ジッターを入れないと、同時刻に失敗したリクエストが同じタイミングでまとめて再試行し、結局は一斉リトライと同じ状態になってしまう。この考え方はAWS Architecture Blogの解説記事が古典的な整理として知られている。
# 例: 指数バックオフ+ジッターの骨格(疑似コード)
import random
import time
def call_with_backoff(fn, max_retries=5):
for attempt in range(max_retries):
try:
return fn()
except TransientError:
if attempt == max_retries - 1:
raise
base = 2 ** attempt
jitter = random.uniform(0, base * 0.5)
time.sleep(base + jitter)
あわせて、再試行してよいエラーとそうでないエラーを区別しておきたい。一時的な過負荷やタイムアウトはリトライ対象になりうるが、認証エラーや入力バリデーションエラーは何度呼び直しても結果は変わらない。エラー種別ごとにリトライ方針を分けておくと、無駄な再試行を減らせる。
タイムアウト設定を見直す
タイムアウトを設定していない、あるいは長すぎる値のままにしていると、障害発生時にリクエストがいつまでも応答を待ち続け、呼び出し元のスレッドやコネクションを占有してしまう。これが積み重なると、API側の障害が自分たちのシステム全体を巻き込んで止める二次被害につながる。
「失敗するにしても早く失敗する(fail fast)」という考え方で、通常のレスポンスタイムを踏まえた現実的なタイムアウト値を設定しておきたい。あわせて、ひとつの依存先の遅延がシステム全体に波及しないよう、呼び出し元のリソース(接続数・スレッド)を区切っておく設計(サーキットブレーカーの考え方)も検討に値する。
複数プロバイダへのルーティング
単一のAIプロバイダに依存している場合、そのプロバイダが落ちればサービス全体が止まる。重要な機能については、複数プロバイダ・複数モデルへフォールバックできる構成を検討したい。
ただし、これは「切り替えれば安心」という単純な話ではない。プロバイダが違えばモデルの挙動・出力形式・料金体系も変わる。切り替え先での応答品質やコストへの影響は事前に検証しておく必要がある。また特定のベンダー・サービスを推奨する意図はなく、あくまで「単一障害点を減らす」という設計方針として紹介している。
ヘルスチェックとステータスページの監視
依存しているAIサービスの状態を自分たちのシステムから能動的に把握しておくことも重要だ。定期的なヘルスチェックリクエストや、プロバイダが公開しているステータスページの監視を自動化しておけば、障害発生を利用者からの問い合わせで初めて知る、という事態を避けられる。異常を検知した時点で自動的にフォールバック経路へ切り替える、あるいは運用担当者に通知する仕組みを組み込んでおきたい。
ジョブのキューイング
リアルタイム応答が必須ではない処理については、障害発生時にリクエストを即座に失敗させるのではなく、キューに積んで後で処理する設計も有効だ。ユーザーには「受け付けました、処理中です」という応答を返しておき、依存先の復旧後にキューを消化する。これにより、障害の間もリクエスト自体を取りこぼさずに済む。
機能を落として動かし続ける——Degraded Modeの設計
最後に紹介したいのが、AI機能が使えない間もサービス自体は止めない「degraded mode(縮退運転)」の考え方だ。AI呼び出しに依存する機能が使えなくても、キャッシュ済みの回答を返す、ルールベースの簡易応答に切り替える、その機能自体を一時的に非表示にする——といった形で、サービス全体を巻き添えにしない設計ができないか検討したい。
「AIが使えなければ何もできない」設計と、「AIが使えなくても最低限は動き続ける」設計とでは、障害発生時のユーザー体験もチームの負担も大きく変わる。すべての機能に縮退運転を用意するのは現実的ではないが、影響範囲が大きい機能から優先順位をつけて検討するのが現実的だろう。
まとめ
- リトライ・バックオフ:指数バックオフ+ジッターで一斉リトライを避け、リトライ可否をエラー種別で区別する
- タイムアウト設計:fail fastを基本にし、依存先の遅延がシステム全体に波及しない構成にする
- 複数プロバイダへのルーティング:単一障害点を減らす。切り替え先の品質・コストは事前検証が必要
- ヘルスチェックとステータスページ監視:障害を能動的に検知し、自動フォールバックや通知につなげる
- ジョブのキューイング:即時性が不要な処理は障害中もキューに積み、リクエストを取りこぼさない
- Degraded Mode:AIが使えない間も最低限のサービスを維持する設計を、影響範囲が大きい機能から検討する