AIエージェントの予算超過を防ぐ上限設計

月額予算だけでは、暴走を止められない

AIエージェントの費用は、モデル利用料だけではありません。検索、外部API、ブラウザ操作、ストレージ、通知など、1回の実行が複数の従量課金を連鎖させます。

月額上限が見える頃には、同じ失敗が何百回も再試行されている可能性があります。実行に近い層で複数の上限を持つことが重要です。

4つの上限を一緒に設計する

金額、回数、時間、並列数のうち、一つだけを監視しても抜け道が生まれます。

• 金額：1実行、1日、パイロット全体の上限
• 回数：ツール呼び出しと外部送信の最大回数
• 時間：1ステップと1ワークフローのタイムアウト
• 並列数：同時実行と同一対象への更新数

上限到達は『エラー』ではなく判定にする

上限到達後の自動再試行は、制御を無効にします。上限に達した実行はSAFE_HOLDへ移し、到達した上限、実行済みアクション、未実行アクションを記録します。

再開には、新しい予算を与える判断と、失敗原因が解消した確認の両方が必要です。復旧担当者だけで予算上限を解除できないよう、役割を分けます。

小さな上限で、実測値を集める

初期値を完璧に予測する必要はありません。正常系が数回完了できる小さな上限を置き、中央値とばらつきを測ります。

上限を引き上げるときは、根拠となる実測値と対象範囲を一緒に更新します。これにより、費用の拡大が業務範囲の拡大を追い越すことを防げます。