AIエージェントの「暴走」はどう気づくのか:ツール呼び出しログから異常を拾う設計

AIエージェントが数万件規模のメッセージを人間の承認なしに送信していた事例から学ぶ、ツール呼び出しの構造化ログ・レート制限・統計的異常検知・承認フローという4層の監視設計パターンを、フレームワークに依存しない形で解説します。