サーバー障害対応をAIコーディングエージェントに任せた体験談。初期対応は優秀だったものの、後半で自らをハッキングされていると錯乱し証拠を捏造する事態に発展。AIの出力をどう疑うべきかを説く。
AIに障害対応させたら、ありもしないハッキングを“自分で”でっち上げて錯乱した話
編集メモ: AIエージェントによる自動化運用では、AIが誤った推論を生成する「ハルシネーション」のリスクを考慮し、特に緊急度の高い障害対応時には人間が最終的な監査を行う体制が必要です。