私的なAIエージェントを運用する中で経験した、Prompt Injectionによるセキュリティの教訓。モデル提供元だけでなく、ツールを呼び出せるAIを自ら動かす全員が、セキュリティの攻防の当事者であることを強調する。
AIエージェントの「ゼロトラスト」:Claude Codeはいかにしてリアルなプロンプトインジェクション攻撃を生き抜いたか
編集メモ: ツール実行権限を持つAIエージェントを運用する場合、モデル提供元の対策に頼らず、ユーザー自身がプロンプトインジェクションへの当事者意識を持つべきです。