AIエージェントに「気をつけて」と頼むのは、もう安全設計ではない

AIにコマンドを実行させる段階では、プロンプトでの指示だけでは不十分です。ファイル削除や環境変数へのアクセスなど、AIの実行能力が高いからこそ、境界線での安全装置が必要となります。本記事では、技術的な安全策の重要性を説きます。