Microsoftが公開した「AutoJack」は、AIエージェントフレームワーク「AutoGen Studio」の脆弱性を突くデモです。AIに指示を出すだけで、意図せずホストプロセスから電卓が起動する様子を示し、AIエージェントの操作に伴うセキュリティリスクと、その対策の重要性を浮き彫りにしました。
localhostを信頼するAIエージェントをWebページ1枚で乗っ取るAutoJack
編集メモ: AIエージェントの利用時は、ホストの権限を安易に解放せず、サンドボックス化やセキュリティ境界を意識した設計が、重大な脆弱性を防ぐ鍵となります。