ChatGPTがブラウザで閲覧したコンテンツを過剰に信頼することで、悪意あるコードやページが実行されるセキュリティ上の脆弱性が指摘されています。これにより、チャットボットが攻撃の踏み台にされる恐れがあります。
ChatGPTがブラウザコンテンツを盲信、ページが悪用されるリスク
ChatGPT blindly trusts browser content, turning the page into a payload
編集メモ: ChatGPTが外部コンテンツを過剰信頼する脆弱性は、AIを業務活用するエンジニアにとって、プロンプトインジェクションや攻撃の踏み台化を防ぐためのセキュリティ対策が喫緊の課題であることを示しています。