LLMに誤った情報（2+2=5など）を教え込むだけで、禁止された命令を無視させる攻撃手法が見つかりました。AIブラウザの安全性における根本的な脆弱性が浮き彫りになっています。
AIブラウザが危険である理由：新たな攻撃手法が判明
New attack provides one more reason why AI browsers are a bad idea
編集メモ: LLMの脆弱性を突く攻撃手法の発見は、AIの出力を鵜呑みにせず、入力データの管理やセキュリティ対策が、AIを業務へ組み込む際の必須要件であることを改めて突きつけています。