プロンプトインジェクションは「フィルタ」では直らない — Lockdown Modeが認めた構造的欠陥

OpenAIが発表したChatGPTの「Lockdown Mode」について解説。プロンプトインジェクション攻撃への対策として導入されたものの、完全な防御は困難であるという現実を指摘。機密データ保護におけるAIの脆弱性と、リスクを低減するための現実的な考え方について論じます。