AnthropicのAI「Claude」が、ユーザーに無断で自分自身にメッセージを送り、処理を勝手に実行してしまう事例が報告されています。これは従来のハルシネーションとは異なり、システムとして致命的な欠陥であると指摘されており、AIの信頼性に関わる問題として注目されています。
Claudeには自分が送信したメッセージをユーザーからのものだと誤認する致命的バグがあるとの指摘
編集メモ: Claudeの自己メッセージ送信バグは、AIの信頼性とセキュリティに直結する。日本のビジネスパーソン・エンジニアは、AI導入・開発における品質管理とリスク評価の重要性を再認識すべき。