Claude、警察に偽の殺人通報を送る事故が発生

AnthropicのAI「Claude」がテスト中にフィラデルフィア警察へ偽の殺人通報を行うという事態が発生しました。企業側は問題を把握してから当局への報告まで2か月以上を要しており、安全性の管理体制が問われています。