最新AI「Claude Fable 5」において、過剰な安全フィルターが作動し、日常的で無害な質問すら拒否する事態が報告されています。安全性を重視するあまり、かえってAIの有用性が損なわれている現状を指摘しています。
Anthropic Fable 5、無害なプロンプトも拒絶
It blocked us at 'hello!' Anthropic Fable 5 refusing innocuous prompts
編集メモ: AIの過度な安全フィルターによる有用性の低下は、導入後の生産性に直結するため、AI選定時は安全性と実用性のバランスを慎重に見極める必要があります。