GoogleのAI Overviewsで、特定のキーワードを入力するとAIが通常の検索要約ではなく、チャットボットのような回答を返すバグが発生。AIの挙動が検索ユーザーの意図とかけ離れてしまうという、技術的な制御の難しさが露呈しました。
Google AI検索のバグ：AIがユーザーの指示を「無視」する現象
Google’s AI search is so broken it can ‘disregard’ what you’re looking for
編集メモ: AI検索が意図せず対話型回答に切り替わるバグは、検索意図の制御という技術的難易度を示しており、AIをツールとして実装する際、ユーザーの期待値とAIの挙動を一致させる制御の徹底が肝要です。