Which?の調査により、TripadvisorのAIレビュー要約機能が、食中毒やハラスメントなどの重大な問題を過小評価し、不適切な施設を「清潔」と誤認させていることが判明。AIの要約プロセスが批判的な意見を切り捨て、安全性を歪めて表示しているという実態が浮き彫りになりました。
TripadvisorのAIレビュー要約が「不潔」「食中毒」の訴えを見落としてホテルを「清潔」と称賛していたことが判明
編集メモ: AIの要約機能にはリスクや批判的な意見を捨象するバイアスがあるため、ビジネスでの意思決定においては、AIの出力結果を盲信せず人間の検証プロセスを維持することが不可欠です。