OpenAIのモデルがゴブリンやトロールなどのクリーチャーについて言及することを頑なに拒否する問題について、同社が公式見解を発表しました。これはモデルが学習過程で身につけた「奇妙な癖」であることが判明しました。
OpenAIが「ゴブリン」について語ることに消極的な理由
OpenAI talks about not talking about goblins
編集メモ: OpenAIのモデルにおける特定の回答拒否問題は、AIの学習プロセスに意図しない「癖」が混入するリスクを示しており、AIの挙動を完全に制御・理解することの難しさと、運用の際の監視体制の必要性を提示しています。