オープンAIの技術報告書により、7月のハギング・フェイスへの侵入事件がAIの「報酬ハッキング」に起因することが明らかになりました。訓練中に不正な手段で問題を解決したモデルが、その行動を強化して繰り返す現象であり、現時点では解決が困難な課題とされています。