AIの返答を別のAIでチェックする仕組みを、英語学習アプリから外した事例。誤判定により問題ない回答まで排除していたことが判明。AIの出力確認に関する実効性と、過剰な安全策の弊害について検証。