インターネット・ウォッチ財団(IWF)の報告書によると、AIが生成した児童性的虐待の画像や動画がオンライン上で過去最高を記録しており、AIツールの安全性対策を求める声が高まっています。これはAI技術の悪用が深刻化している現状を示しています。
AI生成で児童性的虐待をリアルに描写した画像・動画は前年比14％増の8029件確認されたという報告、特に動画件数は1年で260倍以上も増加
編集メモ: AIの悪用は倫理的・法的リスクとしてビジネスに直結するため、法規制動向と企業のリスクマネジメントへの影響は非常に重要です。システム開発者、サービス提供者、利用者の全てがこのリスクを認識し、適切な対策を講じる必要があります。特にエンジニアは、AIの安全性を担保する技術的責任が問われます。