概要
オンライン上の児童保護に対する懸念が高まる中、OpenAIは人工知能（AI）技術の進歩に対応した子供の安全性向上を目指す「Child Safety Blueprint」を発表しました。
背景
インターネットウォッチ財団（IWF）によると、2025年の最初の半年間でAI生成の児童性搾取コンテンツに関する報告が8,000件以上あり、前年比14%増加しています。この中には、犯罪者がAIツールを使用して子供に対する虚偽の露骨な画像や誘拐メッセージを生成するケースも含まれています。
OpenAIの対策
OpenAIは、立法の更新、報告メカニズムの改善、そして予防措置の統合に焦点を当てたこの安全計画を開発しました。具体的には：
- 立法の更新： AI生成の虐待材料を含む法律の改正。
- 報告メカニズムの改善： 法執行機関への報告プロセスの改良。
- 予防措置の統合： AIシステムに直接的な防止機能を組み込む。
協力とフィードバック
この計画は、全米失踪・児童虐待センター（NCMEC）や各州の司法長官らと共に開発され、北カロライナ州のジェフ・ジャクソン司法長官やユタ州のデレック・ブラウン司法長官からのフィードバックも取り入れられています。
既存の対策
OpenAIは、18歳未満のユーザーとの相互作用に関する更新されたガイドラインを発表しており、不適切なコンテンツ生成や自傷行為の助言を禁止しています。また、インドでのティーン向け安全計画も展開しています。