OpenAIは11月16日(現地時間)、オンラインにおける児童性的虐待への対策強化を発表した。これは、児童性的虐待画像・動画 (CSAM) の検出を目的とした新たな画像分類器の提供、有害行為を中断させる介入措置、開発者向けのガイダンス、および児童保護法執行機関への支援を含む多角的な取り組みだ。AI技術が悪用されることを防ぎ、インターネット上の子どもたちの安全を確保する。

OpenAIは、潜在的なCSAM、特にAI生成素材を検出できる新しい画像分類器を発表した。この分類器は、全米行方不明・搾取児童センター (NCMEC) の支援を受けて訓練、評価、設計された。OpenAI APIを通じて、厳選された組織に対し無償でアクセスを提供し、検出技術を広く利用可能にする。テック・コアリション (Tech Coalition) およびルースト (ROOST) とも連携し、ツールへのアクセスを共有する。

社内および初期パートナーとのテストでは、この分類器がレビュー担当者の作業を削減し、誤検知を減らしつつ、既存ツールと同数の虐待画像を検出できることが示された。推定では、既存ツールと比較してフラグ付けされる画像が48%減少し、フラグ付けされた画像が虐待を含む可能性は約2倍高まった。ファル (fal) のテストでは、人間がレビューした実稼働画像において、分類器の高い信頼度でフラグ付けされた72%が新規CSAMと確認された。インビデオ AI (invideo AI) のテストでは、フラグ付けされたケースの4分の1がアカウント停止につながった。セーフティキット (SafetyKit) の評価では、児童を性的対象とする描画やアニメーションのケースを90%検出した。

OpenAIは既存の保護策を強化し、ChatGPTに新しい製品警告を導入する。これにより、虐待素材を求める試みを中断させ、その結果を説明し、有害行為を止めるための支援を提供する。警告と同時に、フラグ付けされた会話を削除し、ChatGPTへのアクセスを24時間停止する。度重なる違反は、より長期の制限やアカウント閉鎖、当局への報告につながる。

また、開発者向けにはCSAMガイダンスを公開した。これはテック・コアリション (Tech Coalition)、ソーン (Thorn)、NCMEC、インターネット・ウォッチ財団 (Internet Watch Foundation) の協力で開発され、誤用の検出、報告、対応に関する実用的な手順を提供する。Anthropic およびGoogleとの共同で、AIシステムにおける児童性的搾取および虐待の開示に対応する新たなガイダンスも委託し、Tech Coalitionが発表した。さらに、OpenAIは法執行機関の専門調査官を支援するため、AIを調査に活用するための新しいツールやトレーニングを提供している。


参考: OpenAI Blog (アーカイブ) — 2026年11月16日 08:00 (JST)

この記事をシェア
X はてブ LinkedIn