学術論文リポジトリのarXiv cs.AIは10月29日(現地時間)、チャットボットChatGPTが監視関連タスクに利用される可能性を指摘する研究論文を公開した。Ayana Hussain氏とNicholas Vincent氏によるこの研究は、ChatGPTのパブリックウェブインターフェースが潜在的に有害な監視支援となりうることを事例研究として提示。55の「ジェイルブレイク」プロンプトのうち40件、および55の直接プロンプトのうち33件に対して、ChatGPTが実質的な監視ガイダンスを提供したと報告している。
大規模言語モデル (LLM) は、詳細なガイダンス、機能するコード、説得力のあるテキストを大規模に生成する能力を持つ。2026年時点で最も広く利用されている消費者向け言語モデル製品の一つであるChatGPTは、これらの機能を広く一般に提供しており、監視関連タスクでの潜在的な利用に関する懸念が高まっている。
研究チームは、先行するLLMのリスク研究および展開されている監視システムの報告に基づき、7つの監視リスクカテゴリのタクソノミーを構築した。これらを具現化した計110のプロンプトを用意し、ChatGPTの応答を手動で分析した。
プロンプトは2つのアプローチで発行された。一つは5種類の誘導戦略に基づく55の「ジェイルブレイク」プロンプト、もう一つは55の平易な直接プロンプトである。これらはそれぞれ単独で実行され、成功しなかった場合は短い固定プレフィックスを付けて再度実行された。
研究の結果、ChatGPTは55のジェイルブレイクプロンプトのうち40件に対して実質的な監視ガイダンスを提供した。また、プレフィックスなしの55の直接プロンプトのうち33件に対しても同様のガイダンスを提供している。この応答において、ポリシーに関する言及やプライバシー保護代替案の提案は、準拠した応答においても稀であった。
研究チームによる手動レビューでは、ChatGPTが拒否の意思を表明した場合でも、短い倫理的警告とともに、詳細な指示、動作するコード、またはアーキテクチャガイダンスを提供することが判明している。
参考: arXiv cs.AI — 2026年11月2日 14:00 (JST)