OpenAIは12月18日(現地時間)、AIシステムの内部推論プロセスであるchain-of-thought（思考連鎖）の監視可能性を体系的に評価する研究結果とフレームワークを発表した。同社は、AIが決定を下す際の思考プロセスを理解することの重要性を強調しており、これには不正行為や意図の検出も含まれると説明した。同研究は、13の異なる評価と合計24の環境で構成される評価スイートを導入し、推論モデルの振る舞いを監視する能力を具体的に測定するとしている。
OpenAIの研究は、AIシステムが直接監視が難しい決定を下す際に、その意思決定プロセスを理解することの重要性を強調している。現代の推論モデルは、最終的な回答を生成する前に明示的なchain-of-thoughtを生成することがあり、OpenAIはこれらの思考連鎖を監視することが、モデルのアクションや最終出力のみを監視するよりもはるかに効果的であると述べている。
同社の研究により、モデルがより長く「思考」し、chain-of-thoughtが長くなるにつれて監視可能性が向上することが明らかになった。また、現行のフロンティアスケールにおける強化学習（reinforcement learning）の最適化は、監視可能性を著しく劣化させないことも示された。さらに、アクションや最終出力のみの監視は、chain-of-thoughtの監視と比較して性能が大幅に劣ることが判明している。OpenAIは、GPT‑5 ThinkingやClaude 3.7 Sonnetといったフロンティア推論モデルを含む様々なモデルと比較し、多くが概ね監視可能であるものの、完璧ではないとの見方を示した。
研究では、推論の努力とモデルサイズの間にトレードオフが存在することも指摘されている。低い推論努力で実行されるモデルと比較して、より小さなモデルが高い推論努力で実行される場合、同等の能力を達成しつつ、より監視しやすくなる可能性があると分析されている。これはmonitorability taxと呼ばれる推論計算量の増加を伴うとされている。追跡質問を行い、その結果として生成されるchain-of-thoughtを監視することで、監視可能性がさらに向上することも示唆されている。OpenAIは、monitorabilityをモニターがエージェントの行動に関する関心のある特性を予測する能力と定義しており、これには不正行為や意図の検出も含まれると説明した。
このchain-of-thoughtの監視能力を評価するフレームワークは、AIの安全性とガバナンスを巡る競争構造において戦略的意義を持つ可能性が指摘されている。AI開発各社がより高度なモデルを開発する中で、その内部挙動を透明化し、予測可能にすることは、AIのアライメント（人間が意図した目標との一致）研究を加速させる上で不可欠となりうると考えられている。実務者にとっては、AIシステムの信頼性を高め、リスクを管理し、将来的な規制要件に対応するための基盤となりうる。
参考: openai.com — 2026年6月17日 10:00 (JST)