Microsoftは2026年7月28日(現地時間)、AI（人工知能）安全評価における盲点を解消するため、6大陸の18大学研究室に対し、使途を限定しない助成金を供与すると発表した。この取り組みは、AIシステムの安全性テストがこれまで主に開発企業内部で行われてきたことによる構造的な限界に対処するもの。マイクロソフトのAIレッドチームが主導する「External Red Team Alliance (EXTRA)」プログラムは、分散型ネットワークを構築し、多様な専門知識を取り入れることで、フロンティアAIの多岐にわたる危険な故障モードを特定する狙いがある。
EXTRAプログラムは、マイクロソフトのAIレッドチームのラム・シャンカー・シヴァ・クマール (Ram Shankar Siva Kumar) 氏が7月27日(現地時間)に発表した。このプログラムは、使途を限定しない助成金を受け取る18の大学研究室によるグローバルな学術ネットワークと、特定の攻撃クラス、言語、文化的文脈、技術領域を対象としたレッドチーム演習に直接参加できる研究者、実務家、地域専門家による運用スペシャリストネットワークの2部構成となっている。助成金が提供される16の公表された機関には、カーネギーメロン大学のCyLabやハーバード大学のバークマン・クライン・センター (Berkman Klein Center for Internet and Society)、インド工科大学マドラス校のCentre for Responsible AIなどが含まれる。
AIのレッドチーム評価は、冷戦時代の軍事演習に由来し、AIシステムを危険な機能、悪用可能な故障モード、有害な出力について展開前に調査する構造化された敵対的テストである。初期のAIレッドチーム評価は、敵対的プロンプトの生成やコンテンツ安全性のエッジケース、プロンプトインジェクションの脆弱性発見に焦点を当てていた。しかし、フロンティアAIの進化に伴い、そのリスクは拡大している。現在のレッドチームの範囲には、セキュリティ運用ツールが与えられた際のモデルの挙動、標的型誤用への武器化、言語や文化による危害の現れ方の違い、地理的に異なるドメイン固有の展開コンテキストにおけるアライメントの失敗などが含まれる。企業内部の、主に英語話者のセキュリティエンジニアから成るチームでは、他の地域のユーザーにとって最も重要な故障モードを構造的に検出できない可能性があると指摘されている。
EXTRAは、この構造的な深さの問題に対し、グローバルな学術ネットワークと分散型スペシャリストネットワークの二つの仕組みで対処する。学術ネットワークへの助成金は使途が限定されておらず、これにより研究者は企業が定義する要件ではなく、自らの問いを追求できる。運用スペシャリストネットワークは、特定のモデルや展開のストレステストといった応用的な、期間が限定された作業のために設計されている。トロント大学のニコラ・パペルノット (Nicolas Papernot) 教授は、業界との提携により、研究者がフロンティア技術を実際に操作し、モデルの動作を理論の外から理解できる利点を強調した。インド工科大学マドラス校のバララマン・ラビンドラン (Balaraman Ravindran) 教授は、フロンティアモデルの能力向上に伴い、特にリソースの少ない環境で新たなリスク機会が生じるため、評価における幅広い国際的な参加が、見過ごされがちな地域のローカルリスクを明らかにできると述べた。
EXTRAを通じて資金提供される研究分野は、マイクロソフトのAIレッドチームが高度なAIシステムの評価で「継続的に遭遇する」内容を反映している。これには、AIシステムが運用環境でどのように攻撃、操作、悪用され得るかというサイバーセキュリティへの影響、またAIシステムが防御者を支援し、サイバー運用を改善する方法などが含まれる。
参考: techtimes.com — 2026年7月28日 20:37 (JST)
原文ハイライト"An unrestricted grant asks researchers to ask their own."