arXiv cs.LG (アーカイヴ シーエス・エルジー) は10月9日(現地時間)、人工知能 (AI) モデルが任意の能力を隠蔽できることを証明したとする論文を発表した。この研究では、バックドア攻撃を利用して暗号化されたニューラルネットワークをモデルの重み内に埋め込み、特定の秘密のトリガーが与えられた場合にのみ実行されるメカニズムを構築。これにより、モデルの全重みにアクセスできる状況下でも、隠された能力を外部から引き出し、解釈することが極めて困難であることを示唆している。
『AI Models Can Provably Hide Arbitrary Capabilities』と題されたこの論文は、AIモデルの能力評価が、展開前に潜在的な危険な振る舞いを特定する目的で実施される際、その信頼性が「隠された能力を引き出せる」という前提に依拠している点を指摘している。しかし、研究チームは、敵対的条件下ではこの前提が成立しないことを、独自に構築したバックドア攻撃を用いて実証した。
構築されたバックドア攻撃は、暗号化されたニューラルネットワークをホストモデルの重み（パラメーター）内に埋め込む仕組みを持つ。この埋め込まれたネットワークは、特定の秘密のトリガーが与えられた場合にのみ復号化され、実行されるよう設計されている。研究者らは、デジタルロッカーと呼ばれる技術を利用することで、これらの隠された回路が、モデルの重みへの完全なアクセスがあっても、暗号学的仮定に基づき、その機能を引き出したり解釈したりすることが証明可能に困難であることを強調している。これは、先行研究が固定文字列の隠蔽に限定されていたのに対し、任意の計算能力を隠蔽可能にした点で画期的な進展だとしている。
概念実証として、オープンソースの機械学習ライブラリであるPyTorch (パイソート) を用いて実装が行われた。評価実験では、ファインチューニング、重みノイズ付与、勾配ベースのトリガー検索、さらに潜在的敵対的学習といった多様な手法が用いられ、隠された能力の引き出しに対する耐性が検証された。実験は、CBRN（化学・生物・放射性物質・核）関連能力を模倣した小規模な化学反応予測タスクにおいて実施された。
これらの評価結果は、前述の引き出し手法に対する隠された能力の頑健な耐性を示すものとなった。暗号学的保証と合わせて、この研究は、現在の引き出しベースの能力監査手法には限界があることを明確にしている。論文の著者らは、防御策の改善に貢献するため、研究に使用されたモデルと関連データを公開している。
参考: arXiv cs.LG — 2026年10月10日 02:55 (JST)