Interconnectsが2026年10月6日(現地時間)付けで報じたところによると、AIオープンウェイトモデルのサイバーリスクを巡る現在の議論は破綻しており、アメリカのAI競争力低下と長期的なサイバーリスク増大につながる政策決定がなされる可能性が指摘された。オープンウェイトモデルの禁止が、結果的にクローズドモデルのサイバー防御能力向上機会を奪い、サイバー攻撃と防御のギャップを広げる危険性が示されている。多角的な視点とトレードオフの認識が必要であるという。
サイバーリスクを巡る議論は主に三つの視点に分かれている。一つは、アメリカのフロンティアラボのリーダーシップ層や国家安全保障コミュニティが占めるオープンウェイトモデルは社会機能にとって維持不可能なリスクをもたらすという見方である。二つ目は、OpenAI事件後のHugging Faceやジョシュア・サックス (Joshua Saxe) といったAIリスク穏健派が主張するオープンウェイトモデルは防御に不可欠であり、禁止すれば世界はより危険になるという見方。三つ目は、中国企業が社会と政府のリスク評価に基づき、強力なサイバー能力を持つオープンウェイトモデルを継続的にリリースしているという事実が挙げられている。
Anthropic によるGLM-5.3のリスクに関する報告書は、技術的な研究は合理的であるものの、サイバーリスクを理由にオープンモデルを禁止した場合どうなるかや中国企業がこれらのモデルのリリースを安全と判断する理由といった、より広範な問いへの関与を欠いていると指摘された。現在、既知のサイバー攻撃の多くは、クローズドモデルが原因であると文書化されている。オープンウェイトモデルがサイバー防御ツールとして機能する可能性があり、特にエアギャップされたネットワークにおいては、当面展開可能な唯一のツールであるとの見方も示された。
オープンウェイトモデルが禁止され、クローズドモデルのみが進歩した場合、サイバー攻撃と防御のギャップが拡大する可能性が高い。防御側が強力なAIモデルをプライベートなインフラ上で使用するための緩和策を構築するには、意味のある時間が必要である。ホワイトハウス (White House) とフロンティアラボの間の政治的な駆け引きとは異なる、中国独自のAIリスクダイナミクスが存在する。
中国政府は主要なモデルリリースを登録するよう中国企業に義務付けており、これは情報統制を目的とした評価から始まったものである。しかし、この枠組みがサイバーやバイオなどのリスクにどれだけ拡大したかは不明である。中国ではAI研究者が国外に出ることを許されず、業界は海外投資に閉鎖的になるなど、より強い社会的リスクの空気が存在する。国内での危害を引き起こした場合の個人が直面するリスクは、アメリカよりもはるかに高いと見られる。
参考: Interconnects (Nathan Lambert) (アーカイブ) — 2026年10月6日 23:22 (JST)
原文ハイライト"Open weight models pose an untenable risk to society’s functionality"