CSETは2026年11月12日(現地時間)、有害なAIインシデントを迅速に停止するための「AIキルスイッチ」に関する政策提言を公表した。同報告書は、政策立案者がAIシステムに関連する損害や意図しない事象の影響を制限するため、キルスイッチの導入を検討している背景を説明。AIスタックの各層における潜在的な実装方法と、政策立案者が考慮すべき主要な点を提示している。

キルスイッチ、または緊急停止システムは、進行中の有害な事象に寄与していると見られるプロセスを迅速に停止することを可能にする。これらは産業安全などの分野で広く展開され、標準化されている。政策立案者は最近、AIシステムの運用を迅速に中断し、有害なインシデントにつながる活動を制限する「AIキルスイッチ」の義務化を提案しており、一部の政策案では政府当局がその使用を命令する権限を付与することも検討している。

AIキルスイッチや緊急停止メカニズムは、AIシステムを稼働させるハードウェアや物理インフラから、AIシステムがデジタル領域で動作することを可能にするソフトウェアや通信インフラまで、さまざまな介入レベルで実装が可能だ。各レベルには、キルスイッチに対する技術的な制御権を持ち、停止命令を実行できる「介入所有者」が存在する。介入所有者は、必ずしもテクノロジーの開発者や所有者であるとは限らない。

キルスイッチの介入は、狭い範囲から広い範囲まで効果を持つ。例えば、単一のチップへの電力供給を遮断することと、データセンター全体の電力供給を遮断することでは、その影響が大きく異なる。キルスイッチの介入行動が広範囲に及ぶほど、それに伴う付随的な損害や混乱も大きくなる可能性がある。政策立案者は、さまざまな介入が技術的および政治的な実現可能性においてどのように異なるかを考慮する必要がある。

異なる種類のインシデント(または脅威モデル)には、異なるキルスイッチが必要となる。悪意のあるアクターが商用展開されたAIモデルを使用している場合、IPアドレスフィルタリングやAPIアクセス制限、ブロックされたハーネス、チップの切断などで阻止できる可能性がある。一方、モデル展開者に知られることなく封じ込められた環境から脱出したAIエージェントの場合、より広範で、より大きな調整を要するキルスイッチの組み合わせが必要となることがある。インシデントの程度によっては、広範で、破壊的となる可能性のあるキルスイッチの行動が正当化される場合もある。キルスイッチや緊急停止命令の発令には、AIインシデントに関する情報と適切な介入メカニズムとの照合が求められる。


参考: CSET (Georgetown) (アーカイブ) — 2026年11月13日 02:11 (JST)

原文ハイライト

"Kill switches or emergency shutdown systems allow organizations to rapidly shut down processes"

この記事をシェア
X はてブ LinkedIn