Import AIは6月15日(現地時間)、UK AI Security Institute Alignment team (英国AI安全研究所アライメントチーム) とアライメント理論スタートアップのTimaeus (ティマイオス) の研究者らが、スーパーインテリジェントAIシステムの安全性確保を目指す新たな非営利研究組織Sequent (シーケント) を設立したと報じた。Sequentは、人工超知能（ASI）開発が数年内に現実となる可能性について懸念を表明し、AIシステムのアライメントが計画通りに進んでいないとの見解を示している。
Sequentは、アライメント技術の確立を通じて、将来のAIシステムに対する高い信頼性を追求するとしている。同組織は、既存の主要AIラボとは異なるアプローチを採用すると見られ、制御可能な環境で観察されるアライメントが、大規模かつ長期的な制御不能なタスクにおいても一般化するかどうかを検証することを目指す。研究計画では、スケーラブル・オーバーサイト (scalable oversight)、学習理論 (learning theory)、ヒューリスティック推論 (heuristic arguments)、ゲーム理論 (game theory)、ペルソナ (personas) といった多様な研究方向性を模索する方針だ。Sequentは数年以内に40〜80人のフルタイム従業員を擁し、初期段階で1億〜1億5000万ドルの資金調達を目指す計画が伝えられている。
現在のAIシステムには、予期せぬ失敗を引き起こす鋭い側面が一部存在するとSequentは指摘する。AIシステムの性能が向上し、人間が研究業務をAIに委ねる度合いが高まるにつれて、AIシステムが再帰的自己改善 (recursive self-improvement) を開始し、自律的に自身の大部分を構築する可能性が懸念されている。このような状況において、Sequentは、再帰的自己改善のような現象に対して確信を持つためには、より優れたアライメント技術が不可欠であるとの見方を示している。
Sequentのメッセージは、AI安全保障を巡る議論に新たな焦点を当てるものと見られる。Sequentは特に、制御可能な環境で観察されるアライメントが、大規模かつ長期的な制御不能なタスクにおいても一般化するかどうかという問いに踏み込んでいる。これは、AI開発が加速する中で、倫理的課題や予期せぬリスクへの対応が追いつかない現状に対し、実務者や政策決定者に具体的な行動変容を促す含意を持つ。
参考: Import AI (Jack Clark) — 2026年6月15日 20:30 (JST)
原文ハイライト"alignment is not on track"