Microsoft Researchは2026年5月27日(現地時間)、AIを人間知能の代替ではなくその拡張として捉える新たな研究成果を発表した。これは信頼できるAIシステムを構築するためのより確かな道筋を提供するとされる。AIの安全性はシステムレベルの課題であり、エンジニアリングとガバナンスの活用が重要であると指摘した。
この研究は、現代のAIシステムが人間知能を複製するのではなく、人間認知と言語に既に存在する構造を拡張することで強力になっていると説明する。これにより、AIの持つ顕著な能力と、幻覚や推論の破綻といった限界の両方が説明される。AIシステムはエッセイ作成やコード生成、会話を流暢に行う一方、物体追跡や新規状況での合成的推論、真偽の区別といった人間にとって直感的なタスクに苦戦している。
Microsoft Researchの論文The Origins of Artificial Intelligence in Natural Intelligenceは、AIシステムが人間認知自体に由来する構造を拡張していると論じる。言語は人間理解の沈殿した構造を含んでおり、AIシステムはこれをモデル化し拡張することで機能している。人間が経験を通じて期待を修正するのに対し、AIシステムはテキスト内のパターンを拡張するため、意味や真理を固定する世界との生きた関わりを欠く。
この枠組みは、AI研究における課題を説明する。「構成性ギャップ」として、言語モデルが馴染みのある推論パターンには優れるが、概念を真に新規な方法で組み合わせる際には失敗する傾向がある。これは工学的な限界だけでなく構造的な境界であり、AIシステムは言語に沈殿したパターンを拡張できるが、人間が新しい概念的関係を生成するような世界指向の理解は持たない。
AIの安全に関する議論も再構築される。AIの最も直接的なリスクは、人間のような意図を持つためではなく、世界に対する内省的な責任なしに推論パターンを拡張できることにある。これには、説得力があるが根拠のない出力の生成、不完全な意思決定の規模拡大、不十分なガバナンス環境下での有害な行動の実行が含まれる。このため、AIの安全性はモデルの安全性からシステムの安全性へと移行している。組織はAIの振る舞いを制約、検証、監視するために「ハーネス」と呼ばれる多層的な保護策を導入している。責任はモデルに委ねることはできず、AIシステムを構築する人間に帰属するとされる。
現象学はAIの約束を理解する枠組みを提供する。AIシステムは人間認知に関する深い洞察、すなわち意味が強力な新しい方法で形式化、拡張、スケールできることを明らかにする。AIの主要な社会リスクは、その人間経験と認知に由来する起源を軽視し、AIを人間性を損なうライバル知能と誤解することにある。AIが人間知能を置き換えるかではなく、人間理解を拡張しつつ世界に根差したシステムをいかに責任を持って構築するかが課題である。
参考: Microsoft Research Blog — 2026年5月28日 01:00 (JST)
原文ハイライト"The Origins of Artificial Intelligence in Natural Intelligence"