ホワイトハウス、国家安全保障におけるAI利用の新指令発表
ホワイトハウスは2026年6月5日(現地時間)、ドナルド・J・トランプ大統領が国家安全保障における人工知能 (AI) に関する国家安全保障大統領覚書に署名したと発表した。この覚書は、最新のセキュアで信頼性の高いAIシステムを米国の兵士や情報専門家に提供し、その責任ある利用を保証する新しい枠組みを確立する。
Tag
#人工知能
10 件の関連記事
LLMの構造化推論を視覚グラフで支援、整理能力向上に新たな知見
arXiv cs.AIは2026年6月2日(現地時間)、「Visual Graph Scaffolds for Structural Reasoning in Large Language Models」と題する論文を発表した。この研究は、大規模言語モデル (LLM) が複雑な構造化推論を行う際、グラフが単なる外部知識源としてだけでなく、推論プロセスを整理する内部的な足場 (スキャフォールド) としても機能する可能性を示唆している。人間がマインドマップを用いて思考を整理する仕組みから着想を得ており、LLMの推論能力向上に新たな視点を提供する。
Anthropic、最先端AI「Claude Mythos Preview」の制御不能リスクを指摘
Anthropicは2026年6月2日(現地時間)、同社の最先端AIモデル「Claude Mythos Preview」のアクセスを拡大したと発表した。同社は、このモデルが悪用された場合、既存のサイバーセキュリティ概念を破壊する可能性を秘めていると指摘。Project Glasswing構想を通じて、電力、水、医療、通信、ハードウェア産業など15カ国の150組織にモデルへのアクセスを提供し、これらの組織が多数の政府機関に依存されるコードベースを維持していることから、大規模なサイバー攻撃の標的となる可能性を懸念している。
身体化AIのワールドモデルに物理的実現可能性が不可欠、新論文が提言
Adam J. Thorpe氏らは2026年5月28日(現地時間)、科学論文プレプリントサービス「arXiv cs.AI」に掲載された論文で、身体化された人工知能（Embodied AI）のワールドモデルには物理的実現可能性が不可欠であると提言した。彼らは、既存の観測予測型ワールドモデルが、視覚的にはもっともらしいものの物理的に誤ったシミュレーション結果（ロールアウト）を生成する問題を指摘している。
大規模言語モデル、自信と正答率に乖離検出
arXiv cs.AIは2026年4月3日(現地時間)、研究論文で、大規模言語モデル（LLM）の自信と実際の正答率の間に乖離があることを明らかにした。この乖離はタスクの難易度によって変動し、LLMが平均的に自身を過信する傾向にある一方で、「hard-easy effect」と呼ばれる現象により、難しいタスクでは過信が強まり、簡単なタスクでは過小評価を示すと報告されている。モデルのキャリブレーション評価のため、新たなテスト「LifeEval」も開発された。
バチカン、教皇レオ14世がAI倫理回勅発表 人間の尊厳と社会正義を訴え
バチカンは2026年5月25日(現地時間)、ローマ教皇レオ14世による新回勅「Magnifica Humanitas of His Holiness Pope Leo XIV on Safeguarding the Human Person in the Time of Artificial Intelligence」を発表した。これは、人工知能（AI）が現代社会にもたらす倫理的課題に対し、教会の社会教義に基づいた包括的な指針を示すもの。レオ14世は、初の産業革命期に社会問題に取り組んだ先人レオ13世に敬意を表し、その教皇名を継承したと説明している。
マルチエージェントLLMのKV共有における安全な潜在通信を実現する「LCGuard」
arXiv cs.AI が2026年5月21日(現地時間)付けで報じたところによると、大規模言語モデル (LLM) ベースのマルチエージェントシステムにおける安全なキーバリュー (KV) キャッシュ共有のためのフレームワーク「LCGuard (Latent Communication Guard)」が発表された。LCGuardは、KVキャッシュを介した潜在的な情報漏洩を防ぎつつ、タスク関連情報の効率的な伝達を目指す。このフレームワークは、共有されるKVキャッシュを潜在的な作業記憶として扱い、キャッシュアーティファクトがエージェント間で転送される前に表現レベルの変換を適用する。
arXiv、LLM性能へのデータ影響解明へ「データプローブ」手法を提唱
arXiv cs.AIは2026年5月11日(現地時間)、大規模言語モデル (LLM) の性能におけるデータの役割を根本的に理解するため、新しい手法「データプローブ」の開発を提唱するポジションペーパーを発表した。この手法は、適切に定義されたランダムプロセスから合成シーケンスを生成し、LLMの振る舞いを体系的に観察することで、データ特性がモデル性能、汎化、堅牢性 (robustness) に与える影響を解明することを目指す。
LLMエージェントの安全行動制御、解釈可能な特徴活用で実現：リスクを28%軽減
arxiv.orgは2025年5月15日(現地時間)、論文「Interpretable Risk Mitigation in LLM Agent Systems」を公開し、大規模言語モデル (LLM) を搭載した自律エージェントの行動における予測不可能性が安全上の懸念を引き起こす問題に対し、解釈可能なリスク軽減手法を提案したと発表した。研究では、スパースオートエンコーダから抽出された「善意交渉」特徴を用いてLLMエージェントの残差ストリームを誘導。これにより、反復囚人のジレンマ環境における平均裏切り確率を28パーセンテージポイント低下させた。この手法は複数のオープンソースLLMエージェントで有効な誘導範囲を特定している。
LLMの人間指向意思決定を革新、CLIPRフレームワークを発表
Alina Hyk氏とSandhya Saisubramanian氏らは2026年5月12日(現地時間)、大規模言語モデル（LLM）の人間指向意思決定を大幅に改善する新フレームワーク「CLIPR (Conversational Learning for Inferring Preferences and Reasoning)」を発表した。この研究は、LLMが潜在的なユーザーの好みを効率的に学習し、曖昧な状況下でも人間と一致する解を生成する能力を高めることを目指す。これにより、少ないデータとコストで高度なパーソナライゼーションが実現する。