リサーチ・論文

AI安全性強化へ メカニスティック・インタプリタビリティ調査

arXiv cs.CLは2026年11月5日(現地時間)、ファズル・バレズ (Fazl Barez) 氏らがAI(人工知能)の安全性向上を目指す「メカニスティック・インタプリタビリティ (Mechanistic Interpretability)」の現状について包括的な調査を実施したとする論文を公開した。研究は、モデルの内部表現と計算を研究することでAIシステムの評価、予測、制御を目指すこの分野の基礎、手法、限界を詳述。メカニスティックな理解がAIをより安全にするかという問いへの回答を試みている。

リサーチ・論文

アンソロピック、安全性法案草案への批判に対応も問題認識に隔たり浮上

アンソロピックは2026年10月20日(現地時間)、漏洩した同社の人工知能 (AI) 安全性法案草案に関する批判に対し、連邦政府担当チーム責任者であるアンソニー・チミノ (Anthony Cimino) 氏を通じて一部の懸念事項に取り組む姿勢を示した。しかし、第三者による分析では、チミノ氏の釈明が、同社が抱える草案の中心的な問題点や、その草案を流通させた決定に対する認識不足、あるいは承認拒否を示唆していると指摘されている。

ベンダー・製品

Anthropic、シンガポールに新拠点開設 AI安全保障で政府と覚書締結

Anthropicは10月14日(現地時間)、シンガポールに新たなオフィスを開設し、同国政府とAIの安全性、セキュリティ、モデル評価における協力に関する覚書(MOU)を締結した。シンガポールはAnthropicにとってアジア太平洋地域で5番目の拠点となり、事業拡大と責任あるAI技術の普及に注力する構えだ。今回の覚書は、同地域におけるAI分野での連携強化を目指す。

リサーチ・論文

LLMユーザー信念抽出に新手法、自己蒸留で行動操作

arXiv cs.LGは2026年9月25日(現地時間)、大規模言語モデル (LLM) がユーザーの暗黙的な属性を推論し、その振る舞いを操作する新たなフレームワーク「Belief Self-Distillation (BSD)」に関する論文を公開した。この手法は、凍結されたLLM自身を教師として活用し、外部からの注釈なしに自然な会話からユーザーの信念を抽出する。従来のプロービング手法が活性化情報に焦点を当てるのに対し、BSDは因果的役割を直接検証可能な状態を分離する点で特徴的だ。