リサーチ・論文

大規模言語モデルの知識獲得、補助ビューが学習効果向上に寄与と指摘

arXiv cs.CL は2026年9月3日(現地時間)、「Knowledge Acquisition During Pre-training? Large Language Models Learn Better With Auxiliary Views」と題する研究論文を公開した。大規模言語モデル (LLM) が事前学習中に知識をどのように獲得するかという未解明な点に対し、知識の再構成である補助的ビューが学習に因果的に寄与すると提唱。実験を通じて、データ多様性の重要性を裏付けるメカニズムを報告した。

リサーチ・論文

arXiv論文、LLMの文脈依存型アンラーニング手法に限界指摘

arXiv cs.CL は2026年8月20日(現地時間)、サヒル・カレ氏らが発表した論文「ConceptGuard: Benchmarking Context-Sensitive Unlearning in Large Language Models」を公開した。この論文は、大規模言語モデル (LLM) における有害知識の選択的除去(アンラーニング)に関する既存手法の限界を指摘。既存ベンチマークが事実の直接想起に偏り、有害な振る舞いを排除しつつ有益な知識を保持するというアンラーニングの主要要件を捉えきれていないと主張している。

リサーチ・論文

CausalGate、トランスフォーマーの効率向上へ新手法

Kiran Nair (キラン・ネアー) 氏、Smriti Regmi (スムリティ・レグミ) 氏、Rodrigue Rizk (ロドリグ・リスク) 氏らは7月28日(現地時間)、arXivで公開された論文の中で、トランスフォーマーの推論効率を向上させる新しいフレームワーク「CausalGate (コーザルゲート)」を開発したと発表した。CausalGateは、大規模言語モデル (LLM) における冗長なモジュールを特定し除去することで、計算効率を高めることを目的としている。

リサーチ・論文

「E-Bench」がLLMエージェント評価に新風、実世界シナリオで多段階ツール利用を検証

arXiv cs.AIは7月26日(現地時間)、大規模言語モデル(LLMs)による多段階ツール利用エージェントの評価を目的とした新たなベンチマーク「E-Bench」を2026年に発表しました。このベンチマークは、現実世界のプロダクトシナリオを模倣した323のステート変更タスクを特徴とし、「Honor of Kings」「QQ Music」「Tencent Meeting」の三つのドメインを横断します。既存ベンチマークが抱えるスケーラビリティや制御性の課題に対応し、完全に合成された環境とタスクを通じて、より精密な評価を可能にするとしています。