Tag
11 件の関連記事
arXivは10月30日(現地時間)、Guangfu Guo氏らの研究者グループが、連続拡散言語モデル（CDLM）の長文生成における課題を解決する訓練不要の手法「RangeSWA」を発表した。この手法は、訓練長を超えるテキスト生成時にCDLMで頻発するテキスト繰り返しや意味の一貫性喪失、品質劣化といった問題を抑制する。RangeSWAは、local sliding-window attention、remote block summaries、dynamic content retrievalを統合し、長距離コンテキストへのアクセスを効率化することで、これらの課題に対応する。
ミンギュ・ジャオ氏 (Mingyu Zhao) らは10月27日(現地時間)、オンライン学術論文公開サイトarXiv cs.CLで論文を発表し、拡散言語エージェント (Diffusion Language Agents) の推論効率を大幅に向上させる新手法「メタ認知デコーディング (Metacognitive Decoding)」を提案した。この手法は、計算資源の利用と生成テキスト量を動的に調整するメタ認知コントローラーを導入することで、応答生成における総計算量を削減し、効率的なAIインタラクションを実現する。
arXiv cs.CLは2026年10月7日(現地時間)、歴史的文書の光学的文字認識 (OCR: Optical Character Recognition) システム評価に関する論文を発表した。同論文は、従来の文字エラー率 (CER: Character Error Rate) のような標準的な評価指標が、氏名や日付、識別子といった意味のある情報の保持を必ずしも反映しないと指摘。OCRエラーのエンティティレベル分析を新たな評価軸として導入し、OCR品質評価への包括的なアプローチを提案している。
論文「Capacity, Responsiveness and Alignment: What Makes a Latent Structure Actionable」は9月27日(現地時間)、言語モデル（LMs）の活性化空間における潜在構造が因果的影響を及ぼす際の3つの主要因として、「Capacity」「Responsiveness」「Alignment」を提示した。本研究は、モデルの振る舞いを理解し、制御するための新しいアプローチを示唆している。
エイアールカイヴ シーエス ドット シーエル (arXiv cs.CL) は2026年9月24日(現地時間)、オンライン上で拡散する陰謀論的言説の意図を検出する新たなエージェントベースのフレームワークを提案したと発表した。この研究は、明示的な主張や固定的な語彙マーカーのみに依存する既存の手法とは異なり、関連する社会的コンテキストを活用することで、話者の隠された意図をより正確に推測するアプローチを導入するもので、新たな検出基準を示す可能性を秘めている。
arXiv cs.CLは2026年9月10日(現地時間)、論文「The Cost of Compression: A Rate-Distortion Limit on Factual Hallucination」を発表した。この研究は、閉鎖型質問応答 (closed-book question answering) における事実の幻覚が、情報の圧縮に起因する歪みによって生じる可能性を指摘する。従来の説とは異なり、モデル内部に事実が存在しても有限メモリによって近似的に保存される場合にエラーが発生する機構を提示する。
Yucheng Jiang氏、Zora Zhiruo Wang氏、Ruishi Chen氏、Diyi Yang氏らの研究者グループは8月20日(現地時間)、コンピューター利用履歴からタスクモデルを誘導する新手法「Task Model Induction (TMI)」を発表した。TMIは、スクリーンショットやマウス、キーボード操作といった受動的に記録された自然なコンピューター利用履歴から、日常業務がどのように行われるかのモデルを導出することを目指している。これは、従来のタスクモデル誘導手法が抱える特定のタスク前提や構造化されたタスクモデルの欠如といった課題を克服し、未制約の利用履歴から潜在的なタスクを自律的に発見・分離する画期的なアプローチを示している。
Hao Liang (ハオ・リャン) 氏らは7月28日(現地時間)、エンタープライズエージェントが複数の知識ソースを統合する能力を評価する新たなベンチマーク「WorkSurface-Bench (ワークサーフェス・ベンチ)」を発表した。arXiv cs.CLで公開されたこのベンチマークは、文書、表、グラフといった異なる「サーフェス」からの情報選択能力を測定することを目的とし、1,151の個別タスクで構成されている。
arXiv cs.CLは2026年6月4日(現地時間)、言語モデルが推論を誤るメカニズムが新たに解明されたと発表した。研究者チームは、モデルの推論過程に残るトークンレベルの不確実性信号に着目。分析の結果、推論失敗には「コミット型失敗」と「持続的不確実性」という、経験的に区別可能な二つの主要なプロセスが存在することを特定した。
学術論文リポジトリ「arXiv cs.CL」が2026年5月6日(現地時間)付けで報じたところによると、事前学習済み言語モデル (LMs) が文法性に関して文字列の尤度とは異なる暗黙的な区別を獲得している可能性が示された。研究者らは線形プローブを用いた内部表現の分析を通じて、この文法性の区別が人間が作成したベンチマークや複数の言語において、尤度に基づく判断を上回る性能を示すことを発見した。
arXiv cs.CLは5月6日(現地時間)、Mina Gabriel氏による研究論文が、大規模言語モデルにおける「幻覚」(Hallucination)検出の新たな手法「ファーストトークン信頼度 (phi_first)」の有効性を示したと報じた。この手法は、単一のグリーディデコードにおける最初の内容を持つ回答トークンの上位Kロジットの正規化エントロピーから算出される。従来のサンプリングベースの手法と比較し、低コストで同等以上の性能を発揮することが明らかになった。