Tag
9 件の関連記事
arXiv cs.CLは9月10日(現地時間)、ヴァルン・テジャ・チュンドゥル氏らの研究チームが、大規模言語モデル (LLM) が生成する誤情報「ハルシネーション」を検出する新たなマルチシグナル検出パイプラインを発表した。このパイプラインは、HaluEvalベンチマークの一般ドメインタスクで、F1スコア0.915、AUROC (Area Under the Receiver Operating Characteristic curve) 0.977を達成したと報告されている。
Jiuzhou Lin らは9月2日(現地時間)、ビデオ生成モデルにおける人間の嗜好とのアラインメントとモデル蒸留を単一ステージで統合する最適化フレームワーク「DM-Align」に関する研究成果をarXiv cs.CVで発表した。この新手法は、従来手法が抱えていた計算コストの増大やモデルの不安定化といった課題を解決することを目的としている。
arXivは2026年8月12日(現地時間)、Albus W. Ng (アルバス・W・ン) 氏らが執筆した論文「Agent Safety Should Be a Runtime Contract」を公開した。同論文は、現在のAI安全性確保の主流な考え方であるモデルトレーニング時のアプローチが、コード実行やファイル変更を行う自律型エージェントには構造的に不十分であると指摘している。エージェントの安全性は、ハーネスによって強制されるランタイム契約であるべきだと提言した。
arXivは2026年8月6日(現地時間)、大規模言語モデル (LLM) が外部シグナルに過度に依存する問題に対し、誤解を招くコンテキストへの脆弱性を「選択的信頼」として捉え直し、これを最適化する新たな学習手法を提案する論文「Learning When to Trust via Selective Context Preference Optimization」を公開した。研究チームは、誤情報によってモデルの正答が誤答に変化する現象を評価するため、人間がアノテーションを付与したベンチマーク「MIST (ミスト)」と、誤情報による誤答への変化頻度を測るメトリクス「SC2W (エスシーツーダブリュー)」を導入した。
Appleは2026年8月(現地時間)、マルチモーダル大規模言語モデル（MLLM）におけるアラインメントに関する包括的な研究を発表した。大規模言語モデル（LLM）の性能向上に不可欠な選好アラインメントについて、MLLMでの影響はこれまで十分に探求されてこなかった。本研究は、MLLMが画像理解タスクで直面するハルシネーション（誤った情報の生成）などの課題に対し、モデルの応答を画像情報により正確に一致させることを目的とする。特に、追加のアノテーションや外部モデルを必要としない新しいマルチモーダル選好データ作成手法「Bias-Driven Hallucination Sampling (BDHS)」を導入し、エッジデバイスでのMLLM実用化への道を拓く可能性を示唆している。
arXivは5月1日(現地時間)、大規模言語モデル（LLMs）の安全性アライメントにおける新たな脆弱性を指摘する論文を発表した。この研究は、BPEトークン化（Byte-Pair Encoding tokenization）が安全上重要な単語をサブワードに分割することで、文字レベルの摂動がLLMsの安全機能を回避するメカニズムを特定。その回避策の現状と課題について詳細な分析結果を報告している。
arXiv cs.LGは6月21日(現地時間)、大規模な教師モデルから小規模な学生モデルへ推論を蒸留する複数のオフライン強化学習損失関数に関する研究論文を発表した。本研究は、報酬重み付けファインチューニング (RFT)、報酬包含ファインチューニング (RIFT)、直接ファインチューニング (DFT)、オフライン汎用ポリシー最適化 (Offline GRPO)、直接選好最適化 (DPO) などの手法が、メカニズム的に異なるのか、または同様の重み更新に収束するのかを検証した。各手法の重み更新挙動と精度への影響を分析し、特にDPOが最高の精度を示す結果となった。
arXiv cs.CLは2026年6月18日(現地時間)、論文を公開した。Haw-Shiuan Chang氏ら研究グループは、大規模言語モデル (LLM) のアライメントにおいて、ユーザーの暗黙的なフィードバックが有効であることを明らかにした。既存手法の課題である明示的フィードバック収集の高コストを克服するため、研究グループはマウス軌跡や視線データを含む新たなデータセット「IFLLM」を構築。このデータに基づいた報酬モデルが、テキストベースの報酬モデルの精度を55%から64%に向上させ、Direct Preference Optimization (DPO) を8つのLLMに適用した場合の応答品質改善を約3倍に高めたと報告している。
arXiv cs.CLは6月15日(現地時間)、研究論文を公開し、言語モデルが目標達成への現在の戦略の可能性として定義される「価値」を内部的に追跡している可能性があると指摘しました。Nick Jiang氏、Isaac Kauvar氏、Jack Lindsey氏らの研究チームは、Qwen3-8Bモデルにおいて、モデルの行動の「価値」を示す軸を構築。この軸の活性化が、モデルが表明する自信の程度、思考の経路（後戻りの有無）、および生成されるコードの正確性といった複数の要素を区別することを示しました。