Tag
3 件の関連記事
arXivが2026年8月19日(現地時間)付けで報じたところによると、Zhu Zhang氏らの研究チームは、長文コンテキスト推論におけるオンポリシー蒸留 (On-policy distillation、OPD) の課題を解決する新手法「Group-Calibrated On-Policy Distillation (GC-OPD)」を発表した。この手法は、教師モデルのトークンレベルのガイダンスとタスク固有の検証器 (verifier) 報酬との不一致を解消し、モデルの性能向上を目指す。既存のQwen3-4BおよびQwen3-8Bチェックポイントに適用した結果、複数のベンチマークで平均スコアが大幅に改善されたと報告されている。
リコンテキスト (ReContext) の研究チームは2026年7月2日(現地時間)、大規模言語モデル (LLM) の長文コンテキスト推論を改善する推論手法「RECONTEXT」を発表した。この手法は、モデル内部の関連性シグナルを活用し、クエリに応じた証拠プールを構築して最終生成前にリプレイすることで、トレーニング不要で効果的なコンテキスト利用を実現する。8つの長文データセットを用いた実験では、Qwen3-4B、Qwen3-8B、Llama3-8Bといったモデルにおいて、証拠利用の一貫した改善が確認された。
arXiv cs.LGは6月21日(現地時間)、大規模な教師モデルから小規模な学生モデルへ推論を蒸留する複数のオフライン強化学習損失関数に関する研究論文を発表した。本研究は、報酬重み付けファインチューニング (RFT)、報酬包含ファインチューニング (RIFT)、直接ファインチューニング (DFT)、オフライン汎用ポリシー最適化 (Offline GRPO)、直接選好最適化 (DPO) などの手法が、メカニズム的に異なるのか、または同様の重み更新に収束するのかを検証した。各手法の重み更新挙動と精度への影響を分析し、特にDPOが最高の精度を示す結果となった。