大規模言語モデル、人間可読テキストなしで高効率ファインチューニング—新手法DASAが有効性示す
Jinhao Zhang氏らは2026年9月25日(現地時間)、大規模言語モデル (LLM) の効果的なファインチューニングにおいて、人間が読解可能なテキスト形式が必須ではない可能性を示唆する論文をarXivで発表した。同研究では、モデルに最適化された訓練表現が、人間可読性を必要とせずとも適応性能を維持または向上させるかどうかに焦点を当てた。活性化勾配フィードバックを活用する合成データ生成手法「Desired-Update-Aligned Synthetic Data (DASA)」を提案し、その有効性を実証している。