トランスフォーマーの汎化能力、データセットのタイプ多様性が鍵か
アンシ・モイシオ (Anssi Moisio) 氏らは2026年9月11日(現地時間)、トランスフォーマーモデルの合成的汎化 (Compositional generalisation) に関する研究論文をarXiv cs.CLで発表した。同研究は、以前の研究で指摘された構造的汎化の困難さが、モデル固有の性質ではなくデータセットのタイプ多様性に起因する可能性を提示。タイプ多様性が合成的汎化に与える影響を検証した。
Tag
1 件の関連記事