クロスモーダル知識蒸留の負の転移を抑制する新フレームワーク「TALD」
arXivは2026年11月19日(現地時間)、「TALD (Transferability-Aware Logit Disentanglement)」と題する論文を発表した。同論文では、クロスモーダル知識蒸留における負の転移(negative transfer)を抑制し、精度向上を図る新たな2段階フレームワーク「TALD」が提案されている。TALDは、ソースモダリティからの教師情報とターゲットモダリティの特性が衝突する際に生じる負の転移を回避するため、モダリティ一般およびモダリティ特有のコンポーネントにロジットを分解する手法を用いる。