arXivは2026年11月19日(現地時間)、「TALD (Transferability-Aware Logit Disentanglement)」と題する論文を発表した。同論文では、クロスモーダル知識蒸留における負の転移(negative transfer)を抑制し、精度向上を図る新たな2段階フレームワーク「TALD」が提案されている。TALDは、ソースモダリティからの教師情報とターゲットモダリティの特性が衝突する際に生じる負の転移を回避するため、モダリティ一般およびモダリティ特有のコンポーネントにロジットを分解する手法を用いる。

TALDフレームワークは、クラスアラインされたロジット空間で機能する。主要な要素として、Residual DisentanglerとSample-Adaptive Modulatorが含まれる。Residual Disentanglerは、タスク依存の自己利益基準とクロスモーダル排他性基準に基づき、教師モデルと独立して訓練されたターゲットモダリティ参照学生モデルからのロジットを、モダリティ一般コンポーネントとモダリティ特有コンポーネントに分解する。

Sample-Adaptive Modulatorは、分解制約とサンプル固有の融合重みを調整する役割を担う。学習されたモダリティ一般コンポーネントはその後、適応的に融合され、最終的な学生モデルの指導に用いられる。

フイ・リー (Hui Li) 氏ら複数の研究者によるこの提案は、視覚、音声、テキストにわたる5つのベンチマークで評価された。TALDは比較された手法の中で最大の平均精度向上と最高の正の転移頻度を示した。また、10の転移方向でそれぞれ5回実行された評価において、蒸留なしの訓練と比較して84%のケースで改善を達成し、ベースラインの最大70%を上回った。この手法は、精度と効率の有利なトレードオフを提供する。


参考: arXiv cs.CV (アーカイブ) — 2026年11月20日 14:00 (JST)

原文ハイライト

"TALD achieves the largest mean accuracy gain and highest positive-transfer frequency among the compared methods."

この記事をシェア
X はてブ LinkedIn