デジタル病理学向け知識蒸留を効率化 教師固有表現で新モデルOMNI公開
Sofiène Boutaj氏らの研究グループは10月7日(現地時間)、デジタル病理学におけるマルチティーチャー蒸留（MTD）のスケーリングに関する研究成果をarXiv cs.CVに発表した。標準的なMTDアプローチが教師数の増加に伴い性能が低下する課題に対し、教師固有の表現を学習することがスケーリングの鍵であると提唱。これによりコンパクトな生徒エンコーダの訓練が可能となり、大規模なタスクセットにおいて既存モデルを上回る効率と性能を実現した強力な基盤モデルコレクション「OMNI」を公開した。