マイケル・シュローダー (Michael Schroeder) 氏は11月17日(現地時間)、学術論文公開サイト arXiv cs.CV にて、コンパクトなビジョンバックボーンにおけるグローバルコンテキストと重み共有の役割を分析する論文を公開した。本論文は、EfficientNetのような畳み込みバックボーンの効率化に関する二つの構造的疑問、すなわちグローバルセルフアテンションによる認識精度向上と、表現能力を損なわない重み共有の可能性について、ImageNet-1kを用いた詳細な実験結果を提示している。
本研究では、EfficientNet-B0を制御下の実験に用い、畳み込みバックボーンの効率化に貢献する構造的疑問を検証した。
一つ目の疑問点として、マルチスケール特徴ピラミッド (BiFPN) の組み込み効果を評価した。BiFPNを分類バックボーンに組み込むだけでは、プレーンなMBConvトランクの性能 (72.86%) を上回れず、69.99%から71.81%にとどまった。しかし、これをステージアテンションと組み合わせることで、精度は73.15%に達した。
さらに、MBConvトランクを維持し、軽量なゼロゲート残差セルフアテンションアダプターをステージP3 (28x28ウィンドウ)、P4 (14x14グローバル)、P5 (7x7グローバル) に挿入する手法を導入した。この手法は単独で74.02%の精度を達成し、plain-B0の対照群 (72.92%) を0.954パーセンテージポイント上回る73.88%を記録した。学習されたアテンション振幅は、意味的深さが増すにつれてP3で27.2%、P4で45.4%、P5で66.3%と単調に上昇した。
二つ目の疑問点である重み共有の可能性については、反復されるMBConvブロック間でのリカレントな重み共有を、パス固有のBatchNorm統計 (+1,536パラメータ/パス) を用いて評価した。事後カーネル平均化では精度が17.03%に大幅に低下し、単一テンプレートのステージタイイング (-27.6%パラメータ) は66.10%で停滞した。
一方で、ステージ6で二つの共有ブロックテンプレート ([B1, A, B, A]) を交互に使用する手法を試みたところ、総モデルパラメータを10.9% (582K重み) 削減し、単一エポックで10.82ポイント回復して70.92%に達した。これは共有しない対照群と比較して1.84ポイント低い結果である。
参考: arXiv cs.CV — 2026年11月19日 14:00 (JST)