Md Anas Biswas氏らは2026年9月27日(現地時間)、小型IoT (Internet-of-Things) デバイス向け侵入検知器の圧縮に用いられる「層ごとのプルーニング(枝刈り)」が、深刻なクラスレベルの機能不全を引き起こすことを明らかにする論文をarXiv cs.CRで発表した。同論文では、この機能不全が「入力層の飢餓 (Input-Layer Starvation)」と呼ばれ、その原因と、低オーバーヘッドでの予防および修復方法が提示されている。
同論文によると、IoTデバイス向け侵入検知器は通常、全体的な精度で評価される傾向があるが、層ごとのプルーニングは特定のクラスにおける機能不全を隠蔽する可能性があるという。具体的には、CICIoT2023データセットを用いた実験で、80%のスパース性で均一な層ごとのマグニチュードプルーニングを適用した2層の畳み込み型検知器は、精度が16ポイント低下し、マクロF1スコアが半分に減少した。その結果、34クラス中17クラスが実質的に損傷する事態に至ったと報告されている。
この問題は、単に残存する重みの数だけでは説明できず、特に最初の層に起因するとされる。最初の層は192の重みを持つが、均一なプルーニングによって38の重みが残り、その結果、64のフィルターのうち46%が全ての入力重みを失うことが判明した。この「飢餓」状態でのファインチューニングが、最初の正規化層の実行平均値を最大0.8標準偏差ずらし、モデルの機能不全に繋がると示された。
対策として、最初の192の重みを保護するか、同じスパース性でグローバルにプルーニングすることで、機能不全を防止できるとしている。また、重みを変更せずに、ラベル付けされていない訓練データで正規化統計を再計算することによって修復が可能であり、その場合、誤警報率 (false-alert rate) は33%(高密度モデルは29%)に戻ると報告されている。
さらに、損傷は第一層のスパース性の増加に伴い用量反応性を示すこと、パーセプトロンの入力層を飢餓状態にすることで同様の機能不全が再現されること、そしてこのパターンがTON_IoTデータセットでも確認されたことが記されている。この失敗は、サイレント回避ではなく、誤帰属と誤警報として現れ、均一にプルーニングされた検知器はトラフィックの72%を誤帰属させるという。
参考: arXiv cs.CR (アーカイブ) — 2026年9月28日 13:00 (JST)