Tag
3 件の関連記事
アンソニー・フラー（Anthony Fuller）氏らは9月30日(現地時間)、自己教師あり学習（Self-supervised learning, SSL）の進展を目指す新たなオートエンコーダーフレームワーク「マスクド・スウィンガーズ（Masked Swingers）」を発表した。このフレームワークは、既存のマスクド・オートエンコーダー（Masked autoencoders, MAE）に主要な改良を加え、特に画像分類ベンチマーク『ImageNet-1K』のkNNタスクにおいて、MAEを3〜5%上回る性能を示し、その有効性が確認された。
David González-Martínez氏とShiwei Liu氏は7月9日(現地時間)、ニューラルネットワークの圧縮課題に対応する新たなトレーニング中低ランク正則化フレームワーク「エスラー (SLORR)」を発表した。同フレームワークは、既存手法の計算コストやモデルアーキテクチャ変更の制限を克服し、シンプルかつステートレスなアプローチによりディープラーニングモデルの効率的な運用を促進する。
arXiv cs.LGは6月16日(現地時間)、機械学習におけるデータセット蒸留 (Dataset Distillation, DD) 手法の有効性に疑問を呈する論文を公開した。同論文は、大規模データセットを用いた実験において、最先端のDD手法がコアセット選択 (Coreset Selection, CS) と同等か、または劣る性能を示し、その構築コストも高いと指摘。データ中心型機械学習におけるDDの実用的な利点が限定的である可能性を示唆し、CSの競争力を強調している。