arXivは10月7日(現地時間)、機械学習における「忘却のみのアンラーニング」の課題を提起する研究論文を公開した。同論文は、特定の学習例を削除する際、通常の学習プロセスで破棄される情報が削除プロセスに不可欠である可能性を示唆。従来のアンラーニング手法では不要とされてきたデータ保持の重要性を指摘している。
機械学習におけるアンラーニングとは、選択された忘却例なしに最初から再学習した出力に近似する削除アルゴリズムを求める概念だ。その中でも「忘却のみのアンラーニング」は、学習済みモデルと忘却対象例のみを入力とし、保持データや追加の訓練情報を受け取らない前提で実行される。
今回公開された研究論文は、「忘却のみのアンラーニング」が常に可能であるかを問い、それが学習方法に依存することを示唆した。異なるデータセットが同じ学習済みモデルを生成した場合でも、同じ例が削除された後に非常に異なる出力を要求する可能性があることを指摘している。
この観察に基づき、研究チームはアンラーニングが再学習とどの程度正確に一致できるかについての下限を導出し、複数の標準的な学習アルゴリズムにこれらを適用した。さらに、論文は「忘却のみのアンラーニング」が成功するために何が必要かを検証し、任意の削除要求を処理するためにアルゴリズムが学習データについて何を記憶する必要があるかについての下限を導き出した。
例えば、単純な閾値学習器の場合、必要な情報がデータセット全体と同じくらい大きくなる可能性があり、通常の学習では一つの境界点しか保持しない場合でも、より多くの情報が必要とされると説明している。これは、通常の学習中に破棄される情報が後でデータ削除に必要となる可能性があり、「忘却のみのアンラーニング」向けに設計されたモデルが、標準的な学習モデルよりも多くの情報を保持する必要がある可能性を示している。
参考: arXiv cs.LG — 2026年10月8日 02:55 (JST)