Appleは2026年8月12日(現地時間)、機械学習モデルから特定のデータポイントを削除する「アンラーニング」の効率を向上させる研究成果を発表した。モデルの学習に影響の少ないデータポイントを特定することで、計算コストを最大約50パーセント削減できるとしている。
機械学習におけるデータプライバシーへの懸念が高まる中、学習済みモデルから特定のデータポイントを削除する機能、すなわち「アンラーニング」の重要性が増している。これまでのアンラーニング手法は、忘却対象のデータセット内の全てのポイントを等しく扱っていた。
今回の研究では、モデルの学習にほとんど影響を与えないポイントを削除する必要があるのかという問いに対し、言語タスクおよびビジョンタスクにおける影響関数（influence functions: モデル出力への個々のトレーニングデータポイントの影響を評価する手法）の比較分析を実施した。その結果、モデル出力に無視できる影響しか与えないトレーニングデータのサブセットを特定した。この知見を活用し、アンラーニング処理を行う前にデータセットのサイズを削減する効率的なフレームワークが提案された。これにより、実世界の事例において、最大約50パーセントの大幅な計算コスト削減が実現した。
本研究は、ウディ・ヴィーダー (Udi Wieder) 氏、ヴィタリー・フェルドマン (Vitaly Feldman) 氏、ロバート・フィッシャー (Robert Fisher) 氏、アナト・クレイマン (Anat Kleiman) 氏らによって行われた。アナト・クレイマン氏の研究は、ハーバード (Harvard) 在籍時にAppleで行われたものである。関連研究として、2022年11月10日には、NeurIPSで非等方性ノイズを持つ異種データからのサブ空間リカバリに関する論文も発表されている。
参考: Apple ML Research (アーカイブ) — 2026年8月13日 09:00 (JST)
原文ハイライト"When Unlearning Is Free: Leveraging Low Influence Points to Reduce Computational Costs"