Appleは2026年9月27日(現地時間)、機械学習研究ブログ「Apple ML Research」にて、連合最適化を用いた確率的変分不等式 (VIs) の解法に関する研究論文を発表した。同研究は、既存の収束率と連合凸最適化の最先端の間のギャップを埋めることを目的とし、新たなアルゴリズム「ローカル・インエグザクト・プロキシマル・ポイント・アルゴリズム・ウィズ・エクストラ・ステップ (LIPPAX)」を提案している。
同研究論文はFaster Rates for Federated Variational Inequalitiesと題され、連合最適化における確率的変分不等式の解法が近年注目を集めていると指摘する。既存の収束率には改善の余地があり、連合凸最適化における最先端の理論的な限界との間に大きなギャップが存在するとされている。
論文ではまず、一般のスムーズかつ単調な変分不等式に対し、従来のローカル・エクストラSGD (Local Extra SGD)アルゴリズムの保証が、より洗練された分析により厳密になることを示した。その上で、ローカル・エクストラSGDが過度なクライアントドリフトを引き起こす可能性という固有の限界を特定した。
この課題に対処するため、Appleの研究者らは新たなアルゴリズム「LIPPAX」を提案した。LIPPAXはクライアントドリフトを軽減し、有界ヘシアン、有界オペレーター、低分散設定を含む複数の条件下で改善された保証を達成することが示されている。最終的に、研究結果は連合複合変分不等式にも拡張され、改善された収束保証が確立された。
この論文は、グアンフイ・ワン (Guanghui Wang) 氏とサティエン・カレ (Satyen Kale) 氏によって執筆された。ワン氏はジョージア工科大学に所属しており、Apple在籍中にこの研究を行った。
参考: Apple ML Research (アーカイブ) — 2026年9月28日 09:00 (JST)
原文ハイライト"we study federated optimization for solving stochastic variational inequalities (VIs)"