arXiv cs.LGは2026年10月21日(現地時間)、「Self-normalized Bernstein Inequalities for Regenerative Processes and Applications to Learning Without Independence」と題する論文を公開した。この研究は、有限平均長を持つ独立同分布のマーク付きサイクルを持つ再生過程の有界関数に対する自正規化ベルンシュタインの不等式を証明した。この不等式は観測されたサイクル長を利用し、切り捨てや観測期間後に終了するサイクルに対する明示的な項を保持する。機械学習の分野における非独立同分布 (non-i.i.d.) の再生データを用いた分類の汎化誤差境界に応用可能であると提示している。
本研究で示された自正規化ベルンシュタインの不等式は、有限の決定的な集合からチューニングパラメータを選択することで、再生時間のテールに関連する一つの項を除き、全ての項が経験的となる形式を取る。この再生時間のテールに関連する項は、多くのケースで二次であることが判明した。
これらの境界は、学習目標を定義する際に応用できる。具体的には、境界の一次項のみを最小化することにより、オラクル不等式を満たす不可知論的分類器を定義することが可能である。また、研究結果によって提供される平均偏差の境界は、サンプルサイズと期待される再生時間においてミニマックス最適であることも示された。
さらに、このベルンシュタインの不等式は再生強近似と組み合わされ、観測可能なブロック分散推定量を用いたガウス近似を得るために利用される。論文はImon Banerjee氏とPierre Alquier氏によって執筆され、44ページに及ぶ。主題は機械学習 (cs.LG)、確率論 (math.PR)、統計理論 (math.ST) に分類される。
参考: arXiv cs.LG (アーカイブ) — 2026年10月22日 02:56 (JST)
原文ハイライト"We prove a self-normalized Bernstein inequality for bounded functions of a regenerative process"