Gauss集中不等式 (Gaussian Concentration inequality)

ステートメント

$X_1, \ldots, X_N$を独立同分布で,各$X_i$は標準正規分布に従うとする. $L>0$とし,$f: \mathbb{R}^N \to \mathbb{R}$を$L-$リプシッツ関数とする. $Z=f(X)$とした時,任意の$t>0$に対し,

$$ \mathbb{P}\{Z -\mathbb{E}Z \geq t \} \leq e^{-\frac{t^2}{2L^2}} $$ が成立する.

証明の概要

  • いくつかの証明方法がある.1つの方法として,対数ソボレフ不等式から,$Z$の生成母関数の対数を評価し,$Z$が$L$-sub Gaussianであることを示す方法が挙げられる. この一連の証明方法をHerbstの議論(Herbst's argument)という.
  • ガウス過程に関する不等式Tsirelson-Ibragimov-Sudakov(TIS)の定理の特別な場合とみなせる.

出典

  • Boucheron et al. Concentration inequalities: A Nonasymptotic Theory of Independence (2013)
  • Evarist Giné and Richard Nickl, Mathematical Foundations of Infinite-Dimensional Statistical Models (2015)