Распределение Радемахера

Радемахер

Поддерживать	$k\in \{-1,1\}\,$
ПМФ	$f(k)=\left\{{\begin{matrix}1/2&{\mbox{if }}k=-1,\\1/2&{\mbox{if }}k=+1,\\0&{\mbox{otherwise.}}\end{matrix}}\right.$
CDF	$F(k)={\begin{cases}0,&k<-1\\1/2,&-1\leq k<1\\1,&k\geq 1\end{cases}}$
Иметь в виду	$0\,$
медиана	$0\,$
Режим	Н/Д
Дисперсия	$1\,$
асимметрия	$0\,$
Избыточный эксцесс	$-2\,$
Энтропия	$\ln(2)\,$
МГФ	$\cosh(t)\,$
CF	$\cos(t)\,$

В теории вероятностей и статистике ( распределение Радемахера названное в честь Ганса Радемахера ) представляет собой дискретное распределение вероятностей , где случайная величина X имеет 50% вероятность быть +1 и 50% вероятность быть -1.

Ряд , (то есть сумму) распределенных переменных Радемахера можно рассматривать как простое симметричное случайное блуждание где размер шага равен 1.

Математическая формулировка

Функция массы вероятности этого распределения равна

$f(k)=\left\{{\begin{matrix}1/2&{\mbox{if }}k=-1,\\1/2&{\mbox{if }}k=+1,\\0&{\mbox{otherwise.}}\end{matrix}}\right.$

С точки зрения дельта-функции Дирака , как

$f(k)={\frac {1}{2}}\left(\delta \left(k-1\right)+\delta \left(k+1\right)\right).$

Границы сумм независимых переменных Радемахера

В теории вероятностей существуют различные результаты, связанные с анализом суммы iid переменных Радемахера, включая неравенства концентрации , такие как неравенства Бернштейна , а также неравенства против концентрации, такие как гипотеза Томашевского.

Неравенства концентрации

Пусть { x _i } — набор случайных величин с распределением Радемахера. Пусть { a _i } — последовательность действительных чисел. Затем

$\Pr \left(\sum _{i}x_{i}a_{i}>t||a||_{2}\right)\leq e^{-{\frac {t^{2}}{2}}}$

где || а || ₂ — евклидова норма последовательности { a _i }, t действительное число, а Pr( Z ) — вероятность события Z. > 0 —

Пусть Y = Σ x _i a _i и Y — почти наверное сходящийся ряд в банаховом пространстве . Для t > 0 и s ≥ 1 имеем

$\Pr \left(||Y||>st\right)\leq \left[{\frac {1}{c}}\Pr(||Y||>t)\right]^{cs^{2}}$

для некоторой постоянной c .

Пусть p — положительное действительное число. Тогда неравенство Хинчина говорит, что

$c_{1}\left[\sum {\left|a_{i}\right|^{2}}\right]^{\frac {1}{2}}\leq \left(E\left[\left|\sum {a_{i}x_{i}}\right|^{p}\right]\right)^{\frac {1}{p}}\leq c_{2}\left[\sum {\left|a_{i}\right|^{2}}\right]^{\frac {1}{2}}$

где c ₁ и c ₂ — константы, зависящие только от p .

Для p ≥ 1, $c_{2}\leq c_{1}{\sqrt {p}}.$

Гипотеза Томашевского

В 1986 году Богуслав Томашевский предложил вопрос о распределении суммы независимых переменных Радемахера. Серия работ по этому вопросу завершилось доказательством в 2020 году Натаном Келлером и Охадом Кляйном следующей гипотезы.

Гипотеза. Позволять $X=\sum _{i=1}^{n}a_{i}X_{i}$, где $a_{1}^{2}+\cdots +a_{n}^{2}=1$ и $X_{i}$являются независимыми переменными Радемахера. Затем

$\Pr[|X|\leq 1]\geq 1/2.$

Например, когда $a_{1}=a_{2}=\cdots =a_{n}=1/{\sqrt {n}}$, можно получить следующую оценку, впервые показанную Ван Зейленом.

$\Pr \left(\left|{\frac {\sum _{i=1}^{n}X_{i}}{\sqrt {n}}}\right|\leq 1\right)\geq 0.5.$

Оценка точная и лучше, чем та, которую можно получить из нормального распределения (приблизительно Pr > 0,31).

Приложения

Дистрибутив Радемахера использовался при начальной загрузке .

Распределение Радемахера можно использовать, чтобы показать, что нормально распределенные и некоррелированные не означают независимости .

Случайные векторы с компонентами, выбранными независимо от распределения Радемахера, полезны для различных стохастических аппроксимаций , например:

• Хатчинсона Оценщик трассы , который можно использовать для эффективной аппроксимации следа матрицы , элементы которой не доступны напрямую, а скорее определены неявно через матрично-векторные произведения.
• SPSA — дешевая в вычислительном отношении аппроксимация стохастического градиента без производных, полезная для численной оптимизации .

Случайные величины Радемахера используются в неравенстве симметризации .

Связанные дистрибутивы

• Распределение Бернулли : если X имеет распределение Радемахера, то ${\frac {X+1}{2}}$ имеет распределение Бернулли (1/2).
• Распределение Лапласа : если X имеет распределение Радемахера и Y ~ Exp(λ) не зависит от X , то XY ~ Лапласа(0, 1/λ).