Неравенство Чебышева

О неравенстве с аналогичным названием, включающем ряды, см. Неравенство сумм Чебышева .

В теории вероятностей неравенство Чебышева (также называемое неравенством Бьенеме-Чебышева ) обеспечивает верхнюю границу вероятности отклонения случайной величины (с конечной дисперсией) от ее среднего значения. Точнее, вероятность того, что случайная величина отклонится от своего среднего более чем на $k\sigma$ самое большее $1/k^{2}$, где $k$ любая положительная константа и $\sigma$ – стандартное отклонение (квадратный корень из дисперсии).

Это правило в статистике часто называют теоремой Чебышева о диапазоне стандартных отклонений от среднего значения. Неравенство имеет большую полезность, поскольку его можно применять к любому распределению вероятностей, в котором определены среднее значение и дисперсия. Например, его можно использовать для доказательства слабого закона больших чисел .

Его практическое использование аналогично правилу 68–95–99,7 , которое применимо только к нормальным распределениям . Неравенство Чебышева является более общим: минимум 75% значений должны лежать в пределах двух стандартных отклонений от среднего значения, а 88,89% — в пределах трех стандартных отклонений для широкого диапазона различных распределений вероятностей .

Термин «неравенство Чебышева» может также относиться к неравенству Маркова , особенно в контексте анализа. Они тесно связаны, и некоторые авторы называют неравенство Маркова «первым неравенством Чебышева», а аналогичное неравенство, называемое на этой странице, «вторым неравенством Чебышева».

Неравенство Чебышева является точным в том смысле, что для каждой выбранной положительной константы существует случайная величина, такая что неравенство фактически является равенством.

История

Теорема названа в честь русского математика Пафнутия Чебышева , хотя впервые ее сформулировал его друг и коллега Ирене-Жюль Бьенеме . Теорему впервые доказал Бьенеме в 1853 году. и в более общем плане доказан Чебышевым в 1867 году. Его ученик Андрей Марков представил еще одно доказательство в своей докторской диссертации 1884 года. диссертация.

Заявление

Неравенство Чебышева обычно формулируется для случайных величин , но его можно обобщить до утверждения о пространствах с мерой .

Вероятностное утверждение

Пусть X (интегрируемая) — случайная величина с конечной ненулевой дисперсией σ ² (и, следовательно, конечное математическое ожидание μ ). Тогда для любого действительного числа k > 0

$\Pr(|X-\mu |\geq k\sigma )\leq {\frac {1}{k^{2}}}.$

Только случай $k>1$ полезно. Когда $k\leq 1$ правая сторона ${\frac {1}{k^{2}}}\geq 1$ и неравенство тривиально, поскольку все вероятности ≤ 1.

В качестве примера, используя $k={\sqrt {2}}$ показывает, что значения вероятности лежат вне интервала $(\mu -{\sqrt {2}}\sigma ,\mu +{\sqrt {2}}\sigma )$ не превышает ${\frac {1}{2}}$. Эквивалентно, это означает, что вероятность значений, лежащих внутри интервала (т.е. его «покрытия» ), как минимум ${\frac {1}{2}}$.

Поскольку его можно применять к совершенно произвольным распределениям при условии, что они имеют известное конечное среднее значение и дисперсию, неравенство обычно дает плохую оценку по сравнению с тем, что можно было бы вывести, если бы было известно больше аспектов рассматриваемого распределения.

к	Мин. % в пределах k стандарта отклонения среднего значения	Макс. % за пределами k стандарта отклонения от среднего
1	0%	100%
√ 2	50%	50%
1.5	55.56%	44.44%
2	75%	25%
2 √ 2	87.5%	12.5%
3	88.8889%	11.1111%
4	93.75%	6.25%
5	96%	4%
6	97.2222%	2.7778%
7	97.9592%	2.0408%
8	98.4375%	1.5625%
9	98.7654%	1.2346%
10	99%	1%

Теоретико-мерное утверждение

Пусть ( X , Σ, µ) — пространство с мерой , и пусть f — расширенная вещественнозначная измеримая функция, на X. определенная Тогда для любого действительного числа t > 0 и 0 < p < ∞

$\mu (\{x\in X\,:\,\,|f(x)|\geq t\})\leq {1 \over t^{p}}\int _{X}|f|^{p}\,d\mu .$

В более общем смысле, если g — расширенная измеримая функция с действительным знаком, неотрицательная и неубывающая, с $g(t)\neq 0$ затем:

$\mu (\{x\in X\,:\,\,f(x)\geq t\})\leq {1 \over g(t)}\int _{X}g\circ f\,d\mu .$

Это утверждение следует из неравенства Маркова , $\mu (\{x\in X:|F(x)|\geq \varepsilon \})\leq {\frac {1}{\varepsilon }}\int _{X}|F|d\mu$, с $F=g\circ f$ и $\varepsilon =g(t)$, поскольку в этом случае $\mu (\{x\in X\,:\,\,g\circ f(x)\geq g(t)\})=\mu (\{x\in X\,:\,\,f(x)\geq t\})$.Затем за предыдущим утверждением следует определение $g(x)$ как $|x|^{p}$ если $x\geq t$ и $0$ в противном случае.

Пример

Предположим, мы случайным образом выбираем журнальную статью из источника, в которой в среднем 1000 слов на статью, со стандартным отклонением 200 слов. Затем мы можем сделать вывод, что вероятность того, что он содержит от 600 до 1400 слов (т. е. в пределах $k=2$ стандартные отклонения среднего значения) должны составлять не менее 75 %, поскольку существует не более $1/k^{2}=1/4$ шанс оказаться за пределами этого диапазона согласно неравенству Чебышева. Но если мы дополнительно знаем, что распределение нормальное , мы можем сказать, что с вероятностью 75% количество слов находится в диапазоне от 770 до 1230 (что является еще более жесткой границей).

Резкость границ

Как показано в приведенном выше примере, теорема обычно дает довольно неточные оценки. Однако эти оценки, вообще говоря (оставаясь верными для произвольных распределений), не могут быть улучшены. Границы точны для следующего примера: для любого k ≥ 1

$X={\begin{cases}-1,&{\text{with probability }}{\frac {1}{2k^{2}}}\\0,&{\text{with probability }}1-{\frac {1}{k^{2}}}\\1,&{\text{with probability }}{\frac {1}{2k^{2}}}\end{cases}}$

Для этого распределения среднее значение µ = 0 и стандартное отклонение σ = ⁠ 1 / k ⁠ , поэтому

$\Pr(|X-\mu |\geq k\sigma )=\Pr(|X|\geq 1)={\frac {1}{k^{2}}}.$

Неравенство Чебышева — это равенство именно для тех распределений, которые являются линейным преобразованием этого примера.

Доказательство

Неравенство Маркова утверждает, что для любой действительной случайной величины Y и любого положительного числа a мы имеем $\Pr(|Y|\geq a)\leq \mathbb {E} [|Y|]/a$. Один из способов доказать неравенство Чебышева — применить неравенство Маркова к случайной величине. $Y=(X-\mu )^{2}$ с $a=(k\sigma )^{2}$:

$\Pr(|X-\mu |\geq k\sigma )=\Pr((X-\mu )^{2}\geq k^{2}\sigma ^{2})\leq {\frac {\mathbb {E} [(X-\mu )^{2}]}{k^{2}\sigma ^{2}}}={\frac {\sigma ^{2}}{k^{2}\sigma ^{2}}}={\frac {1}{k^{2}}}.$

Это также можно доказать непосредственно, используя условное ожидание :

${\begin{aligned}\sigma ^{2}&=\mathbb {E} [(X-\mu )^{2}]\\[5pt]&=\mathbb {E} [(X-\mu )^{2}\mid k\sigma \leq |X-\mu |]\Pr[k\sigma \leq |X-\mu |]+\mathbb {E} [(X-\mu )^{2}\mid k\sigma >|X-\mu |]\Pr[k\sigma >|X-\mu |]\\[5pt]&\geq (k\sigma )^{2}\Pr[k\sigma \leq |X-\mu |]+0\cdot \Pr[k\sigma >|X-\mu |]\\[5pt]&=k^{2}\sigma ^{2}\Pr[k\sigma \leq |X-\mu |]\end{aligned}}$

Тогда неравенство Чебышева получается путем деления на k ² п ² .Это доказательство также показывает, почему в типичных случаях границы довольно неточны: условное ожидание события, где | Икс - мкм | < kσ отбрасывается, а нижняя граница k ² п ² на мероприятии | Икс - мкм | ≥ kσ может быть весьма плохим.

Неравенство Чебышева также можно получить непосредственно из простого сравнения площадей, исходя из представления ожидаемого значения в виде разности двух несобственных интегралов Римана ( последняя формула в определении ожидаемого значения для произвольных действительных случайных величин ).

Расширения

Было разработано несколько расширений неравенства Чебышева.

Неравенство Сельберга

Сельберг вывел обобщение на произвольные интервалы. Предположим, X — случайная величина со средним значением µ и дисперсией σ. ² . Неравенство Сельберга утверждает что если $\beta \geq \alpha \geq 0$,

$\Pr(X\in [\mu -\alpha ,\mu +\beta ])\geq {\begin{cases}{\frac {\alpha ^{2}}{\alpha ^{2}+\sigma ^{2}}}&{\text{if }}\alpha (\beta -\alpha )\geq 2\sigma ^{2}\\{\frac {4\alpha \beta -4\sigma ^{2}}{(\alpha +\beta )^{2}}}&{\text{if }}2\alpha \beta \geq 2\sigma ^{2}\geq \alpha (\beta -\alpha )\\0&\sigma ^{2}\geq \alpha \beta \end{cases}}$

Когда $\alpha =\beta$, это сводится к неравенству Чебышева. Известно, что это наилучшие возможные границы.

Конечномерный вектор

Основная статья: Многомерное неравенство Чебышева

Неравенство Чебышева естественным образом распространяется на многомерную ситуацию, где имеется n случайных величин X _i со средним значением µ _i и дисперсией σ _i ² . Тогда имеет место следующее неравенство.

$\Pr \left(\sum _{i=1}^{n}(X_{i}-\mu _{i})^{2}\geq k^{2}\sum _{i=1}^{n}\sigma _{i}^{2}\right)\leq {\frac {1}{k^{2}}}$

Это известно как неравенство Бирнбаума – Раймонда – Цукермана в честь авторов, доказавших его для двух измерений. Этот результат можно переписать в терминах векторов X = ( X ₁ , X ₂ , ...) со средним значением µ = ( µ ₁ , µ ₂ , ...) и стандартным отклонением σ = ( σ ₁ , σ ₂ , . ..), в евклидовой норме || ⋅ || .

$\Pr(\|X-\mu \|\geq k\|\sigma \|)\leq {\frac {1}{k^{2}}}.$

Можно также получить аналогичное бесконечномерное неравенство Чебышева . Второе связанное неравенство также было получено Ченом. Пусть n — размерность стохастического вектора X а E( X ) — среднее значение X. , Пусть S будет ковариационной матрицей и k > 0 . Затем

$\Pr \left((X-\operatorname {E} (X))^{T}S^{-1}(X-\operatorname {E} (X))<k\right)\geq 1-{\frac {n}{k}}$

где Y ^Т является транспонированием Y ​ . Неравенство можно записать через расстояние Махаланобиса как

$\Pr \left(d_{S}^{2}(X,\operatorname {E} (X))<k\right)\geq 1-{\frac {n}{k}}$

где расстояние Махаланобиса на основе S определяется выражением

$d_{S}(x,y)={\sqrt {(x-y)^{T}S^{-1}(x-y)}}$

Наварро доказал, что эти границы точны, то есть являются наилучшими возможными границами для этих областей, когда мы знаем только среднее значение и ковариационную матрицу X.

Стеллато и др. показал, что эту многомерную версию неравенства Чебышева можно легко вывести аналитически как частный случай Ванденберге и др. где граница вычисляется путем решения полуопределенной программы (SDP).

Известная корреляция

Если переменные независимы, это неравенство можно усилить.

$\Pr \left(\bigcap _{i=1}^{n}{\frac {|X_{i}-\mu _{i}|}{\sigma _{i}}}\leq k_{i}\right)\geq \prod _{i=1}^{n}\left(1-{\frac {1}{k_{i}^{2}}}\right)$

Берге вывел неравенство для двух коррелирующих переменных X ₁ , X ₂ . Пусть ρ — коэффициент корреляции между X ₁ и X ₂ и пусть σ _i ² быть дисперсией X _i . Затем

$\Pr \left(\bigcap _{i=1}^{2}\left[{\frac {|X_{i}-\mu _{i}|}{\sigma _{i}}}<k\right]\right)\geq 1-{\frac {1+{\sqrt {1-\rho ^{2}}}}{k^{2}}}.$

Этот результат можно уточнить, указав разные оценки для двух случайных величин. и имеющий асимметричные границы, как в неравенстве Сельберга.

Олкин и Пратт вывели неравенство для n коррелирующих переменных.

$\Pr \left(\bigcap _{i=1}^{n}{\frac {|X_{i}-\mu _{i}|}{\sigma _{i}}}<k_{i}\right)\geq 1-{\frac {1}{n^{2}}}\left({\sqrt {u}}+{\sqrt {n-1}}{\sqrt {n\sum _{i}{\frac {1}{k_{i}^{2}}}-u}}\right)^{2}$

где сумма берется по n переменным и

$u=\sum _{i=1}^{n}{\frac {1}{k_{i}^{2}}}+2\sum _{i=1}^{n}\sum _{j<i}{\frac {\rho _{ij}}{k_{i}k_{j}}}$

где ρij _— корреляция между X _i и X _j .

Неравенство Олкина и Пратта впоследствии было обобщено Годвином.

Высшие моменты

Митценмахер и Упфаль отметим, что, применив неравенство Маркова к неотрицательной переменной $|X-\operatorname {E} (X)|^{n}$, можно получить семейство хвостовых границ

$\Pr \left(|X-\operatorname {E} (X)|\geq k\operatorname {E} (|X-\operatorname {E} (X)|^{n})^{\frac {1}{n}}\right)\leq {\frac {1}{k^{n}}},\qquad k>0,n\geq 2.$

При n = 2 получаем неравенство Чебышева. Для k ≥ 1, n > 4 и предполагая, что n ^й момент существует, эта оценка является более точной, чем неравенство Чебышева. Эта стратегия, называемая методом моментов , часто используется для доказательства хвостовых границ.

Экспоненциальный момент

Родственное неравенство, иногда известное как экспоненциальное неравенство Чебышева. неравенство

$\Pr(X\geq \varepsilon )\leq e^{-t\varepsilon }\operatorname {E} \left(e^{tX}\right),\qquad t>0.$

Пусть K ( t ) — кумулянтная производящая функция ,

$K(t)=\log \left(\operatorname {E} \left(e^{tx}\right)\right).$

Переходим к преобразованию Лежандра – Фенхеля. K и используя экспоненциальное неравенство Чебышева , ( t ) имеем

$-\log(\Pr(X\geq \varepsilon ))\geq \sup _{t}(t\varepsilon -K(t)).$

Это неравенство можно использовать для получения экспоненциальных неравенств для неограниченных переменных.

Ограниченные переменные

Если P( x ) имеет конечный носитель, основанный на интервале [ a , b ] , пусть M = max(| a |, | b |) , где | х | — значение x . абсолютное Если среднее значение P( x ) равно нулю, то для всех k > 0

${\frac {\operatorname {E} (|X|^{r})-k^{r}}{M^{r}}}\leq \Pr(|X|\geq k)\leq {\frac {\operatorname {E} (|X|^{r})}{k^{r}}}.$

Второе из этих неравенств при r = 2 представляет собой оценку Чебышева. Первый обеспечивает нижнюю границу значения P( x ).

Конечные выборки

Одномерный случай

Со и др. расширили неравенство Чебышева на случаи, когда среднее значение генеральной совокупности и дисперсия неизвестны и могут не существовать, но среднее значение выборки и стандартное отклонение выборки из N выборок должны использоваться для ограничения ожидаемого значения нового рисунка из того же распределения. . Следующую более простую версию этого неравенства предлагает Кабан.

$\Pr(|X-m|\geq ks)\leq {\frac {1}{N+1}}\left\lfloor {\frac {N+1}{N}}\left({\frac {N-1}{k^{2}}}+1\right)\right\rfloor$

где X — случайная величина, которую мы выбрали N раз, m — выборочное среднее, k — константа, а s — стандартное отклонение выборки.

Это неравенство сохраняется даже тогда, когда моменты совокупности не существуют и когда выборка слабо распределена по обмену ; этому критерию соответствует рандомизированная выборка. Таблица значений неравенства Со-Янга-Мо для конечных размеров выборки ( N < 100) была определена Конейном. Таблица позволяет рассчитать различные доверительные интервалы для среднего значения на основе кратных C стандартной ошибки среднего значения, рассчитанного на основе выборки. Например, Конейн показывает, что для N = 59 95-процентный доверительный интервал для среднего m равен ( m − Cs , m + Cs ) , где C = 4,447 × 1,006 = 4,47 (это в 2,28 раза больше, чем значение, найденное на предположение о нормальности, показывающее потерю точности из-за незнания точного характера распределения).

Вместо этого эквивалентное неравенство можно вывести на основе выборочного среднего:

$\Pr(|X-m|\geq km)\leq {\frac {N-1}{N}}{\frac {1}{k^{2}}}{\frac {s^{2}}{m^{2}}}+{\frac {1}{N}}.$

Таблица значений неравенства Со-Янга-Мо для конечных размеров выборки ( N < 100) была определена Конейном.

Для фиксированного N и больших m неравенство Со–Янга–Мо приблизительно равно

$\Pr(|X-m|\geq ks)\leq {\frac {1}{N+1}}.$

Бисли и др. предложили модификацию этого неравенства.

$\Pr(|X-m|\geq ks)\leq {\frac {1}{k^{2}(N+1)}}.$

При эмпирическом тестировании эта модификация консервативна, но имеет низкую статистическую мощность. Ее теоретическая основа в настоящее время остается неизученной.

Зависимость от размера выборки

Ограничения, которые эти неравенства дают для конечной выборки, менее строгие, чем те, которые неравенство Чебышева дает для распределения. Чтобы проиллюстрировать это, предположим, что размер выборки N = 100 и k = 3. Неравенство Чебышева гласит, что не более примерно 11,11% распределения будет отклоняться от среднего значения как минимум на три стандартных отклонения. Версия неравенства Кабана для конечной выборки гласит, что не более примерно 12,05% выборки находится за пределами этих пределов. Зависимость доверительных интервалов от размера выборки дополнительно проиллюстрирована ниже.

Для N = 10 95% доверительный интервал составляет примерно ±13,5789 стандартных отклонений.

Для N = 100 95% доверительный интервал составляет примерно ±4,9595 стандартных отклонений; 99% доверительный интервал составляет примерно ±140,0 стандартных отклонений.

Для N = 500 95% доверительный интервал составляет примерно ±4,5574 стандартного отклонения; 99% доверительный интервал составляет примерно ±11,1620 стандартных отклонений.

Для N = 1000 доверительные интервалы 95% и 99% составляют примерно ±4,5141 и примерно ±10,5330 стандартных отклонений соответственно.

Неравенство Чебышева для распределения дает 95% и 99% доверительные интервалы примерно ±4,472 стандартных отклонений и ±10 стандартных отклонений соответственно.

Неравенство Самуэльсона

Основная статья: неравенство Самуэльсона

Хотя неравенство Чебышева является наилучшей оценкой для произвольного распределения, это не обязательно верно для конечных выборок. Неравенство Самуэльсона гласит, что все значения выборки должны лежать в пределах √ N - 1 выборочного стандартного отклонения от среднего значения.

Для сравнения, неравенство Чебышева утверждает, что вся кроме 1/N, выборка, будет лежать в пределах √ N стандартных отклонений от среднего значения. Поскольку существует N выборок, это означает, что ни одна выборка не будет лежать за пределами √ N стандартных отклонений среднего значения, что хуже, чем неравенство Самуэльсона. Однако преимущество неравенства Чебышева состоит в том, что его можно применять в более широком смысле для получения доверительных границ для диапазонов стандартных отклонений, которые не зависят от количества выборок.

Полувариации

Альтернативный метод получения более точных оценок — использование полудисперсий (частичных дисперсий). Верхняя ( σ ₊ ² ) и ниже ( σ ₋ ² ) полувариации определяются как

$\sigma _{+}^{2}={\frac {\sum _{x>m}(x-m)^{2}}{n-1}},$

$\sigma _{-}^{2}={\frac {\sum _{x<m}(m-x)^{2}}{n-1}},$

где m — среднее арифметическое выборки, а n — количество элементов в выборке.

Дисперсия выборки представляет собой сумму двух полудисперсий:

$\sigma ^{2}=\sigma _{+}^{2}+\sigma _{-}^{2}.$

В терминах нижней полудисперсии неравенство Чебышева можно записать

$\Pr(x\leq m-a\sigma _{-})\leq {\frac {1}{a^{2}}}.$

положить

$a={\frac {k\sigma }{\sigma _{-}}}.$

Неравенство Чебышева теперь можно записать

$\Pr(x\leq m-k\sigma )\leq {\frac {1}{k^{2}}}{\frac {\sigma _{-}^{2}}{\sigma ^{2}}}.$

Аналогичный результат можно получить и для верхней полудисперсии.

Если мы положим

$\sigma _{u}^{2}=\max(\sigma _{-}^{2},\sigma _{+}^{2}),$

Неравенство Чебышева можно записать

$\Pr(|x\leq m-k\sigma |)\leq {\frac {1}{k^{2}}}{\frac {\sigma _{u}^{2}}{\sigma ^{2}}}.$

Потому что σ _u ² ≤ р ² , использование полудисперсии усиливает исходное неравенство.

Если известно, что распределение симметрично, то

$\sigma _{+}^{2}=\sigma _{-}^{2}={\frac {1}{2}}\sigma ^{2}$

и

$\Pr(x\leq m-k\sigma )\leq {\frac {1}{2k^{2}}}.$

Этот результат согласуется с результатом, полученным с использованием стандартизированных переменных.

Примечание

Было обнаружено, что неравенство с более низкой полудисперсией можно использовать при оценке риска ухудшения ситуации в финансах и сельском хозяйстве.

Многомерный случай

Стеллато и др. упростили обозначения и расширили эмпирическое неравенство Чебышева из Saw et al. к многомерному случаю. Позволять ${\textstyle \xi \in \mathbb {R} ^{n_{\xi }}}$ — случайная величина и пусть ${\textstyle N\in \mathbb {Z} _{\geq n_{\xi }}}$. Мы рисуем ${\textstyle N+1}$ iid образцы ${\textstyle \xi }$ обозначается как ${\textstyle \xi ^{(1)},\dots ,\xi ^{(N)},\xi ^{(N+1)}\in \mathbb {R} ^{n_{\xi }}}$. На основе первого ${\textstyle N}$ выборок, мы определяем эмпирическое среднее как ${\textstyle \mu _{N}={\frac {1}{N}}\sum _{i=1}^{N}\xi ^{(i)}}$ и несмещенная эмпирическая ковариация как ${\textstyle \Sigma _{N}={\frac {1}{N}}\sum _{i=1}^{N}(\xi ^{(i)}-\mu _{N})(\xi ^{(i)}-\mu _{N})^{\top }}$. Если $\Sigma _{N}$ неособа, то для всех $\lambda \in \mathbb {R} _{\geq 0}$ затем

${\begin{aligned}&P^{N+1}\left((\xi ^{(N+1)}-\mu _{N})^{\top }\Sigma _{N}^{-1}(\xi ^{(N+1)}-\mu _{N})\geq \lambda ^{2}\right)\\[8pt]\leq {}&\min \left\{1,{\frac {1}{N+1}}\left\lfloor {\frac {n_{\xi }(N+1)(N^{2}-1+N\lambda ^{2})}{N^{2}\lambda ^{2}}}\right\rfloor \right\}.\end{aligned}}$

Примечания

В одномерном случае, т.е. ${\textstyle n_{\xi }=1}$, это неравенство соответствует неравенству Saw et al. Более того, правую часть можно упростить, ограничив верхнюю функцию пола ее аргументом

$P^{N+1}\left((\xi ^{(N+1)}-\mu _{N})^{\top }\Sigma _{N}^{-1}(\xi ^{(N+1)}-\mu _{N})\geq \lambda ^{2}\right)\leq \min \left\{1,{\frac {n_{\xi }(N^{2}-1+N\lambda ^{2})}{N^{2}\lambda ^{2}}}\right\}.$

Как ${\textstyle N\to \infty }$, правая часть стремится к ${\textstyle \min \left\{1,{\frac {n_{\xi }}{\lambda ^{2}}}\right\}}$ что соответствует многомерному неравенству Чебышева над эллипсоидами, имеющими форму ${\textstyle \Sigma }$ и сосредоточено в ${\textstyle \mu }$.

Заостренные границы

Неравенство Чебышева важно из-за его применимости к любому распределению. В результате своей общности он не может (и обычно не дает) обеспечить такую ​​точную границу, как альтернативные методы, которые можно использовать, если известно распределение случайной величины. Для повышения точности оценок, даваемых неравенством Чебышева, был разработан ряд методов; обзор см., например.

Неравенство Кантелли

Неравенство Кантелли благодаря Франческо Паоло Кантелли утверждает, что для реальной случайной величины ( X ) со средним значением ( μ ) и дисперсией ( σ ² )

$\Pr(X-\mu \geq a)\leq {\frac {\sigma ^{2}}{\sigma ^{2}+a^{2}}}$

где а ≥ 0.

Это неравенство можно использовать для доказательства одностороннего варианта неравенства Чебышева с k > 0.

$\Pr(X-\mu \geq k\sigma )\leq {\frac {1}{1+k^{2}}}.$

Известно, что граница одностороннего варианта является точной. Чтобы убедиться в этом, рассмотрим случайную величину X , которая принимает значения

$X=1$ с вероятностью ${\frac {\sigma ^{2}}{1+\sigma ^{2}}}$

$X=-\sigma ^{2}$ с вероятностью ${\frac {1}{1+\sigma ^{2}}}.$

Тогда E( X ) = 0 и E( X ² ) = п ² и P( X < 1) = 1/(1 + σ ² ).

Приложение: расстояние между средним значением и медианой

Односторонний вариант можно использовать для доказательства утверждения о том, что для распределений вероятностей, имеющих ожидаемое значение и медиану , среднее значение и медиана никогда не могут отличаться друг от друга более чем на одно стандартное отклонение . Чтобы выразить это в символах, пусть µ , ν и σ обозначают соответственно среднее значение, медиану и стандартное отклонение. Затем

$\left|\mu -\nu \right|\leq \sigma .$

Нет необходимости предполагать, что дисперсия конечна, поскольку это неравенство тривиально верно, если дисперсия бесконечна.

Доказательство состоит в следующем. Установка k = 1 в формулировке одностороннего неравенства дает:

$\Pr(X-\mu \geq \sigma )\leq {\frac {1}{2}}\implies \Pr(X\geq \mu +\sigma )\leq {\frac {1}{2}}.$

Меняя знак X и µ , получаем

$\Pr(X\leq \mu -\sigma )\leq {\frac {1}{2}}.$

Поскольку медианой по определению является любое действительное число m, удовлетворяющее неравенствам

$\Pr(X\leq m)\geq {\frac {1}{2}}{\text{ and }}\Pr(X\geq m)\geq {\frac {1}{2}}$

это означает, что медиана находится в пределах одного стандартного отклонения от среднего значения. доказательство с использованием неравенства Йенсена Также существует .

Неравенство Бхаттачарьи

Бхаттачарья расширил неравенство Кантелли, используя третий и четвертый моменты распределения.

Позволять $\mu =0$ и $\sigma ^{2}$ быть дисперсией. Позволять $\gamma =E[X^{3}]/\sigma ^{3}$ и $\kappa =E[X^{4}]/\sigma ^{4}$.

Если $k^{2}-k\gamma -1>0$ затем

$\Pr(X>k\sigma )\leq {\frac {\kappa -\gamma ^{2}-1}{(\kappa -\gamma ^{2}-1)(1+k^{2})+(k^{2}-k\gamma -1)}}.$

Необходимость $k^{2}-k\gamma -1>0$ может потребоваться $k$ быть достаточно большим.

В случае $E[X^{3}]=0$ это упрощает

$\Pr(X>k\sigma )\leq {\frac {\kappa -1}{\kappa \left(k^{2}+1\right)-2}}\quad {\text{for }}k>1.$

С ${\frac {\kappa -1}{\kappa \left(k^{2}+1\right)-2}}={\frac {1}{2}}-{\frac {\kappa (k-1)}{2(\kappa -1)}}+O\left((k-1)^{2}\right)$ для $k$ близко к 1, эта граница немного улучшается по сравнению с границей Кантелли ${\frac {1}{2}}-{\frac {k-1}{2}}+O\left((k-1)^{2}\right)$ как $\kappa >1$.

выигрывает в 2 раза над неравенством Чебышева.

Неравенство Гаусса

Основная статья: неравенство Гаусса

В 1823 году Гаусс показал, что для распределения с единственной модой в нуле

$\Pr(|X|\geq k)\leq {\frac {4\operatorname {E} (X^{2})}{9k^{2}}}\quad {\text{if}}\quad k^{2}\geq {\frac {4}{3}}\operatorname {E} (X^{2}),$

$\Pr(|X|\geq k)\leq 1-{\frac {k}{{\sqrt {3}}\operatorname {E} (X^{2})}}\quad {\text{if}}\quad k^{2}\leq {\frac {4}{3}}\operatorname {E} (X^{2}).$

Vysochanskij–Petunin inequality

Main article: Vysochanskij–Petunin inequality

Неравенство Высочанского-Петунина обобщает неравенство Гаусса, которое справедливо только для отклонения от режима унимодального распределения, до отклонения от среднего значения или, в более общем плане, любого центра. Если X — унимодальное распределение со средним значением µ и дисперсией σ ² , то неравенство утверждает, что

$\Pr(|X-\mu |\geq k\sigma )\leq {\frac {4}{9k^{2}}}\quad {\text{if}}\quad k\geq {\sqrt {8/3}}=1.633.$

$\Pr(|X-\mu |\geq k\sigma )\leq {\frac {4}{3k^{2}}}-{\frac {1}{3}}\quad {\text{if}}\quad k\leq {\sqrt {8/3}}.$

Для симметричных унимодальных распределений медиана и мода равны, поэтому и неравенство Высочанского-Петунина, и неравенство Гаусса применимы к одному и тому же центру. Кроме того, для симметричных распределений односторонние оценки можно получить, заметив, что

$\Pr(X-\mu \geq k\sigma )=\Pr(X-\mu \leq -k\sigma )={\frac {1}{2}}\Pr(|X-\mu |\geq k\sigma ).$

Дополнительная фракция $4/9$ присутствующие в этих хвостовых границах, приводят к лучшим доверительным интервалам, чем неравенство Чебышева. Например, для любого симметричного унимодального распределения неравенство Высочанского-Петунина утверждает, что 4/(9 x 3^2) = 4/81 ≈ 4,9% распределения лежит за пределами трех стандартных отклонений моды.

Границы для конкретных распределений

ДасГупта показал, что если известно, что распределение нормальное

$\Pr(|X-\mu |\geq k\sigma )\leq {\frac {1}{3k^{2}}}.$

Из неравенства ДасГупты следует, что для нормального распределения по крайней мере 95% лежит в пределах примерно 2,582 стандартных отклонений от среднего значения. Это менее резкое значение, чем истинное значение (приблизительно 1,96 стандартного отклонения от среднего).

• ДасГупта определил набор наилучших возможных границ нормального распределения этого неравенства.
• Стелига и Синал распространили эти границы на распределение Парето .
• Гречук и др. разработал общий метод получения наилучших оценок неравенства Чебышева для любого семейства распределений и любую меру риска отклонения вместо стандартного отклонения. В частности, они вывели неравенство Чебышева для распределений с логарифмически вогнутыми плотностями.

Связанные неравенства

Известны также некоторые другие родственные неравенства.

Неравенство Пэли – Зигмунда

Основная статья: неравенство Пэли – Зигмунда

Неравенство Пэли – Зигмунда дает нижнюю оценку вероятностей хвоста, в отличие от неравенства Чебышева, которое дает верхнюю оценку. Применяя его к квадрату случайной величины, получаем

$\Pr(|Z|>\theta {\sqrt {E[Z^{2}]}})\geq {\frac {(1-\theta ^{2})^{2}E[Z^{2}]^{2}}{E[Z^{4}]}}.$

Трансформация Холдейна

Одним из вариантов использования неравенства Чебышева в приложениях является создание доверительных интервалов для переменных с неизвестным распределением. Холдейн отметил: используя уравнение, полученное Кендаллом , что если переменная ( x ) имеет нулевое среднее, единичную дисперсию и конечную асимметрию ( γ ) и эксцесс ( κ ), то переменная может быть преобразована в нормально распределенную стандартную оценку ( z ):

$z=x-{\frac {\gamma }{6}}(x^{2}-1)+{\frac {x}{72}}[2\gamma ^{2}(4x^{2}-7)-3\kappa (x^{2}-3)]+\cdots$

Это преобразование может быть полезно как альтернатива неравенству Чебышева или как дополнение к нему для получения доверительных интервалов для переменных с неизвестными распределениями.

Хотя это преобразование может быть полезно для умеренно асимметричных и/или куртотических распределений, оно работает плохо, когда распределение заметно асимметрично и/или куртотично.

Хэ, Чжан и неравенство Чжана

Для любого набора из n неотрицательных независимых случайных величин X _i с ожиданием 1

$\Pr \left({\frac {\sum _{i=1}^{n}X_{i}}{n}}-1\geq {\frac {1}{n}}\right)\leq {\frac {7}{8}}.$

Интегральное неравенство Чебышева

Существует второе (менее известное) неравенство, также названное в честь Чебышева.

Если f , g : [ a , b ] → R — две монотонные функции одинаковой монотонности, то

${\frac {1}{b-a}}\int _{a}^{b}\!f(x)g(x)\,dx\geq \left[{\frac {1}{b-a}}\int _{a}^{b}\!f(x)\,dx\right]\left[{\frac {1}{b-a}}\int _{a}^{b}\!g(x)\,dx\right].$

Если f и g имеют противоположную монотонность, то приведенное выше неравенство работает обратным образом.

Это неравенство связано с неравенством Йенсена , Неравенство Канторовича , Адамара неравенство Эрмита– и гипотеза Уолтера .

Другие неравенства

С Чебышевым связан и ряд других неравенств:

• Неравенство сумм Чебышева
• Неравенства Чебышева–Маркова–Стилтьеса.

Примечания

Агентство по охране окружающей среды предложило лучшие практики использования неравенства Чебышева для оценки доверительных интервалов.

См. также

• Многомерное неравенство Чебышева
• Неравенство концентрации - сводка хвостовых границ случайных величин.
• Расширение Корниша – Фишера
• Неравенство Итона
• Неравенство Колмогорова
• Доказательство слабого закона больших чисел с помощью неравенства Чебышева.
• Теорема Ле Кама
• Неравенство Пэли – Зигмунда
• Неравенство Высочанского – Петунина - более сильный результат, применимый к унимодальным распределениям вероятностей.
• Неравенство Ленгларта
• Неравенство Буркхолдера-Дэвиса-Ганди

Дальнейшее чтение

• А. Папулис (1991), Вероятность, случайные величины и случайные процессы , 3-е изд. МакГроу-Хилл. ISBN   0-07-100870-5 . стр. 113–114.
• Г. Гриммет и Д. Стирзакер (2001), Вероятность и случайные процессы , 3-е изд. Оксфорд. ISBN   0-19-857222-0 . Раздел 7.3.

Внешние ссылки

• «Неравенство Чебышева в теории вероятностей» , Энциклопедия математики , EMS Press , 2001 [1994]
• Формальное доказательство в системе Мицар .