Неравенство Маркова

Неравенство Маркова дает верхнюю оценку меры множества (обозначено красным), где $f(x)$ превышает заданный уровень $\varepsilon$. Граница объединяет уровень $\varepsilon$ со средним значением $f$.

В теории вероятностей неравенство Маркова дает верхнюю границу вероятности того , что неотрицательная случайная величина больше или равна некоторой положительной константе . Неравенство Маркова является точным в том смысле, что для каждой выбранной положительной константы существует случайная величина, такая что неравенство фактически является равенством.

Оно названо в честь русского математика Андрея Маркова , хотя ранее оно появилось в работах Пафнутия Чебышева (учителя Маркова), и во многих источниках, особенно в анализе , его называют неравенством Чебышева (иногда называя его первым неравенством Чебышева, тогда как ссылаясь на неравенство Чебышева как на второе неравенство Чебышева) или Бьенеме неравенство .

Неравенство Маркова (и другие подобные неравенства) связывают вероятности с ожиданиями и обеспечивают (часто неточные, но все же полезные) границы кумулятивной функции распределения случайной величины. Неравенство Маркова также можно использовать для определения верхней границы математического ожидания неотрицательной случайной величины с точки зрения ее функции распределения.

Заявление

Если X — неотрицательная случайная величина и a > 0 , то вероятностьто, что X равно по крайней мере a , не более чем математическое ожидание X, деленное на a :

$\operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}.$

Когда $\operatorname {E} (X)>0$, мы можем взять $a={\tilde {a}}\cdot \operatorname {E} (X)$ для ${\tilde {a}}>0$ переписать предыдущее неравенство в виде

$\operatorname {P} (X\geq {\tilde {a}}\cdot \operatorname {E} (X))\leq {\frac {1}{\tilde {a}}}.$

На языке теории меры неравенство Маркова гласит, что если ( X , Σ, µ ) является пространством с мерой , $f$ — измеримая расширенная вещественная функция, и ε > 0 , то

$\mu (\{x\in X:|f(x)|\geq \varepsilon \})\leq {\frac {1}{\varepsilon }}\int _{X}|f|\,d\mu .$

Это теоретико-мерное определение иногда называют неравенством Чебышева .

Расширенная версия для неубывающих функций

Если φ — неубывающая неотрицательная функция, X — случайная величина (не обязательно неотрицательная) и φ ( a ) > 0 , то

$\operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (\varphi (X))}{\varphi (a)}}.$

Непосредственным следствием использования более высоких моментов X, поддерживаемых значениями больше 0, является

$\operatorname {P} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|^{n})}{a^{n}}}.$

Равномерно рандомизированное неравенство Маркова

Если X — неотрицательная случайная величина и a > 0 , а U — равномерно распределенная случайная величина на $[0,1]$ который не зависит от X , то

$\operatorname {P} (X\geq Ua)\leq {\frac {\operatorname {E} (X)}{a}}.$

Поскольку U почти наверняка меньше единицы, эта оценка строго сильнее неравенства Маркова. Примечательно, что U нельзя заменить какой-либо константой меньше единицы, а это означает, что детерминированные улучшения неравенства Маркова вообще не могут существовать. Хотя неравенство Маркова справедливо для распределений, поддерживаемых $\{0,a\}$, приведенный выше рандомизированный вариант справедлив с равенством для любого распределения, ограниченного $[0,a]$.

Доказательства

Мы отделяем случай, когда пространство меры является вероятностным пространством, от более общего случая, поскольку вероятностный случай более доступен для обычного читателя.

Интуиция

$\operatorname {E} (X)=\operatorname {P} (X<a)\cdot \operatorname {E} (X|X<a)+\operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)$ где $\operatorname {E} (X|X<a)$ больше или равно 0 как случайная величина $X$ неотрицательен и $\operatorname {E} (X|X\geq a)$ больше или равно $a$ поскольку условное ожидание учитывает только значения, большие или равные $a$ какой фургон $X$ могу взять.

Следовательно, интуитивно $\operatorname {E} (X)\geq \operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)\geq a\cdot \operatorname {P} (X\geq a)$, что непосредственно приводит к $\operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}$.

Теоретико-вероятностное доказательство

Метод 1: Из определения ожидания:

$\operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx$

Однако X является неотрицательной случайной величиной, поэтому

$\operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx=\int _{0}^{\infty }xf(x)\,dx$

Из этого мы можем вывести,

$\operatorname {E} (X)=\int _{0}^{a}xf(x)\,dx+\int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }af(x)\,dx=a\int _{a}^{\infty }f(x)\,dx=a\operatorname {Pr} (X\geq a)$

Отсюда, разделив на $a$ позволяет нам увидеть это

$\Pr(X\geq a)\leq \operatorname {E} (X)/a$

Метод 2: Для любого мероприятия $E$, позволять $I_{E}$ – индикаторная случайная величина $E$, то есть, $I_{E}=1$ если $E$ происходит и $I_{E}=0$ в противном случае.

Используя эти обозначения, мы имеем $I_{(X\geq a)}=1$ если событие $X\geq a$ происходит, и $I_{(X\geq a)}=0$ если $X<a$. Тогда, учитывая $a>0$,

$aI_{(X\geq a)}\leq X$

что становится ясно, если мы рассмотрим два возможных значения $X\geq a$. Если $X<a$, затем $I_{(X\geq a)}=0$, и так $aI_{(X\geq a)}=0\leq X$. В противном случае мы имеем $X\geq a$, для чего $I_{X\geq a}=1$ и так $aI_{X\geq a}=a\leq X$.

С $\operatorname {E}$ является монотонно возрастающей функцией, поэтому математическое ожидание обеих частей неравенства не может обратить ее вспять. Поэтому,

$\operatorname {E} (aI_{(X\geq a)})\leq \operatorname {E} (X).$

Теперь, используя линейность ожиданий, левая часть этого неравенства такая же, как

$a\operatorname {E} (I_{(X\geq a)})=a(1\cdot \operatorname {P} (X\geq a)+0\cdot \operatorname {P} (X<a))=a\operatorname {P} (X\geq a).$

Таким образом, мы имеем

$a\operatorname {P} (X\geq a)\leq \operatorname {E} (X)$

и поскольку a > 0, мы можем разделить обе части на a .

Теоретико-мерное доказательство

Можно предположить, что функция $f$ неотрицательен, поскольку в уравнение входит только его абсолютное значение. Теперь рассмотрим вещественную функцию s на X , заданную формулой

$s(x)={\begin{cases}\varepsilon ,&{\text{if }}f(x)\geq \varepsilon \\0,&{\text{if }}f(x)<\varepsilon \end{cases}}$

Затем $0\leq s(x)\leq f(x)$. По определению интеграла Лебега

$\int _{X}f(x)\,d\mu \geq \int _{X}s(x)\,d\mu =\varepsilon \mu (\{x\in X:\,f(x)\geq \varepsilon \})$

и поскольку $\varepsilon >0$, обе части можно разделить на $\varepsilon$, получение

$\mu (\{x\in X:\,f(x)\geq \varepsilon \})\leq {1 \over \varepsilon }\int _{X}f\,d\mu .$

Дискретный случай

Теперь мы приведем доказательство для частного случая, когда $X$ — дискретная случайная величина, которая принимает только неотрицательные целые значения.

Позволять $a$ быть положительным целым числом. По определению $a\operatorname {Pr} (X>a)$$=a\operatorname {Pr} (X=a+1)+a\operatorname {Pr} (X=a+2)+a\operatorname {Pr} (X=a+3)+...$$\leq a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...$$\leq \operatorname {Pr} (X=1)+2\operatorname {Pr} (X=2)+3\operatorname {Pr} (X=3)+...$$+a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...$$=\operatorname {E} (X)$

Деление на $a$ дает желаемый результат.

Следствия

Неравенство Чебышева

Неравенство Чебышева использует дисперсию для ограничения вероятности того, что случайная величина отклоняется далеко от среднего значения. Конкретно,

$\operatorname {P} (|X-\operatorname {E} (X)|\geq a)\leq {\frac {\operatorname {Var} (X)}{a^{2}}},$

для любого а > 0 . Здесь Var( X ) — это дисперсия X, определяемая как:

$\operatorname {Var} (X)=\operatorname {E} [(X-\operatorname {E} (X))^{2}].$

Неравенство Чебышева следует из неравенства Маркова при рассмотрении случайной величины

$(X-\operatorname {E} (X))^{2}$

и константа $a^{2},$ для которого неравенство Маркова имеет вид

$\operatorname {P} ((X-\operatorname {E} (X))^{2}\geq a^{2})\leq {\frac {\operatorname {Var} (X)}{a^{2}}}.$

Этот аргумент можно резюмировать (где «MI» указывает на использование неравенства Маркова):

$\operatorname {P} (|X-\operatorname {E} (X)|\geq a)=\operatorname {P} \left((X-\operatorname {E} (X))^{2}\geq a^{2}\right)\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} \left((X-\operatorname {E} (X))^{2}\right)}{a^{2}}}={\frac {\operatorname {Var} (X)}{a^{2}}}.$

Другие следствия

1. «Монотонный» результат можно продемонстрировать:

   $\operatorname {P} (|X|\geq a)=\operatorname {P} {\big (}\varphi (|X|)\geq \varphi (a){\big )}\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (\varphi (|X|))}{\varphi (a)}}$

2. Результат, что для неотрицательной случайной величины функция X квантиля удовлетворяет X :

   $Q_{X}(1-p)\leq {\frac {\operatorname {E} (X)}{p}},$

   доказательство с использованием

   $p\leq \operatorname {P} (X\geq Q_{X}(1-p))\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (X)}{Q_{X}(1-p)}}.$

3. Позволять $M\succeq 0$ быть самосопряженной случайной величиной с матричным знаком и $A\succ 0$. Затем

   $\operatorname {P} (M\npreceq A)\leq \operatorname {tr} (\operatorname {E} (X)A^{-1})$

   что можно доказать аналогично.

Примеры

Если предположить, что никакой доход не является отрицательным, неравенство Маркова показывает, что не более 10% (1/10) населения могут иметь доход, более чем в 10 раз превышающий средний доход.

Другой простой пример: Эндрю делает в среднем 4 ошибки на тестах курса «Статистика». Наилучшая верхняя граница вероятности того, что Эндрю совершит не менее 10 ошибок, равна 0,4, поскольку $\operatorname {P} (X\geq 10)\leq {\frac {\operatorname {E} (X)}{\alpha }}={\frac {4}{10}}.$ Обратите внимание, что Эндрю может сделать ровно 10 ошибок с вероятностью 0,4 и не допустить ошибок с вероятностью 0,6; ожидание составляет ровно 4 ошибки.

См. также

• Неравенство Пэли – Зигмунда - соответствующая нижняя оценка
• Неравенство концентрации - сводка хвостовых границ случайных величин.

Внешние ссылки

• Формальное доказательство неравенства Маркова в системе Мицара .