Биномиальное распределение

«Биномиальная модель» перенаправляется сюда. Информацию о биномиальной модели ценообразования опционов см. в разделе Модель ценообразования биномиальных опционов .

Биномиальное распределение

Функция массы вероятности
Кумулятивная функция распределения
Обозначения	$B(n,p)$
Параметры	$n\in \{0,1,2,\ldots \}$ – количество испытаний $p\in [0,1]$ – вероятность успеха для каждого испытания $q=1-p$
Поддерживать	$k\in \{0,1,\ldots ,n\}$ - количество успехов
ПМФ	${\binom {n}{k}}p^{k}q^{n-k}$
CDF	$I_{q}(n-\lfloor k\rfloor ,1+\lfloor k\rfloor )$ ( регуляризованная неполная бета-функция )
Иметь в виду	$np$
медиана	$\lfloor np\rfloor$ или $\lceil np\rceil$
Режим	$\lfloor (n+1)p\rfloor$ или $\lceil (n+1)p\rceil -1$
Дисперсия	$npq=np(1-p)$
асимметрия	${\frac {q-p}{\sqrt {npq}}}$
Избыточный эксцесс	${\frac {1-6pq}{npq}}$
Энтропия	${\frac {1}{2}}\log _{2}(2\pi enpq)+O\left({\frac {1}{n}}\right)$ в Шеннонс . Для nats используйте естественный журнал в журнале.
МГФ	$(q+pe^{t})^{n}$
CF	$(q+pe^{it})^{n}$
ПГФ	$G(z)=[q+pz]^{n}$
Информация о Фишере	$g_{n}(p)={\frac {n}{pq}}$ (для фиксированного $n$)

Биномиальное распределение для p = 0,5
с n и k, как в треугольнике Паскаля

Вероятность того, что шар в ящике Гальтона с 8 слоями ( n = 8) окажется в центральном контейнере ( k = 4) , равна 70/256 .

В теории вероятностей и статистике биномиальное распределение с параметрами n и p представляет собой дискретное распределение вероятностей числа успехов в последовательности из n независимых экспериментов , каждый из которых задает вопрос «да-нет» и каждый имеет свой логический собственный результат : успех (с вероятностью p ) или неудача (с вероятностью q = 1- p ). Отдельный эксперимент успеха/неудачи также называется испытанием Бернулли или экспериментом Бернулли, а последовательность результатов называется процессом Бернулли ; для одного испытания, т. е. n = 1 , биномиальное распределение является распределением Бернулли . Биномиальное распределение является основой популярного биномиального теста статистической значимости .

Биномиальное распределение часто используется для моделирования количества успехов в выборке размера n, с заменой из популяции размера N. взятой Если выборка осуществляется без замены, выборки не являются независимыми, и поэтому результирующее распределение является гипергеометрическим , а не биномиальным. Однако для N , намного большего, чем n , биномиальное распределение остается хорошим приближением и широко используется.

Определения

Функция массы вероятности

В общем случае, если случайная величина X подчиняется биномиальному распределению с параметрами n ∈ $\mathbb {N}$ и p ∈ [0, 1] , мы пишем X ~ B ( n , p ) . Вероятность получения ровно k успехов в n независимых испытаниях Бернулли (с одинаковой частотой p ) определяется функцией массы вероятности :

$f(k,n,p)=\Pr(X=k)={\binom {n}{k}}p^{k}(1-p)^{n-k}$

для k = 0, 1, 2, ..., n , где

${\binom {n}{k}}={\frac {n!}{k!(n-k)!}}$

– биномиальный коэффициент , отсюда и название распределения. Формулу можно понять следующим образом: p ^к д ^{n - k} – вероятность получения последовательности из n испытаний Бернулли, в которой первые k испытаний окажутся «успехами», а остальные (последние) n – k испытаний приведут к «неуспеху». Поскольку испытания независимы и вероятности между ними остаются постоянными, любая последовательность из n испытаний с k успехами (и n - k неудачами) имеет одинаковую вероятность достижения (независимо от положения успехов в последовательности). Есть ${\textstyle {\binom {n}{k}}}$ такие последовательности, поскольку биномиальный коэффициент ${\textstyle {\binom {n}{k}}}$ подсчитывает количество способов выбрать позиции k успехов среди n испытаний. Биномиальное распределение связано с вероятностью получения любой из этих последовательностей, то есть с вероятностью получения одной из них ( p ^к д ^{n - k} ) необходимо добавить ${\textstyle {\binom {n}{k}}}$ раз, следовательно ${\textstyle \Pr(X=k)={\binom {n}{k}}p^{k}(1-p)^{n-k}}$.

При создании справочных таблиц биномиального распределения вероятностей обычно таблица заполняется до n /2 значений. Это связано с тем, что для k > n /2 вероятность можно вычислить по ее дополнению как

$f(k,n,p)=f(n-k,n,1-p).$

Если посмотреть на выражение f ( k , n , p ) как на функцию k , то можно найти значение k , которое максимизирует его. Это значение k можно найти, вычислив

${\frac {f(k+1,n,p)}{f(k,n,p)}}={\frac {(n-k)p}{(k+1)(1-p)}}$

и сравнивая его с 1. Всегда существует целое число M, удовлетворяющее условию

$(n+1)p-1\leq M<(n+1)p.$

f ( k , n , p ) монотонно возрастает при k < M и монотонно убывает при k > M , за исключением случая, когда ( n + 1) p является целым числом. В этом случае есть два значения, для которых f является максимальным: ( n + 1) p и ( n + 1) p - 1 . M является наиболее вероятным исходом (то есть наиболее вероятным, хотя в целом это все же может быть маловероятным) испытаний Бернулли и называется модой .

Эквивалентно, $M-p<np\leq M+1-p$. Взяв функцию пола , мы получаем M = Floor( np ) .

Пример

Предположим, что при броске смещенной монеты выпадет орел с вероятностью 0,3. Вероятность увидеть ровно 4 орла за 6 бросков равна

$f(4,6,0.3)={\binom {6}{4}}0.3^{4}(1-0.3)^{6-4}=0.059535.$

Кумулятивная функция распределения

Кумулятивную функцию распределения можно выразить как:

$F(k;n,p)=\Pr(X\leq k)=\sum _{i=0}^{\lfloor k\rfloor }{n \choose i}p^{i}(1-p)^{n-i},$

где $\lfloor k\rfloor$ является «полом» под k , т.е. наибольшим целым числом, меньшим или равным k .

Ее также можно представить через регуляризованную неполную бета-функцию следующим образом:

${\begin{aligned}F(k;n,p)&=\Pr(X\leq k)\\&=I_{1-p}(n-k,k+1)\\&=(n-k){n \choose k}\int _{0}^{1-p}t^{n-k-1}(1-t)^{k}\,dt.\end{aligned}}$

что эквивалентно кумулятивной функции распределения распределения F - :

$F(k;n,p)=F_{F{\text{-distribution}}}\left(x={\frac {1-p}{p}}{\frac {k+1}{n-k}};d_{1}=2(n-k),d_{2}=2(k+1)\right).$

Некоторые оценки в замкнутой форме для кумулятивной функции распределения приведены ниже .

Характеристики

Ожидаемое значение и дисперсия

Если X ~ B ( n , p ) , то есть X — случайная величина с биномиальным распределением, где n общее количество экспериментов, а p — вероятность того, что каждый эксперимент даст успешный результат, то ожидаемое значение X — равно:

$\operatorname {E} [X]=np.$

Это следует из линейности ожидаемого значения, а также из того факта, что X представляет собой сумму n одинаковых случайных величин Бернулли, каждая из которых имеет ожидаемое значение p . Другими словами, если $X_{1},\ldots ,X_{n}$ являются идентичными (и независимыми) случайными величинами Бернулли с параметром p , то $X=X_{1}+\cdots +X_{n}$ и

$\operatorname {E} [X]=\operatorname {E} [X_{1}+\cdots +X_{n}]=\operatorname {E} [X_{1}]+\cdots +\operatorname {E} [X_{n}]=p+\cdots +p=np.$

Разница составляет :

$\operatorname {Var} (X)=npq=np(1-p).$

Это аналогичным образом следует из того факта, что дисперсия суммы независимых случайных величин есть сумма дисперсий.

Высшие моменты

Первые 6 центральных моментов , определяемые как $\mu _{c}=\operatorname {E} \left[(X-\operatorname {E} [X])^{c}\right]$, даны

${\begin{aligned}\mu _{1}&=0,\\\mu _{2}&=np(1-p),\\\mu _{3}&=np(1-p)(1-2p),\\\mu _{4}&=np(1-p)(1+(3n-6)p(1-p)),\\\mu _{5}&=np(1-p)(1-2p)(1+(10n-12)p(1-p)),\\\mu _{6}&=np(1-p)(1-30p(1-p)(1-4p(1-p))+5np(1-p)(5-26p(1-p))+15n^{2}p^{2}(1-p)^{2}).\end{aligned}}$

Нецентральные моменты удовлетворяют

${\begin{aligned}\operatorname {E} [X]&=np,\\\operatorname {E} [X^{2}]&=np(1-p)+n^{2}p^{2},\end{aligned}}$

и вообще

$\operatorname {E} [X^{c}]=\sum _{k=0}^{c}\left\{{c \atop k}\right\}n^{\underline {k}}p^{k},$

где $\textstyle \left\{{c \atop k}\right\}$ – числа Стирлинга второго рода , а $n^{\underline {k}}=n(n-1)\cdots (n-k+1)$ это $k$падающая сила ​ $n$.Простая граница следует путем ограничения биномиальных моментов через высшие моменты Пуассона :

$\operatorname {E} [X^{c}]\leq \left({\frac {c}{\log(c/(np)+1)}}\right)^{c}\leq (np)^{c}\exp \left({\frac {c^{2}}{2np}}\right).$

Это показывает, что если $c=O({\sqrt {np}})$, затем $\operatorname {E} [X^{c}]$ в лучшем случае является постоянным фактором вдали от $\operatorname {E} [X]^{c}$

Режим

Обычно мода биномиального распределения B ( n , p ) равна $\lfloor (n+1)p\rfloor$, где $\lfloor \cdot \rfloor$ это функция пола . Однако, когда ( n + 1) p является целым числом и p не равно ни 0, ни 1, тогда распределение имеет два режима: ( n + 1) p и ( n + 1) p - 1. Когда p равно 0 или 1, режим будет 0 и n соответственно. Эти случаи можно резюмировать следующим образом:

${\text{mode}}={\begin{cases}\lfloor (n+1)\,p\rfloor &{\text{if }}(n+1)p{\text{ is 0 or a noninteger}},\\(n+1)\,p\ {\text{ and }}\ (n+1)\,p-1&{\text{if }}(n+1)p\in \{1,\dots ,n\},\\n&{\text{if }}(n+1)p=n+1.\end{cases}}$

Доказательство: Пусть

$f(k)={\binom {n}{k}}p^{k}q^{n-k}.$

Для $p=0$ только $f(0)$ имеет ненулевое значение с $f(0)=1$. Для $p=1$ мы находим $f(n)=1$ и $f(k)=0$ для $k\neq n$. Это доказывает, что мода равна 0 для $p=0$ и $n$ для $p=1$.

Позволять $0<p<1$. Мы находим

${\frac {f(k+1)}{f(k)}}={\frac {(n-k)p}{(k+1)(1-p)}}$.

Из этого следует

${\begin{aligned}k>(n+1)p-1\Rightarrow f(k+1)<f(k)\\k=(n+1)p-1\Rightarrow f(k+1)=f(k)\\k<(n+1)p-1\Rightarrow f(k+1)>f(k)\end{aligned}}$

Итак, когда $(n+1)p-1$ является целым числом, то $(n+1)p-1$ и $(n+1)p$ это режим. В случае, если $(n+1)p-1\notin \mathbb {Z}$, тогда только $\lfloor (n+1)p-1\rfloor +1=\lfloor (n+1)p\rfloor$ это режим.

медиана

В общем, не существует единой формулы для нахождения медианы для биномиального распределения, и она может даже быть неоднозначной. Однако было установлено несколько особых результатов:

• Если $np$ является целым числом, то среднее значение, медиана и мода совпадают и равны $np$.
• Любая медиана m должна лежать в интервале $\lfloor np\rfloor \leq m\leq \lceil np\rceil$.
• Медиана m не может находиться слишком далеко от среднего значения: $|m-np|\leq \min\{{\ln 2},\max\{p,1-p\}\}$ .
• Медиана уникальна и равна m = round ( np ), когда $|m-np|\leq \min\{p,1-p\}$ (кроме случая, когда $p={\frac {1}{2}}$и n нечетно).
• Когда p — рациональное число (за исключением $p={\frac {1}{2}}$ и n нечетно) медиана уникальна.
• Когда $p={\frac {1}{2}}$ и n нечетно, любое число m в интервале ${\frac {1}{2}}{\bigl (}n-1{\bigr )}\leq m\leq {\frac {1}{2}}{\bigl (}n+1{\bigr )}$ является медианой биномиального распределения. Если $p={\frac {1}{2}}$ и n четно, тогда $m={\frac {n}{2}}$ является уникальной медианой.

Хвостовые границы

При k ≤ np можно получить верхние оценки для нижнего хвоста кумулятивной функции распределения. $F(k;n,p)=\Pr(X\leq k)$, вероятность того, что будет не более k успехов. С $\Pr(X\geq k)=F(n-k;n,1-p)$эти границы также можно рассматривать как границы верхнего хвоста кумулятивной функции распределения при k ≥ np .

Неравенство Хеффдинга дает простую оценку

$F(k;n,p)\leq \exp \left(-2n\left(p-{\frac {k}{n}}\right)^{2}\right),\!$

что, однако, не очень плотно. В частности, для p = 1 мы имеем, что F ( k ; n , p ) = 0 (при фиксированном k , n с k < n ), но оценка Хеффдинга оценивается как положительная константа.

Более точную оценку можно получить из оценки Чернова :

$F(k;n,p)\leq \exp \left(-nD\left({\frac {k}{n}}\parallel p\right)\right)$

где D ( a || p ) — относительная энтропия (или дивергенция Кульбака-Лейблера) между a -монетой и p -монетой (т.е. между распределениями Бернулли( a ) и Бернулли( p )):

$D(a\parallel p)=(a)\log {\frac {a}{p}}+(1-a)\log {\frac {1-a}{1-p}}.\!$

Асимптотически эта граница достаточно точна; видеть для получения подробной информации.

Можно также получить нижние оценки хвоста $F(k;n,p)$, известные как границы антиконцентрации. Аппроксимируя биномиальный коэффициент формулой Стирлинга, можно показать, что

$F(k;n,p)\geq {\frac {1}{\sqrt {8n{\tfrac {k}{n}}(1-{\tfrac {k}{n}})}}}\exp \left(-nD\left({\frac {k}{n}}\parallel p\right)\right),$

что подразумевает более простую, но более слабую оценку

$F(k;n,p)\geq {\frac {1}{\sqrt {2n}}}\exp \left(-nD\left({\frac {k}{n}}\parallel p\right)\right).$

Для p = 1/2 и k ≥ 3 n /8 для четного n можно сделать знаменатель постоянным:

$F(k;n,{\tfrac {1}{2}})\geq {\frac {1}{15}}\exp \left(-16n\left({\frac {1}{2}}-{\frac {k}{n}}\right)^{2}\right).\!$

Статистический вывод

Оценка параметров

См. Также: Бета-распределение § Байесовский вывод

Когда n известно, параметр p можно оценить, используя долю успехов:

${\widehat {p}}={\frac {x}{n}}.$

Эта оценка находится с использованием оценки максимального правдоподобия , а также метода моментов . Эта оценка является несмещенной и равномерной с минимальной дисперсией , что доказано с помощью теоремы Лемана – Шеффе , поскольку она основана на минимальной достаточной и полной статистике (т. е.: x ). Оно также согласовано как по вероятности, так и по MSE .

Закрытая форма оценки Байеса для p также существует при использовании бета-распределения в качестве сопряженного априорного распределения . При использовании общего $\operatorname {Beta} (\alpha ,\beta )$ априорная апостериорного среднего оценка равна:

${\widehat {p}}_{b}={\frac {x+\alpha }{n+\alpha +\beta }}.$

Оценка Байеса асимптотически эффективна и, когда размер выборки приближается к бесконечности ( n → ∞), она приближается к решению MLE . Оценка Байеса смещена (насколько зависит от априорных значений), допустима и непротиворечива по вероятности.

В частном случае использования стандартного равномерного распределения в качестве неинформативного априорного значения : $\operatorname {Beta} (\alpha =1,\beta =1)=U(0,1)$, апостериорная средняя оценка становится:

${\widehat {p}}_{b}={\frac {x+1}{n+2}}.$

( Апостериорная мода должна просто приводить к стандартной оценке.) Этот метод называется правилом последовательности , которое было введено в 18 веке Пьером-Симоном Лапласом .

При использовании априора Джеффриса априором является $\operatorname {Beta} (\alpha ={\frac {1}{2}},\beta ={\frac {1}{2}})$, что приводит к оценке:

${\widehat {p}}_{Jeffreys}={\frac {x+{\frac {1}{2}}}{n+1}}.$

При оценке p с очень редкими событиями и малым n (например: если x=0), использование стандартной оценки приводит к ${\widehat {p}}=0,$ что иногда нереально и нежелательно. В таких случаях существуют различные альтернативные оценки. Один из способов — использовать оценку Байеса. ${\widehat {p}}_{b}$, что приводит к:

${\widehat {p}}_{b}={\frac {1}{n+2}}.$

Другой метод заключается в использовании верхней границы доверительного интервала, полученного с помощью правила трех :

${\widehat {p}}_{\text{rule of 3}}={\frac {3}{n}}.$

Доверительные интервалы

Основная статья: Доверительный интервал биномиальной пропорции

Даже для довольно больших значений n фактическое распределение среднего существенно ненормально. Из-за этой проблемы было предложено несколько методов оценки доверительных интервалов.

В приведенных ниже уравнениях доверительных интервалов переменные имеют следующее значение:

• n ₁ — количество успехов из n , общее количество попыток
• ${\widehat {p\,}}={\frac {n_{1}}{n}}$ это доля успехов
• $z$ это $1-{\tfrac {1}{2}}\alpha$ квантиль стандартного нормального распределения (т. е. пробита ), соответствующий целевой частоте ошибок $\alpha$. Например, для уровня достоверности 95% ошибка $\alpha$ = 0,05, поэтому $1-{\tfrac {1}{2}}\alpha$ = 0,975 и $z$ = 1.96.

Метод Вальда

Основная статья: Доверительный интервал биномиальной пропорции § Интервал Вальда

${\widehat {p\,}}\pm z{\sqrt {\frac {{\widehat {p\,}}(1-{\widehat {p\,}})}{n}}}.$

​​поправка на непрерывность 0,5/ n . Может быть добавлена

Метод Агрести-Кулла

Основная статья: Доверительный интервал биномиальной пропорции § Интервал Агрести – Коулла

${\tilde {p}}\pm z{\sqrt {\frac {{\tilde {p}}(1-{\tilde {p}})}{n+z^{2}}}}$

Здесь оценка p изменяется на

${\tilde {p}}={\frac {n_{1}+{\frac {1}{2}}z^{2}}{n+z^{2}}}$

Этот метод хорошо работает для $n>10$ и $n_{1}\neq 0,n$. Смотрите здесь для $n\leq 10$. Для $n_{1}=0,n$ используйте приведенный ниже метод Уилсона (оценка).

Арксинусный метод

Основная статья: Доверительный интервал биномиальной пропорции § Арксинусное преобразование

$\sin ^{2}\left(\arcsin \left({\sqrt {\widehat {p\,}}}\right)\pm {\frac {z}{2{\sqrt {n}}}}\right).$

Метод Вильсона (оценка)

Основная статья: Доверительный интервал биномиальной пропорции § Интервал оценки Вильсона

Обозначения в приведенной ниже формуле отличаются от предыдущих формул в двух отношениях:

• Во-первых, z _x в приведенной ниже формуле имеет несколько иную интерпретацию: она имеет свое обычное значение « х- й квантиль стандартного нормального распределения», а не является сокращением от «(1 - x )-й квантиль».
• Во-вторых, эта формула не использует плюс-минус для определения двух границ. Вместо этого можно использовать $z=z_{\alpha /2}$ чтобы получить нижнюю границу, или используйте $z=z_{1-\alpha /2}$ чтобы получить верхнюю границу. Например: для уровня достоверности 95% ошибка $\alpha$ = 0,05, поэтому нижнюю границу можно получить, используя $z=z_{\alpha /2}=z_{0.025}=-1.96$, и можно получить верхнюю границу, используя $z=z_{1-\alpha /2}=z_{0.975}=1.96$.

${\frac {{\widehat {p\,}}+{\frac {z^{2}}{2n}}+z{\sqrt {{\frac {{\widehat {p\,}}(1-{\widehat {p\,}})}{n}}+{\frac {z^{2}}{4n^{2}}}}}}{1+{\frac {z^{2}}{n}}}}$

Сравнение

Так называемый «точный» метод ( Клоппера–Пирсона ) является наиболее консервативным. ( Точный не означает абсолютно точный; скорее, он указывает на то, что оценки не будут менее консервативными, чем истинное значение.)

Метод Вальда, хотя его обычно рекомендуют в учебниках, является наиболее предвзятым.

Связанные дистрибутивы

Суммы биномов

Если X ~ B( n , p ) и Y ~ B( m , p ) — независимые биномиальные переменные с одинаковой вероятностью p , то X + Y снова является биномиальной переменной; его распределение Z=X+Y ~ B( n+m , p ):

${\begin{aligned}\operatorname {P} (Z=k)&=\sum _{i=0}^{k}\left[{\binom {n}{i}}p^{i}(1-p)^{n-i}\right]\left[{\binom {m}{k-i}}p^{k-i}(1-p)^{m-k+i}\right]\\&={\binom {n+m}{k}}p^{k}(1-p)^{n+m-k}\end{aligned}}$

Биномиально распределенную случайную величину X ~ B( n , p ) можно рассматривать как сумму n случайных величин, распределенных по Бернулли. Таким образом, сумма двух случайных величин с биномиальным распределением X ~ B( n , p ) и Y ~ B( m , p ) эквивалентна сумме n + m случайных величин с распределением Бернулли, что означает Z=X+Y ~ B( п+т , р ). Это также можно доказать непосредственно с помощью правила сложения.

Однако если X и Y не имеют одинаковую вероятность p , то дисперсия суммы будет меньше, чем дисперсия биномиальной переменной, распределенной как $B(n+m,{\bar {p}}).\,$

Биномиальное распределение Пуассона

Биномиальное распределение — это частный случай биномиального распределения Пуассона , которое представляет собой распределение суммы n независимых неидентичных испытаний Бернулли B( p _i ).

Отношение двух биномиальных распределений

Этот результат был впервые получен Кацем и соавторами в 1978 году.

Пусть X ~ B( n , p1 _B ) и Y ( m , p2 _~ ) независимы. Пусть Т = ( Икс / п ) / ( Y / м ) .

Тогда log( T ) примерно нормально распределяется со средним log( p ₁ / p ₂ ) и дисперсией ((1/ p ₁ ) − 1)/ n + ((1/ p ₂ ) − 1)/ m .

Условные биномы

Если X ~ B( n , p ) и Y | X ~ B( X , q ) (условное распределение Y при заданном X ), тогда Y — простая биномиальная случайная величина с распределением Y ~ B( n , pq ).

Например, представьте, что вы бросаете n мячей в корзину UX _, берете попавшие мячи и бросаете их в другую корзину U _Y . Если p — вероятность попасть в U _X, то X ~ B( n , p ) — количество шаров, попавших U _X. в Если q — вероятность попасть в U _Y, то количество шаров, попавших в U _Y, равно Y ~ B( X , q ) и, следовательно, Y ~ B( n , pq ).

показывать

[Доказательство]

Since $X\sim B(n,p)$ and $Y\sim B(X,q)$, by the law of total probability,

${\begin{aligned}\Pr[Y=m]&=\sum _{k=m}^{n}\Pr[Y=m\mid X=k]\Pr[X=k]\\[2pt]&=\sum _{k=m}^{n}{\binom {n}{k}}{\binom {k}{m}}p^{k}q^{m}(1-p)^{n-k}(1-q)^{k-m}\end{aligned}}$

Since ${\tbinom {n}{k}}{\tbinom {k}{m}}={\tbinom {n}{m}}{\tbinom {n-m}{k-m}},$ the equation above can be expressed as

$\Pr[Y=m]=\sum _{k=m}^{n}{\binom {n}{m}}{\binom {n-m}{k-m}}p^{k}q^{m}(1-p)^{n-k}(1-q)^{k-m}$

Factoring $p^{k}=p^{m}p^{k-m}$ and pulling all the terms that don't depend on $k$ out of the sum now yields

${\begin{aligned}\Pr[Y=m]&={\binom {n}{m}}p^{m}q^{m}\left(\sum _{k=m}^{n}{\binom {n-m}{k-m}}p^{k-m}(1-p)^{n-k}(1-q)^{k-m}\right)\\[2pt]&={\binom {n}{m}}(pq)^{m}\left(\sum _{k=m}^{n}{\binom {n-m}{k-m}}\left(p(1-q)\right)^{k-m}(1-p)^{n-k}\right)\end{aligned}}$

After substituting $i=k-m$ in the expression above, we get

$\Pr[Y=m]={\binom {n}{m}}(pq)^{m}\left(\sum _{i=0}^{n-m}{\binom {n-m}{i}}(p-pq)^{i}(1-p)^{n-m-i}\right)$

Notice that the sum (in the parentheses) above equals $(p-pq+1-p)^{n-m}$ by the binomial theorem. Substituting this in finally yields

${\begin{aligned}\Pr[Y=m]&={\binom {n}{m}}(pq)^{m}(p-pq+1-p)^{n-m}\\[4pt]&={\binom {n}{m}}(pq)^{m}(1-pq)^{n-m}\end{aligned}}$

and thus $Y\sim B(n,pq)$ as desired.

Распределение Бернулли

Распределение Бернулли является частным случаем биномиального распределения, где n = 1. Символически X ~ B(1, p ) имеет тот же смысл, что и X ~ Бернулли( p ). И наоборот, любое биномиальное распределение B( n , p ) представляет собой распределение суммы n независимых испытаний Бернулли , Бернулли ( p ), каждое с одинаковой вероятностью p .

Нормальное приближение

См. Также: Доверительный интервал биномиальной пропорции § Нормальный интервал аппроксимации.

Биномиальная функция массы вероятности нормальной функции плотности вероятности и аппроксимация для n = 6 и p = 0,5

Если n достаточно велико, то перекос распределения не слишком велик. В этом случае разумное приближение к B( n , p ) дается нормальным распределением

${\mathcal {N}}(np,\,np(1-p)),$

и это базовое приближение можно простым способом улучшить, используя подходящую поправку на непрерывность .Базовое приближение обычно улучшается по мере увеличения n (не менее 20) и становится лучше, когда p не близко к 0 или 1. различные эмпирические правила можно использовать n Чтобы решить , достаточно ли велико , а p достаточно далеко от крайних значений нуля или единицы, :

• Одно правило заключается в том, что при n > 5 нормальное приближение адекватно, если абсолютное значение асимметрии строго меньше 0,3; то есть, если

${\frac {|1-2p|}{\sqrt {np(1-p)}}}={\frac {1}{\sqrt {n}}}\left|{\sqrt {\frac {1-p}{p}}}-{\sqrt {\frac {p}{1-p}}}\,\right|<0.3.$

Это можно уточнить с помощью теоремы Берри-Эссеена .

• Более строгое правило гласит, что нормальное приближение подходит только в том случае, если все в пределах трех стандартных отклонений от его среднего значения находится в диапазоне возможных значений; то есть только если

$\mu \pm 3\sigma =np\pm 3{\sqrt {np(1-p)}}\in (0,n).$

Это правило трех стандартных отклонений эквивалентно следующим условиям, которые также подразумевают первое правило, приведенное выше.

$n>9\left({\frac {1-p}{p}}\right)\quad {\text{and}}\quad n>9\left({\frac {p}{1-p}}\right).$

показывать

[Доказательство]

The rule $np\pm 3{\sqrt {np(1-p)}}\in (0,n)$ is totally equivalent to request that

$np-3{\sqrt {np(1-p)}}>0\quad {\text{and}}\quad np+3{\sqrt {np(1-p)}}<n.$

Moving terms around yields:

$np>3{\sqrt {np(1-p)}}\quad {\text{and}}\quad n(1-p)>3{\sqrt {np(1-p)}}.$

Since $0<p<1$, we can apply the square power and divide by the respective factors $np^{2}$ and $n(1-p)^{2}$, to obtain the desired conditions:

$n>9\left({\frac {1-p}{p}}\right)\quad {\text{and}}\quad n>9\left({\frac {p}{1-p}}\right).$

Notice that these conditions automatically imply that $n>9$. On the other hand, apply again the square root and divide by 3,

${\frac {\sqrt {n}}{3}}>{\sqrt {\frac {1-p}{p}}}>0\quad {\text{and}}\quad {\frac {\sqrt {n}}{3}}>{\sqrt {\frac {p}{1-p}}}>0.$

Subtracting the second set of inequalities from the first one yields:

${\frac {\sqrt {n}}{3}}>{\sqrt {\frac {1-p}{p}}}-{\sqrt {\frac {p}{1-p}}}>-{\frac {\sqrt {n}}{3}};$

and so, the desired first rule is satisfied,

$\left|{\sqrt {\frac {1-p}{p}}}-{\sqrt {\frac {p}{1-p}}}\,\right|<{\frac {\sqrt {n}}{3}}.$

• Другое часто используемое правило заключается в том, что оба значения $np$ и $n(1-p)$ должно быть больше, чем или равно 5. Однако конкретное число варьируется от источника к источнику и зависит от того, насколько хорошее приближение требуется. В частности, если вместо 5 использовать 9, правило подразумевает результаты, указанные в предыдущих параграфах.

показывать

[Доказательство]

Assume that both values $np$ and $n(1-p)$ are greater than 9. Since $0<p<1$, we easily have that

$np\geq 9>9(1-p)\quad {\text{and}}\quad n(1-p)\geq 9>9p.$

We only have to divide now by the respective factors $p$ and $1-p$, to deduce the alternative form of the 3-standard-deviation rule:

$n>9\left({\frac {1-p}{p}}\right)\quad {\text{and}}\quad n>9\left({\frac {p}{1-p}}\right).$

Ниже приведен пример применения поправки на непрерывность . кто-то хочет вычислить Pr( X ≤ 8) для биномиальной случайной величины X. Предположим , Если Y имеет распределение, заданное нормальным приближением, то Pr( X ≤ 8) аппроксимируется Pr( Y ≤ 8,5). Добавление 0,5 представляет собой поправку на непрерывность; неисправленное нормальное приближение дает значительно менее точные результаты.

Это приближение, известное как теорема Муавра – Лапласа , значительно экономит время при выполнении вычислений вручную (точные вычисления с большими n очень обременительны); исторически это было первое использование нормального распределения, представленное в Абрахама де Муавра книге «Доктрина шансов» в 1738 году. Сегодня это можно рассматривать как следствие центральной предельной теоремы, поскольку B( n , p ) является сумма n независимых, одинаково распределенных переменных Бернулли с параметром p . Этот факт является основой проверки гипотезы , «z-критерия пропорции», для значения p с использованием x/n , выборочной доли и оценки p , в общей тестовой статистике .

Например, предположим, что кто-то случайным образом выбирает n человек из большой популяции и спрашивает их, согласны ли они с определенным утверждением. Доля согласных, конечно, будет зависеть от выборки. Если бы группы из n людей отбирались повторно и по-настоящему случайным образом, пропорции следовали бы приблизительно нормальному распределению со средним значением, равным истинной доле согласия p в популяции, и со стандартным отклонением.

$\sigma ={\sqrt {\frac {p(1-p)}{n}}}$

Пуассоновское приближение

Биномиальное распределение сходится к распределению Пуассона , когда количество испытаний стремится к бесконечности, а произведение np сходится к конечному пределу. Следовательно, распределение Пуассона с параметром λ = np можно использовать как аппроксимацию B( n , p ) биномиального распределения, если n достаточно велико, а p достаточно мало. Согласно эмпирическим правилам, это приближение хорошо, если n ≥ 20 и p ≤ 0,05. такое, что np ≤ 1, или если n > 50 и p < 0,1 такое, что np < 5, или если n ≥ 100 и np ≤ 10.

О точности приближения Пуассона см. Новак, гл. 4 и ссылки в нем.

Ограничение дистрибутивов

• Предельная теорема Пуассона : когда n приближается к ∞, а p произведении np приближается к 0 при фиксированном , биномиальное распределение ( n , p ) приближается к распределению Пуассона с ожидаемым значением λ = np .
• Теорема Муавра – Лапласа : когда n приближается к ∞, а p остается фиксированным, распределение

${\frac {X-np}{\sqrt {np(1-p)}}}$

приближается к нормальному распределению с ожидаемым значением 0 и дисперсией 1. Иногда этот результат формулируют в общих чертах, говоря, что распределение X является асимптотически нормальным с ожидаемым значением 0 и дисперсией 1. Этот результат является частным случаем центральной предельной теоремы .

Бета-дистрибутив

Биномиальное распределение и бета-распределение представляют собой разные взгляды на одну и ту же модель повторяющихся испытаний Бернулли. Биномиальное распределение представляет собой PMF k успехов при n независимых событиях, каждое из которых имеет вероятность p успеха . Математически, когда α = k + 1 и β = n − k + 1 , бета-распределение и биномиальное распределение связаны соотношением коэффициент n + 1 :

$\operatorname {Beta} (p;\alpha ;\beta )=(n+1)B(k;n;p)$

Бета-распределения также представляют собой семейство априорных распределений вероятностей для биномиальных распределений в байесовском выводе :

$P(p;\alpha ,\beta )={\frac {p^{\alpha -1}(1-p)^{\beta -1}}{\operatorname {Beta} (\alpha ,\beta )}}.$

Учитывая однородность априора, апостериорное распределение вероятности успеха p при условии n независимых событий с k наблюдаемыми успехами является бета-распределением.

Вычислительные методы

Генерация случайных чисел

Дополнительная информация: Выборка псевдослучайных чисел.

Методы генерации случайных чисел , в которых маргинальное распределение является биномиальным, хорошо известны. Один из способов создания выборок случайных величин из биномиального распределения — использовать алгоритм инверсии. Для этого необходимо вычислить вероятность того, что Pr( X = k ) для всех значений k от 0 до n . (Эти вероятности должны в сумме давать значение, близкое к единице, чтобы охватить все пространство выборок.) Затем, используя генератор псевдослучайных чисел для равномерной генерации выборок от 0 до 1, можно преобразовать вычисленные выборки в дискретные числа, используя вероятности, рассчитанные на первом этапе.

История

Это распределение было получено Якобом Бернулли . Он рассмотрел случай, когда p = r /( r + s ), где p — вероятность успеха, а r и s — положительные целые числа. Блез Паскаль ранее рассмотрел случай, когда p = 1/2, составив таблицу соответствующих биномиальных коэффициентов в том, что теперь известно как треугольник Паскаля .

См. также

• Логистическая регрессия
• Полиномиальное распределение
• Отрицательное биномиальное распределение
• Бета-биномиальное распределение
• Биномиальная мера, пример мультифрактальной меры .
• Статистическая механика
• Лемма о накоплении , результирующая вероятность при выполнении XOR независимых логических переменных

Дальнейшее чтение

• Хирш, Вернер З. (1957). «Биномиальное распределение — успех или неудача, насколько они вероятны?» . Введение в современную статистику . Нью-Йорк: Макмиллан. стр. 140–153.
• Нетер, Джон; Вассерман, Уильям; Уитмор, Джорджия (1988). Прикладная статистика (Третье изд.). Бостон: Аллин и Бэкон. стр. 185–192. ISBN  0-205-10328-6 .

Внешние ссылки

• Интерактивная графика: одномерные отношения распределения
• Калькулятор формулы биномиального распределения
• Разница двух биномиальных переменных: XY или |XY|
• Запрос биномиального распределения вероятностей в WolframAlpha
• Доверительные (достоверные) интервалы для биномиальной вероятности, p: онлайн-калькулятор доступен на сайте causaScientia.org.