Бета-биномиальное распределение

	Функция массы вероятности
	Кумулятивная функция распределения
Обозначения
Параметры	n ∈ N 0 — количество испытаний ; ( настоящий ) ; ( настоящий )
Поддерживать	х € { 0, …, п }
ПМФ	; ; где это бета-функция
CDF	; ; где 3 F 2 ( a ; b ;x) — обобщенная гипергеометрическая функция ;
Иметь в виду
Дисперсия
асимметрия
Избыточный эксцесс	Посмотреть текст
МГФ	где это гипергеометрическая функция
CF
ПГФ

В теории вероятностей и статистике бета -биномиальное распределение представляет собой семейство дискретных распределений вероятностей на конечном носителе неотрицательных целых чисел, возникающее, когда вероятность успеха в каждом из фиксированного или известного числа испытаний Бернулли либо неизвестна, либо случайна. Бета-биномиальное распределение — это биномиальное распределение , в котором вероятность успеха в каждом из n испытаний не фиксирована, а случайным образом извлекается из бета-распределения . Он часто используется в байесовской статистике , эмпирических методах Байеса и классической статистике для выявления чрезмерной дисперсии в распределенных данных биномиального типа.

Бета-биномиальное распределение является одномерной версией мультиномиального распределения Дирихле , поскольку биномиальное и бета-распределения являются одномерными версиями полиномиального распределения и распределения Дирихле соответственно. Особый случай, когда α и β являются целыми числами, также известен как отрицательное гипергеометрическое распределение .

Мотивация и вывод

Как сложное распределение

Бета -распределение является сопряженным распределением биномиального распределения . Этот факт приводит к аналитически определяемому распределению соединений , при котором можно думать о $p$ параметр биномиального распределения как случайно выбранный из бета-распределения. Предположим, нас интересует предсказание количества голов, $x$ в $n$ будущие испытания. Это дано

{\begin{aligned}f(x\mid n,\alpha ,\beta )&=\int _{0}^{1}\mathrm {Bin} (x|n,p)\mathrm {Beta} (p\mid \alpha ,\beta )\,dp\\[6pt]&={n \choose x}{\frac {1}{\mathrm {B} (\alpha ,\beta )}}\int _{0}^{1}p^{x+\alpha -1}(1-p)^{n-x+\beta -1}\,dp\\[6pt]&={n \choose x}{\frac {\mathrm {B} (x+\alpha ,n-x+\beta )}{\mathrm {B} (\alpha ,\beta )}}.\end{aligned}}

Используя свойства бета-функции , это можно альтернативно записать

f(x\mid n,\alpha ,\beta )={\frac {\Gamma (n+1)\Gamma (x+\alpha )\Gamma (n-x+\beta )}{\Gamma (n+\alpha +\beta )\Gamma (x+1)\Gamma (n-x+1)}}{\frac {\Gamma (\alpha +\beta )}{\Gamma (\alpha )\Gamma (\beta )}}

В качестве модели урны

Бета-биномиальное распределение также можно мотивировать с помощью модели урны для положительных целочисленных значений α и β , известной как модель урны Пойа . В частности, представьте себе урну, содержащую α- красные шары и β- черные шары, из которой производятся случайные выборки. Если наблюдается красный шар, то в урну возвращаются два красных шара. Аналогично, если вытащили черный шар, то в урну возвращаются два черных шара. Если это повторяется n раз, то вероятность наблюдения x красных шаров подчиняется бета-биномиальному распределению с параметрами n , α и β .

Напротив, если случайные розыгрыши производятся с простой заменой (в урну не добавляются шары сверх наблюдаемого шара), то распределение следует биномиальному распределению, а если случайные розыгрыши производятся без замены, распределение следует гипергеометрическому распределению. .

Моменты и свойства

Первые три момента грубых

{\begin{aligned}\mu _{1}&={\frac {n\alpha }{\alpha +\beta }}\\[8pt]\mu _{2}&={\frac {n\alpha [n(1+\alpha )+\beta ]}{(\alpha +\beta )(1+\alpha +\beta )}}\\[8pt]\mu _{3}&={\frac {n\alpha [n^{2}(1+\alpha )(2+\alpha )+3n(1+\alpha )\beta +\beta (\beta -\alpha )]}{(\alpha +\beta )(1+\alpha +\beta )(2+\alpha +\beta )}}\end{aligned}}

и эксцесс

\beta _{2}={\frac {(\alpha +\beta )^{2}(1+\alpha +\beta )}{n\alpha \beta (\alpha +\beta +2)(\alpha +\beta +3)(\alpha +\beta +n)}}\left[(\alpha +\beta )(\alpha +\beta -1+6n)+3\alpha \beta (n-2)+6n^{2}-{\frac {3\alpha \beta n(6-n)}{\alpha +\beta }}-{\frac {18\alpha \beta n^{2}}{(\alpha +\beta )^{2}}}\right].

Сдача в аренду $p={\frac {\alpha }{\alpha +\beta }}\!$ отметим, что среднее значение можно записать как

\mu ={\frac {n\alpha }{\alpha +\beta }}=np\!

и дисперсия как

\sigma ^{2}={\frac {n\alpha \beta (\alpha +\beta +n)}{(\alpha +\beta )^{2}(\alpha +\beta +1)}}=np(1-p){\frac {\alpha +\beta +n}{\alpha +\beta +1}}=np(1-p)[1+(n-1)\rho ]\!

где $\rho ={\tfrac {1}{\alpha +\beta +1}}\!$ . Параметр $\rho \;\!$ известна как «внутриклассовая» или «внутрикластерная» корреляция. Именно эта положительная корреляция приводит к сверхдисперсии. Обратите внимание, что когда $n=1$ , нет информации, позволяющей отличить бета-вариацию от биномиальной, и обе модели имеют равные дисперсии.

Факториальные моменты

r $факториальный$ -й момент бета-биномиальной случайной величины $X$ равен

\operatorname {E} {\bigl [}(X)_{r}{\bigr ]}={\frac {n!}{(n-r)!}}{\frac {B(\alpha +r,\beta )}{B(\alpha ,\beta )}}=(n)_{r}{\frac {B(\alpha +r,\beta )}{B(\alpha ,\beta )}}

.

Точечные оценки

Метод моментов

Метод оценок моментов можно получить, отметив первый и второй моменты бета-бинома и установив их равными выборочным моментам. $m_{1}$ и $m_{2}$ . Мы находим

{\begin{aligned}{\widehat {\alpha }}&={\frac {nm_{1}-m_{2}}{n({\frac {m_{2}}{m_{1}}}-m_{1}-1)+m_{1}}}\\[5pt]{\widehat {\beta }}&={\frac {(n-m_{1})(n-{\frac {m_{2}}{m_{1}}})}{n({\frac {m_{2}}{m_{1}}}-m_{1}-1)+m_{1}}}.\end{aligned}}

Эти оценки могут быть бессмысленно отрицательными, что свидетельствует о том, что данные либо недисперсны, либо недостаточно дисперсны относительно биномиального распределения. В этом случае альтернативными кандидатами являются биномиальное распределение и гипергеометрическое распределение соответственно.

Оценка максимального правдоподобия

в закрытой форме Хотя оценки максимального правдоподобия непрактичны, учитывая, что PDF-файл состоит из общих функций (гамма-функция и/или бета-функции), их можно легко найти с помощью прямой численной оптимизации. Оценки максимального правдоподобия на основе эмпирических данных можно вычислить с использованием общих методов подбора полиномиальных распределений Полиа, методы которых описаны в (Minka 2003). Пакет R VGAM посредством функции vglm посредством максимального правдоподобия облегчает подбор моделей типа glm с ответами, распределенными в соответствии с бета-биномиальным распределением. Нет требования, чтобы n было фиксированным на протяжении всего наблюдения.

Пример: неоднородность соотношения полов

Следующие данные показывают количество детей мужского пола среди первых 12 детей в семье размером 13 человек в 6115 семьях, взятых из больничных записей в Саксонии XIX века (Сокал и Рольф, стр. 59 из Линдси). 13-й ребенок игнорируется, чтобы сгладить эффект того, что семьи неслучайно останавливаются при достижении желаемого пола.

Мужчины	0	1	2	3	4	5	6	7	8	9	10	11	12
Семьи	3	24	104	286	670	1033	1343	1112	829	478	181	45	7

Первые два выборочных момента:

{\begin{aligned}m_{1}&=6.23\\m_{2}&=42.31\\n&=12\end{aligned}}

и поэтому метод оценок моментов

{\begin{aligned}{\widehat {\alpha }}&=34.1350\\{\widehat {\beta }}&=31.6085.\end{aligned}}

Оценки максимального правдоподобия можно найти численно.

{\begin{aligned}{\widehat {\alpha }}_{\mathrm {mle} }&=34.09558\\{\widehat {\beta }}_{\mathrm {mle} }&=31.5715\end{aligned}}

и максимальное логарифмическое правдоподобие равно

\log {\mathcal {L}}=-12492.9

откуда мы находим AIC

{\mathit {AIC}}=24989.74.

AIC для конкурирующей биномиальной модели составляет AIC = 25070,34, и, таким образом, мы видим, что бета-биномиальная модель обеспечивает превосходное соответствие данным, т.е. имеются доказательства чрезмерной дисперсии. Триверс и Уиллард постулируют теоретическое обоснование гетерогенности гендерной склонности потомков млекопитающих .

Превосходная посадка очевидна, особенно среди хвостов.

Мужчины	0	1	2	3	4	5	6	7	8	9	10	11	12
Наблюдаемые семьи	3	24	104	286	670	1033	1343	1112	829	478	181	45	7
Соответствующее ожидаемое (бета-биномиальное)	2.3	22.6	104.8	310.9	655.7	1036.2	1257.9	1182.1	853.6	461.9	177.9	43.8	5.2
Соответствующее ожидаемое (биномиальное p = 0,519215)	0.9	12.1	71.8	258.5	628.1	1085.2	1367.3	1265.6	854.2	410.0	132.8	26.1	2.3

Роль в байесовской статистике

Бета-биномиальное распределение играет важную роль в байесовской оценке вероятности успеха Бернулли. $p$ который мы хотим оценить на основе данных. Позволять $\mathbf {X} =\{X_{1},X_{2},\cdots X_{n_{1}}\}$ быть выборкой независимых и одинаково распределенных случайных величин Бернулли. $X_{i}\sim {\text{Bernoulli}}(p)$ . Предположим, наши знания о $p$ - по Байесу - является неопределенным и моделируется априорным распределением $p\sim {\text{Beta}}(\alpha ,\beta )$ . Если $Y_{1}=\sum _{i=1}^{n_{1}}X_{i}$ затем путем наложения процентов априорное прогнозируемое распределение

Y_{1}\sim {\text{BetaBin}}(n_{1},\alpha ,\beta )

.

После наблюдения $Y_{1}$ отметим, что апостериорное распределение для $p$

{\begin{aligned}f(p|\mathbf {X} ,\alpha ,\beta )&\propto \left(\prod _{i=1}^{n_{1}}p^{x_{i}}(1-p)^{1-x_{i}}\right)p^{\alpha -1}(1-p)^{\beta -1}\\&=Cp^{\sum x_{i}+\alpha -1}(1-p)^{n_{1}-\sum x_{i}+\beta -1}\\&=Cp^{y_{1}+\alpha -1}(1-p)^{n_{1}-y_{1}+\beta -1}\end{aligned}}

где $C$ является нормирующей константой. Мы признаем апостериорное распределение как $\mathrm {Beta} (y_{1}+\alpha ,n_{1}-y_{1}+\beta )$ .

Таким образом, снова используя компаундирование, мы обнаруживаем, что апостериорное прогнозируемое распределение суммы будущей выборки размером $n_{2}$ из $\mathrm {Bernoulli} (p)$ случайные величины это

Y_{2}\sim \mathrm {BetaBin} (n_{2},y_{1}+\alpha ,n_{1}-y_{1}+\beta )

.

Генерация случайных переменных

Чтобы нарисовать бета-биномиальную случайную величину $X\sim \mathrm {BetaBin} (n,\alpha ,\beta )$ просто нарисуй $p\sim \mathrm {Beta} (\alpha ,\beta )$ а затем нарисуй $X\sim \mathrm {B} (n,p)$ .

Связанные дистрибутивы

$\mathrm {BetaBin} (1,\alpha ,\beta )\sim \mathrm {Bernoulli} (p)\,$ где $p={\frac {\alpha }{\alpha +\beta }}\,$ .
$\mathrm {BetaBin} (n,1,1)\sim U(0,n)\,$ где $U(a,b)\,$ — дискретное равномерное распределение .
$\lim _{s\rightarrow \infty }\mathrm {BetaBin} (n,ps,(1-p)s)\sim \mathrm {B} (n,p)\,$ где $p={\frac {\alpha }{\alpha +\beta }}\,$ и $s=\alpha +\beta \,$ и $\mathrm {B} (n,p)\,$ это биномиальное распределение .
$\lim _{n\rightarrow \infty }\mathrm {BetaBin} (n,\alpha ,{\frac {np}{(1-p)}})\sim \mathrm {NB} (\alpha ,p)\,$ где $\mathrm {NB} (\alpha ,p)\,$ – отрицательное биномиальное распределение .