Обобщенное распределение Дирихле

В статистике обобщенное распределение Дирихле ( GD ) представляет собой обобщение распределения Дирихле с более общей ковариационной структурой и почти вдвое большим количеством параметров. Случайные векторы с распределением GD полностью нейтральны .

Функция плотности $p_{1},\ldots ,p_{k-1}$ является

$\left[\prod _{i=1}^{k-1}B(a_{i},b_{i})\right]^{-1}p_{k}^{b_{k-1}-1}\prod _{i=1}^{k-1}\left[p_{i}^{a_{i}-1}\left(\sum _{j=i}^{k}p_{j}\right)^{b_{i-1}-(a_{i}+b_{i})}\right]$

где мы определяем ${\textstyle p_{k}=1-\sum _{i=1}^{k-1}p_{i}}$. Здесь $B(x,y)$ обозначает бета-функцию . Это сводится к стандартному распределению Дирихле, если $b_{i-1}=a_{i}+b_{i}$ для $2\leqslant i\leqslant k-1$ ( $b_{0}$ является произвольным).

Например, если k=4 , то функция плотности $p_{1},p_{2},p_{3}$ является

$\left[\prod _{i=1}^{3}B(a_{i},b_{i})\right]^{-1}p_{1}^{a_{1}-1}p_{2}^{a_{2}-1}p_{3}^{a_{3}-1}p_{4}^{b_{3}-1}\left(p_{2}+p_{3}+p_{4}\right)^{b_{1}-\left(a_{2}+b_{2}\right)}\left(p_{3}+p_{4}\right)^{b_{2}-\left(a_{3}+b_{3}\right)}$

где $p_{1}+p_{2}+p_{3}<1$ и $p_{4}=1-p_{1}-p_{2}-p_{3}$.

Коннор и Мосиманн определяют PDF так, как они это сделали, по следующей причине. Определите случайные переменные $z_{1},\ldots ,z_{k-1}$ с $z_{1}=p_{1},z_{2}=p_{2}/\left(1-p_{1}\right),z_{3}=p_{3}/\left(1-(p_{1}+p_{2})\right),\ldots ,z_{i}=p_{i}/\left(1-\left(p_{1}+\cdots +p_{i-1}\right)\right)$. Затем $p_{1},\ldots ,p_{k}$ имеют обобщенное распределение Дирихле, параметризованное выше, если $z_{i}$ являются независимыми бета-версиями с параметрами $a_{i},b_{i}$, $i=1,\ldots ,k-1$.

Альтернативная форма, данная Вонгом

Люди дает немного более краткую форму для $x_{1}+\cdots +x_{k}\leq 1$

$\prod _{i=1}^{k}{\frac {x_{i}^{\alpha _{i}-1}\left(1-x_{1}-\cdots -x_{i}\right)^{\gamma _{i}}}{B(\alpha _{i},\beta _{i})}}$

где $\gamma _{j}=\beta _{j}-\alpha _{j+1}-\beta _{j+1}$ для $1\leq j\leq k-1$ и $\gamma _{k}=\beta _{k}-1$. Обратите внимание, что Вонг определяет распределение по $k$ многомерное пространство (неявно определяющее ${\textstyle x_{k+1}=1-\sum _{i=1}^{k}x_{i}}$), в то время как Коннор и Мосиман используют $k-1$ многомерное пространство с ${\textstyle x_{k}=1-\sum _{i=1}^{k-1}x_{i}}$.

Общая функция момента

Если $X=\left(X_{1},\ldots ,X_{k}\right)\sim GD_{k}\left(\alpha _{1},\ldots ,\alpha _{k};\beta _{1},\ldots ,\beta _{k}\right)$, затем

$E\left[X_{1}^{r_{1}}X_{2}^{r_{2}}\cdots X_{k}^{r_{k}}\right]=\prod _{j=1}^{k}{\frac {\Gamma \left(\alpha _{j}+\beta _{j}\right)\Gamma \left(\alpha _{j}+r_{j}\right)\Gamma \left(\beta _{j}+\delta _{j}\right)}{\Gamma \left(\alpha _{j}\right)\Gamma \left(\beta _{j}\right)\Gamma \left(\alpha _{j}+\beta _{j}+r_{j}+\delta _{j}\right)}}$

где $\delta _{j}=r_{j+1}+r_{j+2}+\cdots +r_{k}$ для $j=1,2,\cdots ,k-1$ и $\delta _{k}=0$. Таким образом

$E\left(X_{j}\right)={\frac {\alpha _{j}}{\alpha _{j}+\beta _{j}}}\prod _{m=1}^{j-1}{\frac {\beta _{m}}{\alpha _{m}+\beta _{m}}}.$

Приведение к стандартному распределению Дирихле

Как сказано выше, если $b_{i-1}=a_{i}+b_{i}$ для $2\leq i\leq k$ тогда распределение сводится к стандартному Дирихле. Это условие отличается от обычного случая, когда установка нулевых дополнительных параметров обобщенного распределения приводит к исходному распределению. Однако в случае GDD это приводит к очень сложной функции плотности.

Байесовский анализ

Предполагать $X=\left(X_{1},\ldots ,X_{k}\right)\sim GD_{k}\left(\alpha _{1},\ldots ,\alpha _{k};\beta _{1},\ldots ,\beta _{k}\right)$ является обобщенным Дирихле, и что $Y\mid X$ является полиномиальным с $n$ испытания (здесь $Y=\left(Y_{1},\ldots ,Y_{k}\right)$). Письмо $Y_{j}=y_{j}$ для $1\leq j\leq k$ и ${\textstyle y_{k+1}=n-\sum _{i=1}^{k}y_{i}}$ задний сустав $X|Y$ представляет собой обобщенное распределение Дирихле с

$X\mid Y\sim GD_{k}\left({\alpha '}_{1},\ldots ,{\alpha '}_{k};{\beta '}_{1},\ldots ,{\beta '}_{k}\right)$

где ${\alpha '}_{j}=\alpha _{j}+y_{j}$ и ${\beta '}_{j}=\beta _{j}+\sum _{i=j+1}^{k+1}y_{i}$ для $1\leqslant j\leqslant k.$

Выборочный эксперимент

Вонг приводит следующую систему в качестве примера того, чем различаются распределения Дирихле и обобщенное распределение Дирихле. Он утверждает, что в большой урне находятся шарики $k+1$ разные цвета. Пропорция каждого цвета неизвестна. Писать $X=(X_{1},\ldots ,X_{k})$ для доли шариков с цветом $j$ в урне.

Эксперимент 1 . Аналитик 1 считает, что $X\sim D(\alpha _{1},\ldots ,\alpha _{k},\alpha _{k+1})$ (т.е. $X$ есть Дирихле с параметрами $\alpha _{i}$). Затем аналитик делает $k+1$ стеклянные коробки и клады $\alpha _{i}$ цветные шарики $i$ в коробке $i$ (предполагается, что $\alpha _{i}$ являются целыми числами $\geq 1$). Затем аналитик 1 достает шар из урны, наблюдает за его цветом (скажем, цветом $j$) и кладет его в коробку $j$. Он может определить правильную коробку, потому что они прозрачны и видны цвета шариков внутри. Процесс продолжается до тех пор, пока $n$ шары были разыграны. Тогда апостериорное распределение представляет собой Дирихле с параметрами, определяющими количество шариков в каждом ящике.

Эксперимент 2 . Аналитик 2 считает, что $X$ следует обобщенному распределению Дирихле: $X\sim GD(\alpha _{1},\ldots ,\alpha _{k};\beta _{1},\ldots ,\beta _{k})$. Все параметры снова считаются положительными целыми числами. Аналитик делает $k+1$ деревянные ящики. В ящиках есть две зоны: одна для шаров, другая для шариков. Шары цветные, а шарики неокрашенные. Тогда для $j=1,\ldots ,k$, он ставит $\alpha _{j}$ цветные шарики $j$, и $\beta _{j}$ шарики, в коробке $j$. Затем он кладет цветной шар $k+1$ в коробке $k+1$. Затем аналитик достает шар из урны. Поскольку коробки деревянные, аналитик не может сказать, в какую коробку положить мяч (как он мог это сделать в эксперименте 1 выше); А еще у него плохая память, и он не может вспомнить, в какой коробке шарики какого цвета. Он должен выяснить, в какую коробку следует положить мяч. Он делает это, открывая коробку 1 и сравнивая находящиеся в ней шары с вытянутыми шарами. Если цвета различаются, значит, коробка не та. Аналитик помещает шарик в коробку 1 и переходит к коробке 2. Он повторяет процесс до тех пор, пока шары в коробке не совпадут с вытянутым шаром, после чего он помещает шар в коробку вместе с другими шарами соответствующего цвета. Затем аналитик вытягивает из урны еще один шар и повторяет до тех пор, пока $n$ шары нарисованы. Затем задняя часть обобщается Дирихле с параметрами $\alpha$ количество шаров, и $\beta$ количество шариков в каждой коробке.

Обратите внимание, что в эксперименте 2 изменение порядка ячеек имеет нетривиальный эффект, в отличие от эксперимента 1.

См. также

• Полиномиальное распределение Дирихле
• Теорема Лукача о независимости пропорциональной суммы