Нормальное распределение Уишарта

Нормальный-Wishart

Обозначения	$({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )$
Параметры	${\boldsymbol {\mu }}_{0}\in \mathbb {R} ^{D}\,$ местоположение (вектор реального ) $\lambda >0\,$ (настоящий) $\mathbf {W} \in \mathbb {R} ^{D\times D}$ масштабная матрица ( поз. по определению ) $\nu >D-1\,$ (настоящий)
Поддерживать	${\boldsymbol {\mu }}\in \mathbb {R} ^{D};{\boldsymbol {\Lambda }}\in \mathbb {R} ^{D\times D}$ ковариационная матрица ( поз. по определению )
PDF	$f({\boldsymbol {\mu }},{\boldsymbol {\Lambda }}|{\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )={\mathcal {N}}({\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})\ {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )$

В теории вероятностей и статистике нормальное распределение Вишарта (или распределение Гаусса-Вишарта ) представляет собой многомерное четырехпараметрическое семейство непрерывных распределений вероятностей . Это сопряженный априор многомерного нормального распределения с неизвестным средним значением и матрицей точности (обратной ковариационной матрице ).

Определение

Предполагать

${\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Lambda }}\sim {\mathcal {N}}({\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})$

имеет многомерное нормальное распределение со средним ${\boldsymbol {\mu }}_{0}$ и ковариационная матрица $(\lambda {\boldsymbol {\Lambda }})^{-1}$, где

${\boldsymbol {\Lambda }}|\mathbf {W} ,\nu \sim {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )$

имеет дистрибутив Wishart . Затем $({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})$ имеет нормальное распределение Уишарта, обозначаемое как

$({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu ).$

Характеристика

Функция плотности вероятности

$f({\boldsymbol {\mu }},{\boldsymbol {\Lambda }}|{\boldsymbol {\mu }}_{0},\lambda ,\mathbf {W} ,\nu )={\mathcal {N}}({\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},(\lambda {\boldsymbol {\Lambda }})^{-1})\ {\mathcal {W}}({\boldsymbol {\Lambda }}|\mathbf {W} ,\nu )$

Характеристики

Маржинальные распределения

По построению предельное распределение по ${\boldsymbol {\Lambda }}$ является распределением Уишарта , а условное распределение по ${\boldsymbol {\mu }}$ данный ${\boldsymbol {\Lambda }}$ является многомерным нормальным распределением . Маргинальное распределение по ${\boldsymbol {\mu }}$ является многомерным t -распределением .

Апостериорное распределение параметров

После создания $n$ наблюдения ${\boldsymbol {x}}_{1},\dots ,{\boldsymbol {x}}_{n}$, апостериорное распределение параметров равно

$({\boldsymbol {\mu }},{\boldsymbol {\Lambda }})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{n},\lambda _{n},\mathbf {W} _{n},\nu _{n}),$

где

$\lambda _{n}=\lambda +n,$

${\boldsymbol {\mu }}_{n}={\frac {\lambda {\boldsymbol {\mu }}_{0}+n{\boldsymbol {\bar {x}}}}{\lambda +n}},$

$\nu _{n}=\nu +n,$

$\mathbf {W} _{n}^{-1}=\mathbf {W} ^{-1}+\sum _{i=1}^{n}({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})({\boldsymbol {x}}_{i}-{\boldsymbol {\bar {x}}})^{T}+{\frac {n\lambda }{n+\lambda }}({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})({\boldsymbol {\bar {x}}}-{\boldsymbol {\mu }}_{0})^{T}.$

Генерация случайных переменных нормального Уишарта

Генерация случайных величин проста:

1. Образец ${\boldsymbol {\Lambda }}$ из распределения Wishart с параметрами $\mathbf {W}$ и $\nu$
2. Образец ${\boldsymbol {\mu }}$ из многомерного нормального распределения со средним ${\boldsymbol {\mu }}_{0}$ и дисперсия $(\lambda {\boldsymbol {\Lambda }})^{-1}$

Связанные дистрибутивы

• Нормально -обратное распределение Уишарта — это, по сути, то же распределение, параметризованное дисперсией, а не точностью.
• Нормальное гамма-распределение является одномерным эквивалентом.
• Многомерное нормальное распределение и распределение Уишарта являются распределениями компонентов, из которых состоит это распределение.

Ссылки

• Бишоп, Кристофер М. (2006). Распознавание образов и машинное обучение. Springer Science+Business Media.