Центральная предельная теорема цепи Маркова

В математической теории случайных процессов имеет центральная предельная теорема цепи Маркова вывод, несколько похожий по форме на вывод классической центральной предельной теоремы (ЦПТ) теории вероятностей, но величину в роли дисперсии в классической ЦПТ имеет более сложное определение. См. также общую форму личности Бьенеме .

Заявление

Предположим, что:

• последовательность ${\textstyle X_{1},X_{2},X_{3},\ldots }$ случайных элементов некоторого множества представляет собой цепь Маркова , имеющую стационарное распределение вероятностей ; и
• начальное распространение процесса, т.е. распределение ${\textstyle X_{1}}$, — стационарное распределение, так что ${\textstyle X_{1},X_{2},X_{3},\ldots }$ распределены одинаково. В классической центральной предельной теореме эти случайные величины предполагались независимыми , но здесь мы имеем только более слабое предположение, что процесс обладает марковским свойством ; и
• ${\textstyle g}$ — это некоторая ( измеримая ) вещественная функция, для которой ${\textstyle \operatorname {var} (g(X_{1}))<+\infty .}$

Теперь позвольте

${\begin{aligned}\mu &=\operatorname {E} (g(X_{1})),\\{\widehat {\mu }}_{n}&={\frac {1}{n}}\sum _{k=1}^{n}g(X_{k})\\\sigma ^{2}&:=\lim _{n\to \infty }\operatorname {var} ({\sqrt {n}}{\widehat {\mu }}_{n})=\lim _{n\to \infty }n\operatorname {var} ({\widehat {\mu }}_{n})=\operatorname {var} (g(X_{1}))+2\sum _{k=1}^{\infty }\operatorname {cov} (g(X_{1}),g(X_{1+k})).\end{aligned}}$

Тогда как ${\textstyle n\to \infty ,}$ у нас есть

${\sqrt {n}}({\hat {\mu }}_{n}-\mu )\ {\xrightarrow {\mathcal {D}}}\ {\text{Normal}}(0,\sigma ^{2}),$

где украшенная стрелка указывает на конвергенцию распределения .

Монте-Карло

Центральная предельная теорема цепи Маркова может быть гарантирована для функционалов цепей Маркова общего пространства состояний при определенных условиях. В частности, это можно сделать, ориентируясь на настройки Монте-Карло. Примером применения в настройке MCMC (Марковская цепь Монте-Карло) является следующее:

Рассмотрим простую модель твердых сфер на сетке. Предполагать $X=\{1,\ldots ,n_{1}\}\times \{1,\ldots ,n_{2}\}\subseteq Z^{2}$. Правильная конфигурация на $X$ состоит в раскрашивании каждой точки в черный или белый цвет таким образом, чтобы никакие две соседние точки не были белыми. Позволять $\chi$ обозначим множество всех правильных конфигураций на $X$, $N_{\chi }(n_{1},n_{2})$ — общее количество правильных конфигураций, а π — равномерное распределение на $\chi$ так что каждая правильная конфигурация одинаково вероятна. Предположим, наша цель — вычислить типичное количество белых точек в правильной конфигурации; то есть, если $W(x)$ количество белых точек в $x\in \chi$ тогда нам нужно значение

$E_{\pi }W=\sum _{x\in \chi }{\frac {W(x)}{N_{\chi }{\bigl (}n_{1},n_{2}{\bigr )}}}$

Если $n_{1}$ и $n_{2}$ даже умеренно велики, то нам придется прибегнуть к приближению к $E_{\pi }W$ . Рассмотрим следующую цепь Маркова на $\chi$. Исправить $p\in (0,1)$ и установить $X_{1}=x_{1}$ где $x_{1}\in \chi$ — произвольная правильная конфигурация. Случайно выбрать точку $(x,y)\in X$ и самостоятельно нарисовать $U\sim \mathrm {Uniform} (0,1)$. Если $u\leq p$ и все соседние точки черные, тогда цветные $(x,y)$ белый, оставив все остальные точки в покое. В противном случае цвет $(x,y)$ черный и оставьте все остальные точки в покое. Вызов полученной конфигурации $X_{1}$. Продолжая в том же духе, получаем эргодическую цепь Маркова Харриса. $\{X_{1},X_{2},X_{3},\ldots \}$ имея $\pi$ как его инвариантное распределение. Теперь нетрудно оценить $E_{\pi }W$ с ${\overline {w_{n}}}=\sum _{i=1}^{n}W(X_{i})/n$. Кроме того, поскольку $\chi$ конечен (хотя и потенциально велик), хорошо известно, что $X$ будет сходиться экспоненциально быстро к $\pi$ откуда следует, что CLT справедлива для ${\overline {w_{n}}}$.

Подразумеваемое

Игнорирование дополнительных членов дисперсии, возникающих в результате корреляций (например, серийных корреляций в моделировании методом Монте-Карло с использованием цепей Маркова), может привести к проблеме псевдорепликации при вычислении, например, доверительных интервалов для выборочного среднего .

Источники

• Гордин М.И. и Лифшич Б.А. (1978). «Центральная предельная теорема для стационарных марковских процессов». Советская математика, Доклады , 19 , 392–394. (Английский перевод русского оригинала).
• Гейер, Чарльз Дж. (2011). «Введение в MCMC». В Справочнике по цепи Маркова Монте-Карло под редакцией С. П. Брукса, А. Е. Гельмана, Г. Л. Джонса и С. Л. Менга. Чепмен и Холл/CRC, Бока-Ратон, стр. 3–48.