Цепь Маркова с обратимым прыжком Монте-Карло

В вычислительной статистике цепь Маркова с обратимым скачком Монте-Карло является расширением стандартной методологии цепи Маркова Монте-Карло (MCMC), представленной Питером Грином , которая позволяет моделировать (создавать выборки ) апостериорного распределения в пространствах различных размерностей . даже если количество параметров модели Таким образом, моделирование возможно , неизвестно. «Прыжок» означает переключение из одного пространства параметров в другое во время работы цепочки. RJMCMC полезен для сравнения моделей разных размеров, чтобы определить, какая из них лучше всего соответствует данным. Это также полезно для прогнозирования новых точек данных, поскольку нам не нужно выбирать и исправлять модель, RJMCMC может напрямую прогнозировать новые значения для всех моделей одновременно. Модели, которые лучше всего соответствуют данным, будут выбираться чаще, чем менее удачные.

Подробности о процессе RJMCMC

Позволять $n_{m}\in N_{m}=\{1,2,\ldots ,I\}\,$быть образцовым индикатором и $M=\bigcup _{n_{m}=1}^{I}\mathbb {R} ^{d_{m}}$ пространство параметров, число измерений которого $d_{m}$ зависит от модели $n_{m}$. Индикация модели не обязательно должна быть конечной . Стационарное распределение – это совместное заднее распределение $(M,N_{m})$ который принимает значения $(m,n_{m})$.

Предложение $m'$ можно построить с помощью отображения $g_{1mm'}$ из $m$ и $u$, где $u$ извлекается из случайной компоненты $U$ с плотностью $q$ на $\mathbb {R} ^{d_{mm'}}$. Переезд в штат $(m',n_{m}')$ таким образом, можно сформулировать как

$(m',n_{m}')=(g_{1mm'}(m,u),n_{m}')\,$

Функция

$g_{mm'}:={\Bigg (}(m,u)\mapsto {\bigg (}(m',u')={\big (}g_{1mm'}(m,u),g_{2mm'}(m,u){\big )}{\bigg )}{\Bigg )}\,$

должно быть взаимно однозначным , дифференцируемым и иметь ненулевую поддержку:

$\mathrm {supp} (g_{mm'})\neq \varnothing \,$

так что существует обратная функция

$g_{mm'}^{-1}=g_{m'm}\,$

это дифференцируемо. Таким образом, $(m,u)$ и $(m',u')$ должны иметь одинаковую размерность, что имеет место, если критерий размерности

$d_{m}+d_{mm'}=d_{m'}+d_{m'm}\,$

встречается там, где $d_{mm'}$ это размерность $u$. Это известно как сопоставление размеров .

Если $\mathbb {R} ^{d_{m}}\subset \mathbb {R} ^{d_{m'}}$ тогда соответствие размеров состояние можно свести к

$d_{m}+d_{mm'}=d_{m'}\,$

с

$(m,u)=g_{m'm}(m).\,$

Вероятность принятия будет равна

$a(m,m')=\min \left(1,{\frac {p_{m'm}p_{m'}f_{m'}(m')}{p_{mm'}q_{mm'}(m,u)p_{m}f_{m}(m)}}\left|\det \left({\frac {\partial g_{mm'}(m,u)}{\partial (m,u)}}\right)\right|\right),$

где $|\cdot |$ обозначает абсолютное значение и $p_{m}f_{m}$ - совместная апостериорная вероятность

$p_{m}f_{m}=c^{-1}p(y|m,n_{m})p(m|n_{m})p(n_{m}),\,$

где $c$ – нормировочная константа.

Пакеты программного обеспечения

с открытым исходным кодом доступен экспериментальный инструмент RJ-MCMC Для пакета BUG .

Система вероятностного программирования Gen автоматизирует вычисление вероятности принятия для определяемых пользователем ядер MCMC с обратимым переходом в рамках своей функции Involution MCMC .