Уравнение Чепмена – Колмогорова

В математике , особенно в теории марковских случайных процессов в теории вероятностей , уравнение Чепмена-Колмогорова (CKE) представляет собой тождество, связывающее совместные распределения вероятностей различных наборов координат в случайном процессе. Уравнение было выведено независимо британским математиком Сиднеем Чепменом и российским математиком Андреем Колмогоровым . CKE широко используется в последних вариационных байесовских методах .

Математическое описание

Предположим, что { f _i } — индексированный набор случайных величин , то есть случайный процесс. Позволять

p_{i_{1},\ldots ,i_{n}}(f_{1},\ldots ,f_{n})

— совместная функция плотности вероятности значений случайных величин от f ₁ до f _n . Тогда уравнение Чепмена–Колмогорова имеет вид

p_{i_{1},\ldots ,i_{n-1}}(f_{1},\ldots ,f_{n-1})=\int _{-\infty }^{\infty }p_{i_{1},\ldots ,i_{n}}(f_{1},\ldots ,f_{n})\,df_{n}

т.е. прямая маргинализация мешающей переменной .

(Обратите внимание, что еще ничего не предполагалось относительно временного (или любого другого) порядка случайных величин — приведенное выше уравнение в равной степени применимо к маргинализации любой из них.)

В терминах марковских ядер

Если мы рассмотрим ядра Маркова, индуцированные переходами марковского процесса , уравнение Чепмена-Колмогорова можно рассматривать как способ составления ядра, обобщающий способ составления стохастических матриц . Учитывая измеримое пространство $(X,{\mathcal {A}})$ и ядро Маркова $k:(X,{\mathcal {A}})\to (X,{\mathcal {A}})$ , двухшаговое переходное ядро $k^{2}:(X,{\mathcal {A}})\to (X,{\mathcal {A}})$ дается

k^{2}(A|x)=\int _{Y}k(A|x')\,k(dx'|x)

для всех $x\in X$ и $A\in {\mathcal {A}}$ . ^{[ 1 ]} Это можно интерпретировать как сумму по всем промежуточным состояниям пар независимых вероятностных переходов.

В более общем смысле, учитывая измеримые пространства $(X,{\mathcal {A}})$ , $(Y,{\mathcal {B}})$ и $(Z,{\mathcal {C}})$ и ядра Маркова $k:(X,{\mathcal {A}})\to (Y,{\mathcal {B}})$ и $h:(Y,{\mathcal {B}})\to (Z,{\mathcal {C}})$ , мы получаем составное ядро $h\circ k:(X,{\mathcal {A}})\to (Z,{\mathcal {C}})$ к

(h\circ k)(C|x)=\int _{Y}h(C|x)\,k(dy|x)

для всех $x\in X$ и $C\in {\mathcal {C}}$ .

Из-за этого ядра Маркова , подобно стохастическим матрицам , образуют категорию .

Приложение к расширенным во времени цепям Маркова

Когда рассматриваемый случайный процесс является марковским , уравнение Чепмена–Колмогорова эквивалентно тождеству о переходных плотностях. В случае цепи Маркова предполагается, что i ₁ < ... < i _n . Тогда в силу свойства марковского

p_{i_{1},\ldots ,i_{n}}(f_{1},\ldots ,f_{n})=p_{i_{1}}(f_{1})p_{i_{2};i_{1}}(f_{2}\mid f_{1})\cdots p_{i_{n};i_{n-1}}(f_{n}\mid f_{n-1}),

где условная вероятность $p_{i;j}(f_{i}\mid f_{j})$ вероятность перехода между моментами времени $i>j$ . Итак, уравнение Чепмена–Колмогорова принимает вид

p_{i_{3};i_{1}}(f_{3}\mid f_{1})=\int _{-\infty }^{\infty }p_{i_{3};i_{2}}(f_{3}\mid f_{2})p_{i_{2};i_{1}}(f_{2}\mid f_{1})\,df_{2}.

Неформально это означает, что вероятность перехода из состояния 1 в состояние 3 может быть найдена из вероятностей перехода из 1 в промежуточное состояние 2, а затем из 2 в 3 путем сложения всех возможных промежуточных состояний 2.

Когда распределение вероятностей (возможно, бесконечномерных) в пространстве состояний цепи Маркова дискретно, а цепь Маркова однородна, уравнения Чепмена-Колмогорова могут быть выражены в терминах умножения матриц , таким образом:

P(t+s)=P(t)P(s)\,

где P ( t ) — матрица перехода перехода t , т.е. P ( t ) — матрица такая, что запись (i,j) содержит вероятность перехода цепи из состояния i в состояние j за t шагов.

Как следствие, следует, что для вычисления матрицы перехода прыжка t достаточно возвести матрицу перехода первого прыжка в степень t , т.е.

P(t)=P^{t}.\,

Дифференциальная форма уравнения Чепмена-Колмогорова известна как главное уравнение .

См. также

Уравнение Фоккера – Планка (также известное как прямое уравнение Колмогорова)
Обратное уравнение Колмогорова
Примеры цепей Маркова
Категория ядер Маркова

Цитаты

^ Перроне (2024) , стр. 10–11

Дальнейшее чтение

Павлиотис, Григориос А. (2014). «Марковские процессы и уравнение Чепмена – Колмогорова». Стохастические процессы и приложения . Нью-Йорк: Спрингер. стр. 33–38. ISBN 978-1-4939-1322-0 .
Росс, Шелдон М. (2014). «Глава 4.2: Уравнения Чепмена-Колмогорова». Введение в вероятностные модели (11-е изд.). Академическая пресса. п. 187. ИСБН 978-0-12-407948-9 .
Перроне, Паоло (2024). Начало теории категорий . Всемирная научная. стр. 10, 11. doi : 10.1142/9789811286018_0005 . ISBN 978-981-12-8600-1 .

Внешние ссылки

Вайсштейн, Эрик В. «Уравнение Чепмена – Колмогорова» . Математический мир .

[1] Перроне (2024) , стр. 10–11

[ 1 ]