Итерационная фильтрация

Алгоритмы итерационной фильтрации являются инструментом для вывода максимального правдоподобия в частично наблюдаемых динамических системах . Стохастические возмущения неизвестных параметров используются для исследования пространства параметров. Применение последовательного метода Монте-Карло ( фильтра частиц ) к этой расширенной модели приводит к выбору значений параметров, которые более соответствуют данным. Соответствующим образом построенные процедуры, повторяющиеся с последовательно уменьшающимися возмущениями, сходятся к оценке максимального правдоподобия. Методы итерационной фильтрации до сих пор наиболее широко использовались для изучения динамики передачи инфекционных заболеваний. Тематические исследования включают холеру , вирус Эбола , грипп , малярия , ВИЧ , коклюш , полиовирус и корь . Другие области, которые, как было предложено, подходят для этих методов, включают экологическую динамику. и финансы .

Возмущения пространства параметров играют несколько разных ролей. Во-первых, они сглаживают поверхность правдоподобия, позволяя алгоритму преодолевать мелкомасштабные особенности правдоподобия на ранних этапах глобального поиска. Во-вторых, вариация Монте-Карло позволяет уйти от локальных минимумов. В-третьих, итерированное обновление фильтрации использует возмущенные значения параметров для построения аппроксимации производной логарифмической вероятности, даже если эта величина обычно не доступна в закрытой форме. В-четвертых, возмущения параметров помогают преодолеть численные трудности, которые могут возникнуть при последовательном методе Монте-Карло.

Обзор

Данные представляют собой временной ряд $y_{1},\dots ,y_{N}$ собирал время от времени $t_{1}<t_{2}<\dots <t_{N}$. Динамическая система моделируется марковским процессом. $X(t)$ который генерируется функцией $f(x,s,t,\theta ,W)$ в том смысле, что

$X(t_{n}^{})=f(X(t_{n-1}^{}),t_{n-1}^{},t_{n}^{},\theta ,W)$

где $\theta$ представляет собой вектор неизвестных параметров и $W$ это некоторая случайная величина, которая каждый раз рисуется независимо $f(.)$ оценивается. Начальное состояние $X(t_{0})$ в какое-то время $t_{0}<t_{1}$ задается функцией инициализации, $X(t_{0})=h(\theta )$. Плотность измерения $g(y_{n}|X_{n},t_{n},\theta )$ завершает спецификацию частично наблюдаемого марковского процесса. Мы представляем базовый алгоритм итерационной фильтрации (IF1). за которым следует итеративный алгоритм фильтрации, реализующий итерированную возмущенную карту Байеса (IF2).

Процедура: Итеративная фильтрация (IF1)

Входные данные: частично наблюдаемая марковская модель, указанная выше; Размер выборки Монте-Карло $J$; количество итераций $M$; параметры охлаждения $0<a<1$ и $b$; ковариационная матрица $\Phi$; вектор начальных параметров $\theta ^{(1)}$

для $m_{}^{}=1$ к $M_{}^{}$

рисовать $\Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\theta ^{(m)},ba^{m-1}\Phi )$ для $j=1,\dots ,J$

набор $X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}$ для $j=1,\dots ,J$

набор ${\bar {\theta }}(t_{0}^{})=\theta ^{(m)}$

для $n_{}^{}=1$ к $N_{}^{}$

рисовать $\Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},j),a^{m-1}\Phi )$ для $j=1,\dots ,J$

набор $X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)$ для $j=1,\dots ,J$

набор $w(n,j)=g(y_{n}|X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{n},j))$ для $j=1,\dots ,J$

рисовать $k_{1}^{},\dots ,k_{J}^{}$ такой, что $P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )$

набор $X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})$ и $\Theta _{F}(t_{n}^{},j)=\Theta _{P}(t_{n}^{},k_{j}^{})$ для $j=1,\dots ,J$

набор ${\bar {\theta }}_{i}^{}(t_{n}^{})$ к выборочному среднему значению $\{\Theta _{F,i}^{}(t_{n}^{},j),j=1,\dots ,J\}$, где вектор $\Theta _{F}^{}$ имеет компоненты $\{\Theta _{F,i}^{}\}$

набор $V_{i}^{}(t_{n}^{})$ к выборочной дисперсии $\{\Theta _{P,i}^{}(t_{n}^{},j),j=1,\dots ,J\}$

набор $\theta _{i}^{(m+1)}=\theta _{i}^{(m)}+V_{i}(t_{1})\sum _{n=1}^{N}V_{i}^{-1}(t_{n})({\bar {\theta }}_{i}(t_{n})-{\bar {\theta }}_{i}(t_{n-1}))$

Выходные данные: оценка максимального правдоподобия. ${\hat {\theta }}=\theta ^{(M+1)}$

Вариации

1. Для IF1 параметры, которые входят в модель только в спецификации начального условия, $X(t_{0})$, требуют особого алгоритмического внимания, поскольку информация о них в данных может быть сосредоточена в небольшой части временного ряда.
2. Теоретически вместо нормального распределения можно использовать любое распределение с необходимым средним значением и дисперсией . Обычно используется нормальное распределение и проводится повторная параметризация для устранения ограничений на возможные значения параметров.
3. Были предложены модификации алгоритма IF1, обеспечивающие превосходную асимптотическую производительность.

Процедура: Итеративная фильтрация (IF2)

Входные данные: частично наблюдаемая марковская модель, указанная выше; Размер выборки Монте-Карло $J$; количество итераций $M$; параметр охлаждения $0<a<1$; ковариационная матрица $\Phi$; векторы начальных параметров $\{\Theta _{j},j=1,\dots ,J\}$

для $m_{}^{}=1$ к $M_{}^{}$

набор $\Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\Theta _{j},a^{m-1}\Phi )$ для $j=1,\dots ,J$

набор $X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}$ для $j=1,\dots ,J$

для $n_{}^{}=1$ к $N_{}^{}$

рисовать $\Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},k_{j}^{}),a^{m-1}\Phi )$ для $j=1,\dots ,J$

набор $X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)$ для $j=1,\dots ,J$

набор $w(n,j)=g(y_{n}|X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{n},j))$ для $j=1,\dots ,J$

рисовать $k_{1}^{},\dots ,k_{J}^{}$ такой, что $P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )$

набор $X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})$ и $\Theta _{F}(t_{n}^{},j)=\Theta _{P}(t_{n}^{},k_{j}^{})$ для $j=1,\dots ,J$

набор $\Theta _{j}=\Theta _{F}(t_{N}^{},j)$ для $j=1,\dots ,J$

Выходные данные: векторы параметров, аппроксимирующие оценку максимального правдоподобия, $\{\Theta _{j},j=1,\dots ,J\}$

Программное обеспечение

«помпа: статистический вывод для частично наблюдаемых марковских процессов» : пакет R.