Задача фильтрации (случайные процессы)

В теории случайных процессов фильтрация зашумленному описывает задачу определения состояния системы по неполному и потенциально набору наблюдений. Изначально фильтрация была вызвана инженерными проблемами, но нашла применение во многих областях, от обработки сигналов до финансов.

Задача оптимальной нелинейной фильтрации (даже для нестационарного случая) была решена Русланом Л. Стратоновичем (1959, 1960 ), см. также Гарольда Дж. Кушнера . работу и Моше Закаи , который представил упрощенную динамику для ненормированного условного закона фильтра известное как уравнение Закаи . Однако в общем случае решение бесконечномерно. Некоторые аппроксимации и частные случаи хорошо понятны: например, линейные фильтры оптимальны для гауссовских случайных величин и известны как фильтр Винера и фильтр Калмана-Бьюси . В более общем смысле, поскольку решение является бесконечномерным, оно требует реализации конечномерных приближений на компьютере с ограниченной памятью. Конечномерный аппроксимированный нелинейный фильтр может быть больше основан на эвристиках, таких как расширенный фильтр Калмана или фильтры предполагаемой плотности. или более методологически ориентированные, такие как, например, проекционные фильтры , Показано, что некоторые подсемейства из них совпадают с фильтрами предполагаемой плотности. Фильтры частиц являются еще одним вариантом решения проблемы бесконечномерной фильтрации и основаны на последовательных методах Монте-Карло.

В общем случае, если применяется принцип разделения , то фильтрация также возникает как часть решения задачи оптимального управления . Например, фильтр Калмана является оценочной частью оптимального решения задачи линейно-квадратично-гауссовского управления .

Математический формализм

Рассмотрим вероятностное пространство (Ω, Σ, P ) и предположим, что (случайное) состояние Y _t в n - мерном евклидовом пространстве R ^н интересующей системы в момент времени t является случайной величиной Y _t : Ω → R ^н заданное решением Ито стохастического дифференциального уравнения вида

$\mathrm {d} Y_{t}=b(t,Y_{t})\,\mathrm {d} t+\sigma (t,Y_{t})\,\mathrm {d} B_{t},$

где B обозначает стандартное p -мерное броуновское движение , b : [0, +∞) × R ^н → Р ^н — поле дрейфа, а σ : [0, +∞) × R ^н → Р ^{n × p} – диффузионное поле. Предполагается, что наблюдения H _t в R ^м (обратите внимание, что m и n , вообще говоря, могут быть неравными) берутся для каждого времени t в соответствии с

$H_{t}=c(t,Y_{t})+\gamma (t,Y_{t})\cdot {\mbox{noise}}.$

Принятие интерпретации Ито стохастического дифференциала и настройки

$Z_{t}=\int _{0}^{t}H_{s}\,\mathrm {d} s,$

это дает следующее стохастическое интегральное представление для наблюдений Z _t :

$\mathrm {d} Z_{t}=c(t,Y_{t})\,\mathrm {d} t+\gamma (t,Y_{t})\,\mathrm {d} W_{t},$

где W обозначает стандартное r -мерное броуновское движение , независимое от B и начального условия Y ₀ , а c : [0, +∞) × R ^н → Р ^н и γ : [0, +∞) × R ^н → Р ^{n × r} удовлетворить

${\big |}c(t,x){\big |}+{\big |}\gamma (t,x){\big |}\leq C{\big (}1+|x|{\big )}$

для всех t и x некоторой константы C. и

Задача фильтрации состоит в следующем: учитывая наблюдения Z _s для 0 ≤ s ≤ t , какова наилучшая оценка Ŷ _t истинного состояния Y _t системы, основанная на этих наблюдениях?

Под «основанным на этих наблюдениях» подразумевается, что относительно _σ -алгебры Ŷ t измеримо G t , порожденной _{наблюдениями} Z s _, 0 ⩽ s ⩽ t . Обозначим через K = K ( Z , t ) совокупность всех R ^н -значные случайные величины Y , интегрируемые с квадратом и G _t -измеримые:

$K=K(Z,t)=L^{2}(\Omega ,G_{t},\mathbf {P} ;\mathbf {R} ^{n}).$

Под «наилучшей оценкой» подразумевается, что Ŷ _t минимизирует среднеквадратичное расстояние между Y _t и всеми кандидатами из K :

$\mathbf {E} \left[{\big |}Y_{t}-{\hat {Y}}_{t}{\big |}^{2}\right]=\inf _{Y\in K}\mathbf {E} \left[{\big |}Y_{t}-Y{\big |}^{2}\right].\qquad {\mbox{(M)}}$

Основной результат: ортогональная проекция

Пространство K ( Z , t ) кандидатов является гильбертовым пространством , а из общей теории гильбертовых пространств следует, что решение Ŷt _{выражением} задачи минимизации (M) определяется

${\hat {Y}}_{t}=P_{K(Z,t)}{\big (}Y_{t}{\big )},$

где P _{K ( Z , t )} обозначает проекцию L ортогональную ² (О, С, П ; Р ^н ) на линейное подпространство K ( Z , t ) = L ² (О, Г _т , П ; Р ^н ). Более того, общий факт об условных ожиданиях заключается в том, что если F — любая под -σ -алгебра Σ, то ортогональная проекция

$P_{K}:L^{2}(\Omega ,\Sigma ,\mathbf {P} ;\mathbf {R} ^{n})\to L^{2}(\Omega ,F,\mathbf {P} ;\mathbf {R} ^{n})$

есть в точности оператор условного ожидания E [·| F ], т. е.

$P_{K}(X)=\mathbf {E} {\big [}X{\big |}F{\big ]}.$

Следовательно,

${\hat {Y}}_{t}=P_{K(Z,t)}{\big (}Y_{t}{\big )}=\mathbf {E} {\big [}Y_{t}{\big |}G_{t}{\big ]}.$

Этот элементарный результат лежит в основе общего уравнения Фудзисаки-Каллианпура-Куниты теории фильтрации.

Более продвинутый результат: нелинейная фильтрация SPDE

Полное знание фильтра в момент времени t будет дано законом вероятности сигнала Y _t, зависящим от сигма-поля G _t, генерируемого наблюдениями Z до момента t . Если этот закон вероятности допускает плотность, неформально

$p_{t}(y)\ dy={\bf {P}}(Y_{t}\in dy|G_{t}),$

тогда при некоторых предположениях о регулярности плотность $p_{t}(y)$ удовлетворяет нелинейному стохастическому уравнению в частных производных (SPDE), управляемому $dZ_{t}$ и названное уравнением Кушнера-Стратоновича , или ненормализованная версия $q_{t}(y)$ плотности $p_{t}(y)$ удовлетворяет линейному СДДУ, называемому уравнением Закаи . Эти уравнения можно сформулировать для приведенной выше системы, но для упрощения изложения можно предположить, что ненаблюдаемый сигнал Y и частично наблюдаемый зашумленный сигнал Z удовлетворяют уравнениям

$\mathrm {d} Y_{t}=b(t,Y_{t})\,\mathrm {d} t+\sigma (t,Y_{t})\,\mathrm {d} B_{t},$

$\mathrm {d} Z_{t}=c(t,Y_{t})\,\mathrm {d} t+\mathrm {d} W_{t}.$

Другими словами, система упрощается, если предположить, что шум наблюдения W не зависит от состояния.

Можно было бы сохранить детерминированную зависимость от времени $\gamma$ перед $dW$ но мы предполагаем, что это было устранено путем изменения масштаба.

Для этой конкретной системы СДЭ Кушнера-Стратоновича для плотности $p_{t}$ читает

$\mathrm {d} p_{t}={\cal {L}}_{t}^{*}p_{t}\ dt+p_{t}[c(t,\cdot )-E_{p_{t}}(c(t,\cdot ))]^{T}[dZ_{t}-E_{p_{t}}(c(t,\cdot ))dt]$

где T обозначает транспозицию, $E_{p}$ обозначает математическое ожидание относительно плотности p , $E_{p}[f]=\int f(y)p(y)dy,$ и оператор прямой диффузии ${\cal {L}}_{t}^{*}$ является

${\cal {L}}_{t}^{*}f(t,y)=-\sum _{i}{\frac {\partial }{\partial y_{i}}}[b_{i}(t,y)f(t,y)]+{\frac {1}{2}}\sum _{i,j}{\frac {\partial ^{2}}{\partial y_{i}\partial y_{j}}}[a_{ij}(t,y)f(t,y)]$

где $a=\sigma \sigma ^{T}$. Если мы выберем ненормированную плотность $q_{t}(y)$, Zakai SPDE для той же системы гласит:

$\mathrm {d} q_{t}={\cal {L}}_{t}^{*}q_{t}\ dt+q_{t}[c(t,\cdot )]^{T}dZ_{t}.$

Эти СПДЭ для p и q записаны в форме исчисления Ито. Их можно записать в форме исчисления Стратоновича, что оказывается полезным при выводе аппроксимаций фильтрации на основе дифференциальной геометрии, как в проекционных фильтрах. Например, уравнение Кушнера-Стратоновича, записанное в исчислении Стратоновича, гласит:

$dp_{t}={\cal {L}}_{t}^{\ast }\,p_{t}\,dt-{\frac {1}{2}}\,p_{t}\,[\vert c(\cdot ,t)\vert ^{2}-E_{p_{t}}(\vert c(\cdot ,t)\vert ^{2})]\,dt+p_{t}\,[c(\cdot ,t)-E_{p_{t}}(c(\cdot ,t))]^{T}\circ dZ_{t}\ .$

Из любой плотности p и q можно вычислить всю статистику сигнала Y _t при условии, что сигма-поле генерируется наблюдениями Z до момента времени t , так что плотности дают полное знание фильтра. При определенных предположениях о линейной константе относительно Y , где системные коэффициенты b и c являются линейными функциями Y и где $\sigma$ и $\gamma$ не зависят от Y , при этом начальное условие для сигнала Y является гауссовым или детерминированным, плотность $p_{t}(y)$ является гауссовским и может быть охарактеризован своим средним значением и дисперсионно-ковариационной матрицей, эволюция которой описывается фильтром Калмана-Бьюси , который является конечномерным. В более общем смысле, эволюция плотности фильтра происходит в бесконечномерном функциональном пространстве: и его необходимо аппроксимировать с помощью конечномерного приближения, как указано выше.

См. также

• Проблема сглаживания , тесно связанная с проблемой фильтрации.
• Фильтр (обработка сигнала)
• Фильтр Калмана — известный алгоритм фильтрации линейных систем, относящийся как к задаче фильтрации, так и к проблеме сглаживания.
• Расширенный фильтр Калмана , расширение фильтра Калмана для нелинейных систем.
• Сглаживание
• Проекционные фильтры
• Фильтры частиц

Дальнейшее чтение

• Джазвински, Эндрю Х. (1970). Стохастические процессы и теория фильтрации . Нью-Йорк: Академическая пресса. ISBN  0-12-381550-9 .
• Оксендал, Бернт К. (2003). Стохастические дифференциальные уравнения: введение с приложениями (шестое изд.). Берлин: Шпрингер. ISBN  3-540-04758-1 . (См. раздел 6.1)