Обобщенная фильтрация

Обобщенная фильтрация — это общая схема байесовской фильтрации для нелинейных моделей в пространстве состояний. ^[1] В его основе лежит вариационный принцип наименьшего действия , сформулированный в обобщенных координатах движения. ^[2] Обратите внимание, что «обобщенные координаты движения» связаны с обобщенными координатами , используемыми в анализе (многотельных) динамических систем, но отличаются от них. Обобщенная фильтрация обеспечивает апостериорные плотности скрытых состояний (и параметров), генерируя наблюдаемые данные с использованием обобщенного градиентного спуска вариационной свободной энергии в соответствии с предположением Лапласа . В отличие от классической фильтрации (например, Калмана-Бьюси или фильтрации частиц ), обобщенная фильтрация избегает марковских предположений о случайных флуктуациях. Более того, он работает в режиме онлайн, усваивая данные для аппроксимации апостериорной плотности по неизвестным величинам без необходимости обратного прохода. Особые случаи включают вариационную фильтрацию , ^[3] динамическая максимизация ожидания ^[4] и обобщенное предсказательное кодирование .

Определение

Определение : Обобщенная фильтрация опирается на кортеж. $(\Omega ,U,X,S,p,q)$ :

Образец пространства $\Omega$ от чего случайные колебания $\omega \in \Omega$ нарисованы
Состояния управления $U\in \mathbb {R}$ – которые действуют как внешние причины, входные или вынуждающие условия
Скрытые состояния $X:X\times U\times \Omega \to \mathbb {R}$ – которые вызывают сенсорные состояния и зависят от состояний управления
Состояния датчика $S:X\times U\times \Omega \to \mathbb {R}$ – вероятностное отображение скрытых и контрольных состояний
Генеративная плотность $p({\tilde {s}},{\tilde {x}},{\tilde {u}}\mid m)$ – над сенсорными, скрытыми и контрольными состояниями в рамках генеративной модели $m$
Вариационная плотность $q({\tilde {x}},{\tilde {u}}\mid {\tilde {\mu }})$ – над скрытыми и контролирующими состояниями со средним значением ${\tilde {\mu }}\in \mathbb {R}$

Здесь ~ обозначает переменную в обобщенных координатах движения: ${\tilde {u}}=[u,u',u'',\ldots ]^{T}$

Обобщенная фильтрация

Цель состоит в том, чтобы аппроксимировать апостериорную плотность по скрытым и контрольным состояниям, учитывая состояния датчиков и генеративную модель, и оценить (интеграл по траектории) свидетельства модели. $p({\tilde {s}}(t)\vert m)$ для сравнения разных моделей. Обычно это предполагает непреодолимую маргинализацию скрытых состояний, поэтому свидетельства модели (или предельное правдоподобие) заменяются вариационной границей свободной энергии. ^[5] Учитывая следующие определения:

{\tilde {\mu }}(t)={\underset {\tilde {\mu }}{\operatorname {arg\,min} }}\{F({\tilde {s}}(t),{\tilde {\mu }})\}

G({\tilde {s}},{\tilde {x}},{\tilde {u}})=-\ln p({\tilde {s}},{\tilde {x}},{\tilde {u}}\vert m)

Обозначим энтропию Шеннона плотности $q$ к $H[q]=E_{q}[-\log(q)]$ . Тогда мы можем записать вариационную свободную энергию двумя способами:

F({\tilde {s}},{\tilde {\mu }})=E_{q}[G({\tilde {s}},{\tilde {x}},{\tilde {u}})]-H[q({\tilde {x}},{\tilde {u}}\vert {\tilde {\mu }})]=-\ln p({\tilde {s}}\vert m)+D_{KL}[q({\tilde {x}},{\tilde {u}}\vert {\tilde {\mu }})\vert \vert p({\tilde {x}},{\tilde {u}}\vert {\tilde {s}},m)]

Второе равенство показывает, что минимизация вариационной свободной энергии (i) минимизирует расхождение Кульбака-Лейблера между вариационной и истинной апостериорной плотностью и (ii) делает вариационную свободную энергию (связанное приближение) отрицательным логарифмическим свидетельством (поскольку расхождение никогда не может быть меньше нуля). ^[6] По предположению Лапласа $q({\tilde {x}},{\tilde {u}}\mid {\tilde {\mu }})={\mathcal {N}}({\tilde {\mu }},C)$ плотность вариаций является гауссовой, а точность, минимизирующая свободную энергию, равна $C^{-1}=\Pi =\partial _{{\tilde {\mu }}{\tilde {\mu }}}G({\tilde {\mu }})$ . Это означает, что свободная энергия может быть выражена через вариационное среднее ^[7] (без констант):

F=G({\tilde {\mu }})+\textstyle {1 \over 2}\ln \vert \partial _{{\tilde {\mu }}{\tilde {\mu }}}G({\tilde {\mu }})\vert

Вариационные средства, минимизирующие (интеграл по траекториям) свободной энергии, теперь могут быть восстановлены путем решения обобщенного фильтра:

{\dot {\tilde {\mu }}}=D{\tilde {\mu }}-\partial _{\tilde {\mu }}F({\tilde {s}},{\tilde {\mu }})

где $D$ - оператор производной блочной матрицы идентификационных матриц такой, что $D{\tilde {u}}=[u',u'',\ldots ]^{T}$

Вариационный базис

Обобщенная фильтрация основана на следующей лемме: Самосогласованное решение ${\dot {\tilde {\mu }}}=D{\tilde {\mu }}-\partial _{\tilde {\mu }}F(s,{\tilde {\mu }})$ удовлетворяет вариационному принципу стационарного действия , где действие представляет собой интеграл по траектории вариационной свободной энергии.

S=\int dt\,F({\tilde {s}}(t),{\tilde {\mu }}(t))

Доказательство : самосогласованность требует, чтобы движение среднего было средним значением движения и (по фундаментальной лемме вариационного исчисления )

{\dot {\tilde {\mu }}}=D{\tilde {\mu }}\Leftrightarrow \partial _{\tilde {\mu }}F({\tilde {s}},{\tilde {\mu }})=0\Leftrightarrow \delta _{\tilde {\mu }}S=0

Проще говоря, небольшие возмущения пути среднего не меняют вариационную свободную энергию и оказывают наименьшее влияние из всех возможных (локальных) путей.

Примечания . Эвристически обобщенная фильтрация выполняет градиентный спуск вариационной свободной энергии в движущейся системе отсчета: ${\dot {\tilde {\mu }}}-D{\tilde {\mu }}=-\partial _{\tilde {\mu }}F(s,{\tilde {\mu }})$ , где сама система минимизирует вариационную свободную энергию. Соответствующий пример из статистической физики см. в статье Керра и Грэма. ^[8] которые используют динамику ансамбля в обобщенных координатах, чтобы предоставить обобщенную версию Ланжевена и связанных с ним уравнений Фоккера-Планка в фазовом пространстве.

На практике обобщенная фильтрация использует локальную линеаризацию. ^[9] через интервалы $\Delta t$ восстановить дискретные обновления

{\begin{aligned}\Delta {\tilde {\mu }}&=(\exp(\Delta t\cdot J)-I)J^{-1}{\dot {\tilde {\mu }}}\\J&=\partial _{\tilde {\mu }}{\dot {\tilde {\mu }}}=D-\partial _{{\tilde {\mu }}{\tilde {\mu }}}F({\tilde {s}},{\tilde {\mu }})\end{aligned}}

Это обновляет средние значения скрытых переменных на каждом интервале (обычно интервале между наблюдениями).

Генеративные модели (пространства состояний) в обобщенных координатах

Обычно генеративная плотность или модель задается в терминах нелинейной модели входного состояния-выхода с непрерывными нелинейными функциями:

{\begin{aligned}s&=g(x,u)+\omega _{s}\\{\dot {x}}&=f(x,u)+\omega _{x}\end{aligned}}

Соответствующая обобщенная модель (при предположениях локальной линейности) получает из цепного правила

{\begin{aligned}{\tilde {s}}&={\tilde {g}}({\tilde {x}},{\tilde {u}})+{\tilde {\omega }}_{s}\\\\s&=g(x,u)+\omega _{s}\\s'&=\partial _{x}g\cdot x'+\partial _{u}g\cdot u'+\omega '_{s}\\s''&=\partial _{x}g\cdot x''+\partial _{u}g\cdot u''+\omega ''_{s}\\&\vdots \\\end{aligned}}\qquad {\begin{aligned}{\dot {\tilde {x}}}&={\tilde {f}}({\tilde {x}},{\tilde {u}})+{\tilde {\omega }}_{x}\\\\{\dot {x}}&=f(x,u)+\omega _{x}\\{\dot {x}}'&=\partial _{x}f\cdot x'+\partial _{u}f\cdot u'+\omega '_{x}\\{\dot {x}}''&=\partial _{x}f\cdot x''+\partial _{u}f\cdot u''+\omega ''_{x}\\&\vdots \end{aligned}}

Гауссовские предположения о случайных флуктуациях $\omega$ затем пропишите вероятность и эмпирические априоры движения скрытых состояний

{\begin{aligned}p\left({\tilde {s}},{\tilde {x}},{\tilde {u}}\vert m\right)&=p\left({\tilde {s}}\vert {\tilde {x}},{\tilde {u}},m\right)p\left({D{\tilde {x}}\vert x,{\tilde {u}},m}\right)p(x\vert m)p({\tilde {u}}\vert m)\\p\left({\tilde {s}}\vert {\tilde {x}},{\tilde {u}},m\right)&={\mathcal {N}}({\tilde {g}}({\tilde {x}},{\tilde {u}}),{\tilde {\Sigma }}({\tilde {x}},{\tilde {u}})_{s})\\p\left({D{\tilde {x}}\vert x,{\tilde {u}},m}\right)&={\mathcal {N}}({\tilde {f}}({\tilde {x}},{\tilde {u}}),{\tilde {\Sigma }}({\tilde {x}},{\tilde {u}})_{x})\\\end{aligned}}

Ковариации ${\tilde {\Sigma }}=V\otimes \Sigma$ факторизовать в ковариацию между переменными и корреляциями $V$ среди обобщенных флуктуаций, кодирующих их автокорреляцию :

V={\begin{bmatrix}1&0&{\ddot {\rho }}(0)&\cdots \\0&-{\ddot {\rho }}(0)&0\ &\ \\{\ddot {\rho }}(0)\ &0\ &{\ddot {\ddot {\rho }}}(0)\ &\ \\\vdots \ &\ &\ &\ddots \ \\\end{bmatrix}}

Здесь, ${\ddot {\rho }}(0)$ — вторая производная автокорреляционной функции, оцененная по нулю. Это повсеместная мера грубости в теории случайных процессов . ^[10] Важно отметить, что точность (обратная дисперсия) производных высокого порядка довольно быстро падает до нуля, а это означает, что необходимо моделировать обобщенное движение только относительно низкого порядка (обычно от двух до восьми) для любой заданной или параметризованной автокорреляционной функции.

Особые случаи

Фильтрация дискретных временных рядов

Когда временные ряды рассматриваются как дискретная последовательность $N$ наблюдений неявная выборка рассматривается как часть генеративного процесса, где (используя теорему Тейлора )

[s_{1},\dots ,s_{N}]^{T}=(E\otimes I)\cdot {\tilde {s}}(t):\qquad E_{ij}={\frac {(i-t)^{(j-1)}}{(j-1)!}}

В принципе, всю последовательность можно использовать для оценки скрытых переменных в каждый момент времени. Однако точность образцов в прошлом и будущем быстро падает, и ее можно игнорировать. Это позволяет схеме усваивать данные в режиме онлайн, используя локальные наблюдения в каждый момент времени (обычно от двух до восьми).

Обобщенная фильтрация и параметры модели

Для любых медленно меняющихся модельных параметров уравнений движения $f(x,u,\theta )$ или точность ${\tilde {\Pi }}(x,u,\theta )$ обобщенная фильтрация принимает следующий вид (где $\mu$ соответствует вариационному среднему параметров)

{\begin{aligned}{\dot {\mu }}&=\mu '\\{\dot {\mu '}}&=-\partial _{\mu }F({\tilde {s}},\mu )-\kappa \mu '\end{aligned}}

Здесь решение ${\dot {\tilde {\mu }}}=0$ минимизирует вариационную свободную энергию, когда движение среднего невелико. Это можно увидеть, заметив ${\dot {\mu }}={\dot {\mu }}'=0\Rightarrow \partial _{\mu }F=0\Rightarrow \delta _{\mu }S=0$ . Несложно показать, что это решение соответствует классическому обновлению Ньютона . ^[11]

Связь с байесовской фильтрацией и прогнозирующим кодированием

Обобщенная фильтрация и фильтрация Калмана

Классическая фильтрация в рамках марковских или винеровских предположений эквивалентна предположению, что точность движения случайных флуктуаций равна нулю. В этом предельном случае остается рассматривать только состояния и их первую производную. ${\tilde {\mu }}=(\mu ,{\mu }')$ . Это означает, что обобщенная фильтрация принимает форму фильтра Калмана-Бьюси с условиями прогнозирования и коррекции:

{\begin{aligned}{\dot {\mu }}&=\mu '-\partial _{\mu }F(s,{\tilde {\mu }})\\{\dot {\mu '}}&=-\partial _{\mu '}F(s,{\tilde {\mu }})\end{aligned}}

Замена этой фильтрации первого порядка в приведенную выше схему дискретного обновления дает эквивалент (расширенной) фильтрации Калмана. ^[12]

Обобщенная фильтрация и фильтрация частиц

Фильтрация частиц — это схема, основанная на выборке, которая ослабляет предположения о форме вариационной или приблизительной апостериорной плотности. Соответствующая схема обобщенной фильтрации называется вариационной фильтрацией . ^[3] При вариационной фильтрации ансамбль частиц диффундирует по ландшафту свободной энергии в системе отсчета, которая движется вместе с ожидаемым (обобщенным) движением ансамбля. Это обеспечивает относительно простую схему, которая избегает гауссовских (унимодальных) предположений. В отличие от фильтрации частиц, он не требует плотности предложений, а также удаления или создания частиц.

Обобщенная фильтрация и вариационный Байес

Вариационный байесовский метод основан на разбиении среднего поля вариационной плотности:

q({\tilde {x}},{\tilde {u}},\theta \dots \vert {\tilde {\mu }},\mu )=q({\tilde {x}},{\tilde {u}}\vert {\tilde {\mu }})q(\theta \vert \mu )\dots

Это разделение вызывает вариационное обновление или шаг для каждой предельной плотности, которое обычно решается аналитически с использованием сопряженных априорных значений. В обобщенной фильтрации это приводит к динамической максимизации ожидания . ^[4] который включает в себя D-шаг, который оптимизирует достаточную статистику неизвестных состояний, E-шаг для параметров и M-шаг для точности.

Обобщенная фильтрация и прогнозирующее кодирование

Обобщенная фильтрация обычно используется для инвертирования иерархических моделей следующего вида:

{\begin{aligned}{\tilde {s}}&={\tilde {g}}^{1}({\tilde {x}}^{1},{\tilde {u}}^{(1)})+{\tilde {\omega }}_{s}^{(1)}\\{\dot {\tilde {x}}}^{(1)}&={\tilde {f}}^{(1)}({\tilde {x}}^{(1)},{\tilde {u}}^{(1)})+{\tilde {\omega }}_{x}^{(1)}\\\vdots \\{\tilde {u}}^{(i-1)}&={\tilde {g}}^{(i)}({\tilde {x}}^{(i)},{\tilde {u}}^{(i)})+{\tilde {\omega }}_{u}^{(i)}\\{\dot {\tilde {x}}}^{(i)}&={\tilde {f}}^{(i)}({\tilde {x}}^{(i)},{\tilde {u}}^{(i)})+{\tilde {\omega }}_{x}^{(i)}\\\vdots \end{aligned}}

Последовавший за этим обобщенный градиентный спуск свободной энергии может быть компактно выражен через ошибки прогнозирования, где (опуская члены высокого порядка):

{\begin{aligned}{\dot {\tilde {\mu }}}_{u}^{(i)}&=D{\tilde {\mu }}^{(u,i)}-\partial _{u}{\tilde {\varepsilon }}^{(i)}\cdot \Pi ^{(i)}{\tilde {\varepsilon }}^{(i)}-\Pi ^{(i+1)}{\tilde {\varepsilon }}_{u}^{(i+1)}\\{\dot {\tilde {\mu }}}_{x}^{(i)}&=D{\tilde {\mu }}^{(x,i)}-\partial _{x}{\tilde {\varepsilon }}^{(i)}\cdot \Pi ^{(i)}{\tilde {\varepsilon }}^{(i)}\\\\{\tilde {\varepsilon }}_{u}^{(i)}&={\tilde {\mu }}_{u}^{(i-1)}-{\tilde {g}}^{(i)}\\{\tilde {\varepsilon }}_{x}^{(i)}&=D{\tilde {\mu }}_{x}^{(i)}-{\tilde {f}}^{(i)}\end{aligned}}

Здесь, $\Pi ^{(i)}$ — точность случайных колебаний на i -м уровне. Это известно как кодирование с обобщенным прогнозированием [11], при этом кодирование с линейным прогнозированием является частным случаем.

Приложения

Обобщенная фильтрация в первую очередь применялась к биологическим временным рядам, в частности к данным функциональной магнитно-резонансной томографии и электрофизиологическим данным. Обычно это происходит в контексте динамического причинно-следственного моделирования, позволяющего сделать выводы о базовой архитектуре (нейронных) систем, генерирующих данные. ^[13] Он также используется для моделирования вывода с точки зрения обобщенного (иерархического) прогнозирующего кодирования в мозге. ^[14]

См. также

Ссылки

^ К. Фристон, К. Стефан, Б. Ли и Дж. Даунизо, « Обобщенная фильтрация », «Математические проблемы в инженерии » , том. том, 2010, с. 621670, 2010.
^ Б. Баладжи и К. Фристон, « Оценка байесовского состояния с использованием обобщенных координат », Proc. ШПАЙ, с. 80501Y, 2011 г.
^ Перейти обратно: ^а ^б К.Дж. Фристон, « Вариационная фильтрация », Neuroimage, vol. 41, нет. 3, стр. 747–66, 2008 г.
^ Перейти обратно: ^а ^б К. Дж. Фристон, Н. Трухильо-Баррето и Дж. Даунизо, « DEM: вариационная трактовка динамических систем », Neuroimage, vol. 41, нет. 3, стр. 849-85, 2008 г.
^ Р. П. Фейнман, Статистическая механика. Ридинг MA: Бенджамин, 1972 г.
^ М. Дж. Бил, « Вариационные алгоритмы для приближенного байесовского вывода », доктор философии. Диссертация, Университетский колледж Лондона, 2003 г.
^ К. Фристон, Дж. Мэттаут, Н. Трухильо-Баррето, Дж. Эшбернер и В. Пенни, « Вариационная свободная энергия и приближение Лапласа », NeuroImage, vol. 34, нет. 1, стр. 220–34, 2007 г.
^ WC Kerr и AJ Graham, « Обобщенная версия уравнений Ланжевена в фазовом пространстве и связанные с ними уравнения Фоккера-Планка », Eur. Физ. JB, вып. 15, стр. 305–11, 2000.
^ Т. Одзаки, « Мост между нелинейными моделями временных рядов и нелинейными стохастическими динамическими системами: подход локальной линеаризации », Statistica Sin., vol. 2, стр. 113-135, 1992 г.
^ Д. Р. Кокс и Х. Д. Миллер, Теория случайных процессов. Лондон: Метуэн, 1965.
^ К. Фристон, К. Стефан, Б. Ли и Дж. Даунизо, «Обобщенная фильтрация», Математические проблемы в инженерии, том. том, 2010, с. 621670, 2010.
^ К. Дж. Фристон, Н. Трухильо-Баррето и Дж. Даунизо, «DEM: вариационная трактовка динамических систем», Neuroimage, vol. 41, нет. 3, стр. 849-85, 2008 г.
^ Дж. Донизо, О. Дэвид и К. Э. Стефан, « Динамическое причинно-следственное моделирование: критический обзор биофизических и статистических основ. Архивировано 7 декабря 2012 г. в Wayback Machine », Neuroimage, vol. 58, нет. 2, стр. 312-22, 2011 г.
^ К. Фристон, « Иерархические модели в мозге », PLoS Comput. Биол., вып. 4, нет. 11, с. е1000211, 2008.

Внешние ссылки

Демонстрации программного обеспечения и приложения доступны в виде бесплатного академического программного обеспечения (в виде кода Matlab) в наборе инструментов DEM SPM.
документы сборник технических и прикладных документов

[1] К. Фристон, К. Стефан, Б. Ли и Дж. Даунизо, « Обобщенная фильтрация », «Математические проблемы в инженерии » , том. том, 2010, с. 621670, 2010.

[2] Б. Баладжи и К. Фристон, « Оценка байесовского состояния с использованием обобщенных координат », Proc. ШПАЙ, с. 80501Y, 2011 г.

[:0-3] Перейти обратно: ^а ^б К.Дж. Фристон, « Вариационная фильтрация », Neuroimage, vol. 41, нет. 3, стр. 747–66, 2008 г.

[:1-4] Перейти обратно: ^а ^б К. Дж. Фристон, Н. Трухильо-Баррето и Дж. Даунизо, « DEM: вариационная трактовка динамических систем », Neuroimage, vol. 41, нет. 3, стр. 849-85, 2008 г.

[5] Р. П. Фейнман, Статистическая механика. Ридинг MA: Бенджамин, 1972 г.

[6] М. Дж. Бил, « Вариационные алгоритмы для приближенного байесовского вывода », доктор философии. Диссертация, Университетский колледж Лондона, 2003 г.

[7] К. Фристон, Дж. Мэттаут, Н. Трухильо-Баррето, Дж. Эшбернер и В. Пенни, « Вариационная свободная энергия и приближение Лапласа », NeuroImage, vol. 34, нет. 1, стр. 220–34, 2007 г.

[8] WC Kerr и AJ Graham, « Обобщенная версия уравнений Ланжевена в фазовом пространстве и связанные с ними уравнения Фоккера-Планка », Eur. Физ. JB, вып. 15, стр. 305–11, 2000.

[9] Т. Одзаки, « Мост между нелинейными моделями временных рядов и нелинейными стохастическими динамическими системами: подход локальной линеаризации », Statistica Sin., vol. 2, стр. 113-135, 1992 г.

[10] Д. Р. Кокс и Х. Д. Миллер, Теория случайных процессов. Лондон: Метуэн, 1965.

[11] К. Фристон, К. Стефан, Б. Ли и Дж. Даунизо, «Обобщенная фильтрация», Математические проблемы в инженерии, том. том, 2010, с. 621670, 2010.

[12] К. Дж. Фристон, Н. Трухильо-Баррето и Дж. Даунизо, «DEM: вариационная трактовка динамических систем», Neuroimage, vol. 41, нет. 3, стр. 849-85, 2008 г.

[13] Дж. Донизо, О. Дэвид и К. Э. Стефан, « Динамическое причинно-следственное моделирование: критический обзор биофизических и статистических основ. Архивировано 7 декабря 2012 г. в Wayback Machine », Neuroimage, vol. 58, нет. 2, стр. 312-22, 2011 г.

[14] К. Фристон, « Иерархические модели в мозге », PLoS Comput. Биол., вып. 4, нет. 11, с. е1000211, 2008.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]