Венский фильтр

Не путать с фильтром Вина или мостом Вина .

При обработке сигналов фильтр Винера — это фильтр, используемый для получения оценки желаемого или целевого случайного процесса посредством линейной нестационарной ( LTI ) фильтрации наблюдаемого шумного процесса, предполагая известные стационарные спектры сигнала и шума, а также аддитивный шум. Фильтр Винера минимизирует среднеквадратическую ошибку между оцененным случайным процессом и желаемым процессом.

Описание

Целью фильтра Винера является вычисление статистической оценки неизвестного сигнала с использованием связанного сигнала в качестве входного сигнала и фильтрация этого известного сигнала для получения оценки в качестве выходного сигнала. Например, известный сигнал может состоять из интересующего неизвестного сигнала, искаженного аддитивным шумом . Фильтр Винера можно использовать для фильтрации шума из искаженного сигнала, чтобы получить оценку основного интересующего сигнала. Фильтр Винера основан на статистическом подходе, и более статистическое описание теории приведено в статье об оценке минимальной среднеквадратической ошибки (MMSE) .

Типичные детерминированные фильтры рассчитаны на желаемую частотную характеристику . Однако в конструкции фильтра Винера используется другой подход. Предполагается, что человек знает спектральные свойства исходного сигнала и шума, и ищет линейный, не зависящий от времени фильтр, выходной сигнал которого будет максимально приближен к исходному сигналу. Фильтры Винера характеризуются следующим:

1. Предположение: сигнал и (аддитивный) шум представляют собой стационарные линейные случайные процессы с известными спектральными характеристиками или известной автокорреляцией и взаимной корреляцией.
2. Требование: фильтр должен быть физически реализуемым/ каузальным (это требование можно отбросить, что приведет к некаузальному решению)
3. Критерий эффективности: минимальная среднеквадратическая ошибка (MMSE).

Этот фильтр часто используется в процессе деконволюции ; для этого приложения см. Винеровскую деконволюцию .

Решения для фильтров Винера

Позволять $s(t+\alpha )$ быть неизвестным сигналом, который необходимо оценить на основе измерительного сигнала $x(t)$. Где альфа — настраиваемый параметр. $\alpha >0$ известно как предсказание, $\alpha =0$ называется фильтрацией, и $\alpha <0$ известно как сглаживание (см. главу «Фильтрация Винера» в для более подробной информации).

Проблема фильтра Винера имеет решения для трех возможных случаев: один, когда непричинный фильтр приемлем (требуется бесконечное количество как прошлых, так и будущих данных), случай, когда причинный желателен фильтр (использующий бесконечное количество прошлых данных) и случай с конечной импульсной характеристикой (FIR), когда используются только входные данные (т. е. результат или выход не возвращаются обратно в фильтр, как в случае IIR). Первый случай легко решить, но он не подходит для приложений реального времени. Главным достижением Винера было решение случая, когда действует требование причинности; Норман Левинсон представил решение FIR в приложении к книге Винера.

решение

$G(s)={\frac {S_{x,s}(s)}{S_{x}(s)}}e^{\alpha s},$

где $S$ являются спектральными плотностями . При условии, что $g(t)$ является оптимальным, то уравнение минимальной среднеквадратической ошибки сводится к

$E(e^{2})=R_{s}(0)-\int _{-\infty }^{\infty }g(\tau )R_{x,s}(\tau +\alpha )\,d\tau ,$

и решение $g(t)$ — обратное двустороннее Лапласа преобразование $G(s)$.

решение

$G(s)={\frac {H(s)}{S_{x}^{+}(s)}},$

где

• $H(s)$ состоит из причинной части ${\frac {S_{x,s}(s)}{S_{x}^{-}(s)}}e^{\alpha s}$ (то есть та часть этой дроби, имеющая решение с положительным временем при обратном преобразовании Лапласа)
• $S_{x}^{+}(s)$ является причинным компонентом $S_{x}(s)$ (т.е. обратное преобразование Лапласа $S_{x}^{+}(s)$ не равно нулю только для $t\geq 0$)
• $S_{x}^{-}(s)$ является антипричинным компонентом $S_{x}(s)$ (т.е. обратное преобразование Лапласа $S_{x}^{-}(s)$ не равно нулю только для $t<0$)

Эта общая формула сложна и заслуживает более подробного пояснения. Чтобы записать решение $G(s)$ в конкретном случае следует выполнить следующие действия:

1. Начнем со спектра $S_{x}(s)$ в рациональной форме и разложить его на причинные и антикаузальные компоненты: $S_{x}(s)=S_{x}^{+}(s)S_{x}^{-}(s)$ где $S^{+}$ содержит все нули и полюса в левой полуплоскости (LHP) и $S^{-}$ содержит нули и полюса в правой полуплоскости (RHP). Это называется факторизацией Винера-Хопфа .
2. Разделять $S_{x,s}(s)e^{\alpha s}$ к $S_{x}^{-}(s)$ и запишите результат в виде разложения в неполные дроби .
3. Выберите в этом разложении только те члены, которые имеют полюсы в ПЛТ. Назовите эти условия $H(s)$.
4. Разделять $H(s)$ к $S_{x}^{+}(s)$. Результатом является искомая передаточная функция фильтра. $G(s)$.

Фильтр Винера с конечной импульсной характеристикой

Блок-схема КИХ-фильтра Винера для дискретных серий. Входной сигнал w [ n ] свернут с фильтром Винера g [ n ] и результат сравнивается с опорным сигналом s [ n ] для получения ошибки фильтрации e [ n ].

Причинно-следственный фильтр Винера с конечной импульсной характеристикой (FIR) вместо использования некоторой заданной матрицы данных X и выходного вектора Y находит оптимальные веса отводов, используя статистику входных и выходных сигналов. Он заполняет входную матрицу X оценками автокорреляции входного сигнала (T) и заполняет выходной вектор Y оценками взаимной корреляции между выходным и входным сигналами (V).

Чтобы получить коэффициенты фильтра Винера, рассмотрим сигнал w [ n ], подаваемый на фильтр Винера порядка (количества прошлых отводов) N и с коэффициентами $\{a_{0},\cdots ,a_{N}\}$. Выход фильтра обозначается x [ n ] и определяется выражением

$x[n]=\sum _{i=0}^{N}a_{i}w[n-i].$

Остаточная ошибка обозначается e [ n ] и определяется как e [ n ] = x [ n ] − s [ n ] (см. соответствующую блок-схему). Фильтр Винера спроектирован таким образом, чтобы минимизировать среднеквадратическую ошибку ( критерий MMSE ), которую кратко можно сформулировать следующим образом:

$a_{i}=\arg \min E\left[e^{2}[n]\right],$

где $E[\cdot ]$ обозначает оператор ожидания. В общем случае коэффициенты $a_{i}$ может быть комплексным и может быть получено для случая, когда w [ n ] и s [ n ] также являются комплексными. При комплексном сигнале решаемая матрица представляет собой эрмитову матрицу Теплица , а не симметричную матрицу Теплица . Для простоты ниже рассматривается только случай, когда все эти величины действительны. Среднеквадратическую ошибку (MSE) можно переписать как:

${\begin{aligned}E\left[e^{2}[n]\right]&=E\left[(x[n]-s[n])^{2}\right]\\&=E\left[x^{2}[n]\right]+E\left[s^{2}[n]\right]-2E[x[n]s[n]]\\&=E\left[\left(\sum _{i=0}^{N}a_{i}w[n-i]\right)^{2}\right]+E\left[s^{2}[n]\right]-2E\left[\sum _{i=0}^{N}a_{i}w[n-i]s[n]\right]\end{aligned}}$

Чтобы найти вектор $[a_{0},\,\ldots ,\,a_{N}]$ что минимизирует приведенное выше выражение, вычислите его производную по каждому $a_{i}$

${\begin{aligned}{\frac {\partial }{\partial a_{i}}}E\left[e^{2}[n]\right]&={\frac {\partial }{\partial a_{i}}}\left\{E\left[\left(\sum _{j=0}^{N}a_{j}w[n-j]\right)^{2}\right]+E\left[s^{2}[n]\right]-2E\left[\sum _{j=0}^{N}a_{j}w[n-j]s[n]\right]\right\}\\&=2E\left[\left(\sum _{j=0}^{N}a_{j}w[n-j]\right)w[n-i]\right]-2E[w[n-i]s[n]]\\&=2\left(\sum _{j=0}^{N}E[w[n-j]w[n-i]]a_{j}\right)-2E[w[n-i]s[n]]\end{aligned}}$

Предполагая, что w [ n ] и s [ n ] стационарны и совместно стационарны, последовательности $R_{w}[m]$ и $R_{ws}[m]$ известная соответственно как автокорреляция w [ n ] и взаимная корреляция между w [ n ] и s [ n ] могут быть определены следующим образом:

${\begin{aligned}R_{w}[m]&=E\{w[n]w[n+m]\}\\R_{ws}[m]&=E\{w[n]s[n+m]\}\end{aligned}}$

Таким образом, производную MSE можно переписать как:

${\frac {\partial }{\partial a_{i}}}E\left[e^{2}[n]\right]=2\left(\sum _{j=0}^{N}R_{w}[j-i]a_{j}\right)-2R_{ws}[i]\qquad i=0,\cdots ,N.$

Обратите внимание, что на самом деле $w[n]$, автокорреляция симметрична:

$$R_{w}[j-i]=R_{w}[i-j]$$

Если производная равна нулю, то получим:

$\sum _{j=0}^{N}R_{w}[j-i]a_{j}=R_{ws}[i]\qquad i=0,\cdots ,N.$

который можно переписать (используя указанное выше свойство симметричности) в матричной форме

$\underbrace {\begin{bmatrix}R_{w}[0]&R_{w}[1]&\cdots &R_{w}[N]\\R_{w}[1]&R_{w}[0]&\cdots &R_{w}[N-1]\\\vdots &\vdots &\ddots &\vdots \\R_{w}[N]&R_{w}[N-1]&\cdots &R_{w}[0]\end{bmatrix}} _{\mathbf {T} }\underbrace {\begin{bmatrix}a_{0}\\a_{1}\\\vdots \\a_{N}\end{bmatrix}} _{\mathbf {a} }=\underbrace {\begin{bmatrix}R_{ws}[0]\\R_{ws}[1]\\\vdots \\R_{ws}[N]\end{bmatrix}} _{\mathbf {v} }$

Эти уравнения известны как уравнения Винера – Хопфа . Матрица T, фигурирующая в уравнении, является симметричной матрицей Теплица . В подходящих условиях на $R$, эти матрицы, как известно, положительно определены и, следовательно, невырождены, что дает уникальное решение для определения вектора коэффициентов фильтра Винера, $\mathbf {a} =\mathbf {T} ^{-1}\mathbf {v}$. Более того, существует эффективный алгоритм решения таких уравнений Винера-Хопфа, известный как алгоритм Левинсона-Дурбина, поэтому явное обращение T не требуется.

В некоторых статьях функция взаимной корреляции определяется противоположным образом:

$$R_{sw}[m]=E\{w[n]s[n+m]\}$$

Затем $\mathbf {v}$ матрица будет содержать $R_{sw}[0]\ldots R_{sw}[N]$; это просто разница в обозначениях.

Какие бы обозначения ни использовались, обратите внимание, что на самом деле $w[n],s[n]$:

$$R_{sw}[k]=R_{ws}[-k]$$

Связь с фильтром наименьших квадратов

Реализация причинного фильтра Винера во многом похожа на решение оценки методом наименьших квадратов , за исключением области обработки сигналов. Решение методом наименьших квадратов для входной матрицы $\mathbf {X}$ и выходной вектор $\mathbf {y}$ является

${\boldsymbol {\hat {\beta }}}=(\mathbf {X} ^{\mathbf {T} }\mathbf {X} )^{-1}\mathbf {X} ^{\mathbf {T} }{\boldsymbol {y}}.$

КИХ-фильтр Винера связан с фильтром наименьших средних квадратов , но минимизация критерия ошибки последнего не зависит от взаимной корреляции или автокорреляции. Его решение сходится к решению фильтра Винера.

Комплексные сигналы

Для сложных сигналов вывод комплексного фильтра Винера выполняется путем минимизации $E\left[|e[n]|^{2}\right]$ = $E\left[e[n]e^{*}[n]\right]$. Это включает в себя вычисление частных производных как по действительной, так и по мнимой части. $a_{i}$и требуя, чтобы они оба были равны нулю.

Итоговые уравнения Винера-Хопфа:

$\sum _{j=0}^{N}R_{w}[j-i]a_{j}^{*}=R_{ws}[i]\qquad i=0,\cdots ,N.$

которое можно переписать в матричной форме:

$\underbrace {\begin{bmatrix}R_{w}[0]&R_{w}^{*}[1]&\cdots &R_{w}^{*}[N-1]&R_{w}^{*}[N]\\R_{w}[1]&R_{w}[0]&\cdots &R_{w}^{*}[N-2]&R_{w}^{*}[N-1]\\\vdots &\vdots &\ddots &\vdots &\vdots \\R_{w}[N-1]&R_{w}[N-2]&\cdots &R_{w}[0]&R_{w}^{*}[1]\\R_{w}[N]&R_{w}[N-1]&\cdots &R_{w}[1]&R_{w}[0]\end{bmatrix}} _{\mathbf {T} }\underbrace {\begin{bmatrix}a_{0}^{*}\\a_{1}^{*}\\\vdots \\a_{N-1}^{*}\\a_{N}^{*}\end{bmatrix}} _{\mathbf {a^{*}} }=\underbrace {\begin{bmatrix}R_{ws}[0]\\R_{ws}[1]\\\vdots \\R_{ws}[N-1]\\R_{ws}[N]\end{bmatrix}} _{\mathbf {v} }$

Обратите внимание, что:

$${\begin{aligned}R_{w}[-k]&=R_{w}^{*}[k]\\R_{sw}[k]&=R_{ws}^{*}[-k]\end{aligned}}$$

Вектор коэффициентов Винера затем вычисляется как:

$$\mathbf {a} ={(\mathbf {T} ^{-1}\mathbf {v} )}^{*}$$

Приложения

Фильтр Винера имеет множество применений в обработке сигналов, обработке изображений, системы управления и цифровая связь. Эти приложения обычно попадают в одну из четырех основных категорий:

• Идентификация системы
• Деконволюция
• Снижение шума
• Обнаружение сигнала

Шумное изображение космонавта

Изображение после применения фильтра Винера (рекомендуется полноэкранный режим)

Например, фильтр Винера можно использовать при обработке изображений для удаления шума из изображения. Например, используя функцию Mathematica: WienerFilter[image,2] на первом изображении справа, создается отфильтрованное изображение под ним.

Он обычно используется для шумоподавления аудиосигналов, особенно речи, в качестве препроцессора перед распознаванием речи .

История

Фильтр был предложен Норбертом Винером в 1940-х годах и опубликован в 1949 году. Эквивалент работы Винера в дискретном времени был независимо получен Андреем Колмогоровым и опубликован в 1941 году. Поэтому теорию часто называют теорией фильтрации Винера-Колмогорова ( см. Кригинг ). Фильтр Винера был первым предложенным статистическим фильтром, который впоследствии породил множество других, включая фильтр Калмана .

См. также

• Винеровская деконволюция
• Фильтр наименьших средних квадратов
• Сходства между Винером и LMS
• Линейное предсказание
• Оценщик MMSE
• Фильтр Калмана
• Обобщенный фильтр Винера
• Соответствующий фильтр
• Теория информационного поля

Дальнейшее чтение

• Томас Кайлат , Али Х. Сайед и Бабак Хассиби , Линейная оценка, Прентис-Холл, Нью-Джерси, 2000 г., ISBN   978-0-13-022464-4 .

Внешние ссылки

• Mathematica WienerFilter Функция