Сходства между Винером и LMS

Решение фильтра наименьших средних квадратов сходится к решению фильтра Винера , предполагая, что неизвестная система является LTI , а шум стационарен . Оба фильтра можно использовать для идентификации импульсной характеристики неизвестной системы, зная только исходный входной сигнал и выход неизвестной системы. Ослабляя критерий ошибки для уменьшения текущей ошибки выборки вместо минимизации общей ошибки по всем n, алгоритм LMS можно получить из фильтра Винера.

Вывод фильтра Винера для идентификации системы

Учитывая известный входной сигнал $s[n]$ , выходные данные неизвестной системы LTI $x[n]$ может быть выражено как:

$x[n]=\sum _{k=0}^{N-1}h_{k}s[n-k]+w[n]$

где $h_{k}$ неизвестные коэффициенты отводов фильтра и $w[n]$ это шум.

Модельная система ${\hat {x}}[n]$ , используя решение фильтра Винера порядка N, можно выразить как:

${\hat {x}}[n]=\sum _{k=0}^{N-1}{\hat {h}}_{k}s[n-k]$

где ${\hat {h}}_{k}$ – коэффициенты отводов фильтра, подлежащие определению.

Ошибка между моделью и неизвестной системой может быть выражена как:

$e[n]=x[n]-{\hat {x}}[n]$

Суммарная квадратичная ошибка $E$ может быть выражено как:

$E=\sum _{n=-\infty }^{\infty }e[n]^{2}$

$E=\sum _{n=-\infty }^{\infty }(x[n]-{\hat {x}}[n])^{2}$

$E=\sum _{n=-\infty }^{\infty }(x[n]^{2}-2x[n]{\hat {x}}[n]+{\hat {x}}[n]^{2})$

Используйте критерий минимальной среднеквадратической ошибки для всех $n$ установив его градиент равным нулю:

$\nabla E=0$ который ${\frac {\partial E}{\partial {\hat {h}}_{i}}}=0$ для всех $i=0,1,2,...,N-1$

${\frac {\partial E}{\partial {\hat {h}}_{i}}}={\frac {\partial }{\partial {\hat {h}}_{i}}}\sum _{n=-\infty }^{\infty }[x[n]^{2}-2x[n]{\hat {x}}[n]+{\hat {x}}[n]^{2}]$

Замените определение ${\hat {x}}[n]$ :

${\frac {\partial E}{\partial {\hat {h}}_{i}}}={\frac {\partial }{\partial {\hat {h}}_{i}}}\sum _{n=-\infty }^{\infty }[x[n]^{2}-2x[n]\sum _{k=0}^{N-1}{\hat {h}}_{k}s[n-k]+(\sum _{k=0}^{N-1}{\hat {h}}_{k}s[n-k])^{2}]$

Распределим частную производную:

${\frac {\partial E}{\partial {\hat {h}}_{i}}}=\sum _{n=-\infty }^{\infty }[-2x[n]s[n-i]+2(\sum _{k=0}^{N-1}{\hat {h}}_{k}s[n-k])s[n-i]]$

Используя определение дискретной взаимной корреляции :

$R_{xy}(i)=\sum _{n=-\infty }^{\infty }x[n]y[n-i]$

${\frac {\partial E}{\partial {\hat {h}}_{i}}}=-2R_{xs}[i]+2\sum _{k=0}^{N-1}{\hat {h}}_{k}R_{ss}[i-k]=0$

Переставьте условия:

$R_{xs}[i]=\sum _{k=0}^{N-1}{\hat {h}}_{k}R_{ss}[i-k]$ для всех $i=0,1,2,...,N-1$

Эту систему N уравнений с N неизвестными можно определить.

Результирующие коэффициенты фильтра Винера можно определить по формуле: $W=R_{xx}^{-1}P_{xs}$ , где $P_{xs}$ вектор взаимной корреляции между $x$ и $s$ .