Вероятность Уиттла

В статистике является правдоподобие Уиттла приближением к функции правдоподобия стационарного гауссовского временного ряда . Он назван в честь математика и статистика Питера Уиттла , который представил его в своей докторской диссертации в 1951 году. Он обычно используется при анализе временных рядов и обработке сигналов для оценки параметров и обнаружения сигналов.

Контекст

В стационарной модели гауссовских временных рядов функция правдоподобия (как обычно в гауссовских моделях) является функцией связанных среднего значения и параметров ковариации. При большом количестве( $N$) наблюдений, ( $N\times N$) ковариационная матрица может стать очень большой, что на практике делает вычисления очень дорогостоящими. Однако в силу стационарности ковариационная матрица имеет достаточно простую структуру, и с помощью аппроксимации вычисления можно существенно упростить (от $O(N^{2})$ к $O(N\log(N))$). Идея фактически сводится к предположению гетероскедастической гауссовой модели с нулевым средним в области Фурье ; Формулировка модели основана на дискретном преобразовании Фурье временного ряда и его спектральной плотности мощности .

Определение

Позволять $X_{1},\ldots ,X_{N}$ быть стационарным гауссовским временным рядом с ( односторонней ) спектральной плотностью мощности $S_{1}(f)$, где $N$ является равномерным, и пробы отбираются с постоянными интервалами отбора проб. $\Delta _{t}$.Позволять ${\tilde {X}}_{1},\ldots ,{\tilde {X}}_{N/2+1}$ быть (комплекснозначным) дискретным преобразованием Фурье (ДПФ) временного ряда. Тогда для вероятности Уиттла фактически предполагается независимые гауссовы распределения с нулевым средним для всех ${\tilde {X}}_{j}$ с дисперсией действительной и мнимой частей, определяемой формулой

$\operatorname {Var} \left(\operatorname {Re} ({\tilde {X}}_{j})\right)=\operatorname {Var} \left(\operatorname {Im} ({\tilde {X}}_{j})\right)=S_{1}(f_{j})$

где $f_{j}={\frac {j}{N\,\Delta _{t}}}$ это $j$-я частота Фурье. Эта приближенная модель немедленно приводит к (логарифмической) функции правдоподобия

$\log \left(P(x_{1},\ldots ,x_{N})\right)\propto -\sum _{j}\left(\log \left(S_{1}(f_{j})\right)+{\frac {|{\tilde {x}}_{j}|^{2}}{{\frac {N}{2\,\Delta _{t}}}S_{1}(f_{j})}}\right)$

где $|\cdot |$ обозначает абсолютное значение с $|{\tilde {x}}_{j}|^{2}=\left(\operatorname {Re} ({\tilde {x}}_{j})\right)^{2}+\left(\operatorname {Im} ({\tilde {x}}_{j})\right)^{2}$.

спектра шума

В случае, если предполагается, что спектр шума априорно известен и свойства шума не должны быть выведены из данных, функцию правдоподобия можно еще упростить, игнорируя постоянные члены, что приводит к выражению суммы квадратов

$\log \left(P(x_{1},\ldots ,x_{N})\right)\;\propto \;-\sum _{j}{\frac {|{\tilde {x}}_{j}|^{2}}{{\frac {N}{2\,\Delta _{t}}}S_{1}(f_{j})}}$

Это выражение также является основой для общего согласованного фильтра .

Точность аппроксимации

Вероятность Уиттла вообще является лишь приближением, она точна только в том случае, если спектр постоянен, то есть в тривиальном случае белого шума .Эффективность приближения Уиттла всегда зависит от конкретных обстоятельств.

Обратите внимание, что из-за линейности преобразования Фурье гауссовость в области Фурье подразумевает гауссовость во временной области и наоборот. То, что делает вероятность Уиттла лишь приблизительно точной, связано с теоремой выборки — эффектом преобразования Фурье только конечного числа точек данных, который также проявляется как утечка спектра в связанных задачах (и который можно улучшить, используя те же методы, а именно, оконное управление ). В данном случае неявное предположение о периодичности подразумевает корреляцию между первой и последней выборками ( $x_{1}$ и $x_{N}$), которые фактически рассматриваются как «соседние» выборки (например, $x_{1}$ и $x_{2}$).

Приложения

Оценка параметров

Вероятность Уиттла обычно используется для оценки параметров сигналов, которые скрыты в небелом шуме. Спектр шума тогда можно считать известным, или оно может быть выведено вместе с параметрами сигнала.

Обнаружение сигнала

Обнаружение сигнала обычно выполняется с помощью согласованного фильтра , который основан на правдоподобии Уиттла для случая известной спектральной плотности мощности шума. Согласованный фильтр эффективно максимальной вероятностью подбирает сигнал к зашумленным данным с и использует полученное отношение правдоподобия в качестве статистики обнаружения.

Согласованный фильтр можно обобщить до аналогичной процедуры, основанной на распределении Стьюдента, также учитывая неопределенность (например, неопределенность оценки ) в спектре шума. С технической стороны это влечет за собой повторную или итеративную согласованную фильтрацию.

Оценка спектра

Вероятность Уиттла также применима для оценки спектра шума либо отдельно, либо в сочетании с параметрами сигнала.

См. также

• Цветной шум
• Дискретное преобразование Фурье
• Функция правдоподобия
• Соответствующий фильтр
• Спектральная плотность мощности
• Статистическая обработка сигналов
• Взвешенные наименьшие квадраты