Автокорреляция

Вверху: график серии из 100 случайных чисел, скрывающих синусоидальную функцию. Внизу: синусоидальная функция, показанная на коррелограмме, полученной с помощью автокорреляции.

Визуальное сравнение свертки, взаимной корреляции и автокорреляции . Для операций с функцией f и при условии, что высота f равна 1,0, значение результата в 5 разных точках обозначается заштрихованной областью под каждой точкой. Кроме того, симметрия f является причиной $g*f$ и $f\star g$ в этом примере идентичны.

Автокорреляция иногда известная как последовательная корреляция в случае дискретного времени , представляет собой корреляцию сигнала , с задержанной копией самого себя как функцию задержки. Неформально это сходство между наблюдениями случайной величины как функция временного лага между ними. Анализ автокорреляции — это математический инструмент для поиска повторяющихся закономерностей, таких как наличие периодического сигнала , скрытого шумом , или определение недостающей основной частоты в сигнале, подразумеваемой его гармоническими частотами. Он часто используется при обработке сигналов для анализа функций или серий значений, таких как сигналы во временной области .

В разных областях исследований автокорреляция определяется по-разному, и не все эти определения эквивалентны. В некоторых областях этот термин используется как синоним автоковариации .

Процессы с единичным корнем , стационарные по тренду процессы , авторегрессионные процессы и процессы скользящего среднего представляют собой особые формы процессов с автокорреляцией.

Автокорреляция случайных процессов

В статистике автокорреляция реального или сложного случайного процесса — это корреляция Пирсона между значениями процесса в разное время в зависимости от двух моментов времени или временной задержки. Позволять $\left\{X_{t}\right\}$ быть случайным процессом и $t$ быть в любой момент времени ( $t$ может быть целым числом для процесса с дискретным временем или действительным числом для процесса с непрерывным временем ). Затем $X_{t}$ — это ценность (или реализация ), полученная в результате данного выполнения процесса в определенный момент времени. $t$. Предположим, что процесс имеет среднее значение $\mu _{t}$ и дисперсия $\sigma _{t}^{2}$ во время $t$, для каждого $t$. Тогда определение автокорреляционной функции между временами $t_{1}$ и $t_{2}$ является

$\operatorname {R} _{XX}(t_{1},t_{2})=\operatorname {E} \left[X_{t_{1}}{\overline {X}}_{t_{2}}\right]$ ( Уравнение 1 )

где $\operatorname {E}$ — это оператор ожидаемого значения , а столбец представляет собой комплексное сопряжение . Обратите внимание, что ожидание может быть неточно определено .

Вычитание среднего значения перед умножением дает функцию автоковариации между временами. $t_{1}$ и $t_{2}$:

$\operatorname {K} _{XX}(t_{1},t_{2})=\operatorname {E} \left[(X_{t_{1}}-\mu _{t_{1}}){\overline {(X_{t_{2}}-\mu _{t_{2}})}}\right]=\operatorname {E} \left[X_{t_{1}}{\overline {X}}_{t_{2}}\right]-\mu _{t_{1}}{\overline {\mu }}_{t_{2}}$ ( Уравнение 2 )

Обратите внимание, что это выражение не является четко определенным для всех временных рядов или процессов, поскольку среднее значение может не существовать, или дисперсия может быть нулевой (для постоянного процесса) или бесконечной (для процессов с распределением, в котором отсутствуют моменты хорошего поведения, такие как определенные виды степенного закона ).

Определение стационарного случайного процесса

Если $\left\{X_{t}\right\}$ является стационарным процессом в широком смысле, то среднее значение $\mu$ и дисперсия $\sigma ^{2}$ не зависят от времени, и далее функция автоковариации зависит только от задержки между $t_{1}$ и $t_{2}$: автоковариация зависит только от расстояния во времени между парой значений, но не от их положения во времени. Это также означает, что автоковариация и автокорреляция могут быть выражены как функция временной задержки, и что это будет четная функция задержки. $\tau =t_{2}-t_{1}$. Это дает более знакомые формы автокорреляционной функции.

$\operatorname {R} _{XX}(\tau )=\operatorname {E} \left[X_{t+\tau }{\overline {X}}_{t}\right]$ ( Уравнение 3 )

и функция автоковариации :

$\operatorname {K} _{XX}(\tau )=\operatorname {E} \left[(X_{t+\tau }-\mu ){\overline {(X_{t}-\mu )}}\right]=\operatorname {E} \left[X_{t+\tau }{\overline {X}}_{t}\right]-\mu {\overline {\mu }}$ ( Уравнение 4 )

В частности, отметим, что

$$\operatorname {K} _{XX}(0)=\sigma ^{2}.$$

Нормализация

) обычной практикой является В некоторых дисциплинах (например, в статистике и анализе временных рядов нормализация автоковариационной функции для получения зависящего от времени коэффициента корреляции Пирсона . Однако в других дисциплинах (например, инженерных) от нормализации обычно отказываются и термины «автокорреляция» и «автоковариация» используются как синонимы.

Определение коэффициента автокорреляции случайного процесса

$$\rho _{XX}(t_{1},t_{2})={\frac {\operatorname {K} _{XX}(t_{1},t_{2})}{\sigma _{t_{1}}\sigma _{t_{2}}}}={\frac {\operatorname {E} \left[(X_{t_{1}}-\mu _{t_{1}}){\overline {(X_{t_{2}}-\mu _{t_{2}})}}\right]}{\sigma _{t_{1}}\sigma _{t_{2}}}}.$$

Если функция $\rho _{XX}$ четко определен, его значение должно лежать в диапазоне $[-1,1]$, где 1 указывает на идеальную корреляцию, а −1 указывает на идеальную антикорреляцию .

Для стационарного процесса в широком смысле (WSS) определение таково:

$$\rho _{XX}(\tau )={\frac {\operatorname {K} _{XX}(\tau )}{\sigma ^{2}}}={\frac {\operatorname {E} \left[(X_{t+\tau }-\mu ){\overline {(X_{t}-\mu )}}\right]}{\sigma ^{2}}}$$

.

Нормализация важна как потому, что интерпретация автокорреляции как корреляции обеспечивает безмасштабную меру силы статистической зависимости , так и потому, что нормализация влияет на статистические свойства оцененных автокорреляций.

Свойства

Свойство симметрии

Тот факт, что автокорреляционная функция $\operatorname {R} _{XX}$ является четной функцией, можно записать как

$$\operatorname {R} _{XX}(t_{1},t_{2})={\overline {\operatorname {R} _{XX}(t_{2},t_{1})}}$$

соответственно для процесса WSS:

$$\operatorname {R} _{XX}(\tau )={\overline {\operatorname {R} _{XX}(-\tau )}}.$$

Максимум на нуле

Для процесса WSS:

$$\left|\operatorname {R} _{XX}(\tau )\right|\leq \operatorname {R} _{XX}(0)$$

Обратите внимание, что $\operatorname {R} _{XX}(0)$ всегда реален.

–

Неравенство Коши –Шварца , неравенство для случайных процессов:

$$\left|\operatorname {R} _{XX}(t_{1},t_{2})\right|^{2}\leq \operatorname {E} \left[|X_{t_{1}}|^{2}\right]\operatorname {E} \left[|X_{t_{2}}|^{2}\right]$$

белого

Автокорреляция непрерывного сигнала белого шума будет иметь сильный пик (представленный дельта-функцией Дирака ) при $\tau =0$ и будет именно $0$ для всех остальных $\tau$.

–

Теорема Винера – Хинчина связывает автокорреляционную функцию $\operatorname {R} _{XX}$ к спектральной плотности мощности $S_{XX}$ через преобразование Фурье :

$$\operatorname {R} _{XX}(\tau )=\int _{-\infty }^{\infty }S_{XX}(f)e^{i2\pi f\tau }\,{\rm {d}}f$$

$$S_{XX}(f)=\int _{-\infty }^{\infty }\operatorname {R} _{XX}(\tau )e^{-i2\pi f\tau }\,{\rm {d}}\tau .$$

Для вещественных функций симметричная автокорреляционная функция имеет вещественное симметричное преобразование, поэтому теорему Винера – Хинчина можно перевыразить только через действительные косинусы:

$$\operatorname {R} _{XX}(\tau )=\int _{-\infty }^{\infty }S_{XX}(f)\cos(2\pi f\tau )\,{\rm {d}}f$$

$$S_{XX}(f)=\int _{-\infty }^{\infty }\operatorname {R} _{XX}(\tau )\cos(2\pi f\tau )\,{\rm {d}}\tau .$$

Автокорреляция случайных векторов

(потенциально зависящая от времени) Матрица автокорреляции (потенциально зависящего от времени). (также называемая вторым моментом) случайного вектора $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\rm {T}}$ это $n\times n$ матрица, содержащая в качестве элементов автокорреляции всех пар элементов случайного вектора $\mathbf {X}$. Матрица автокорреляции используется в различных алгоритмах цифровой обработки сигналов .

Для случайного вектора $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\rm {T}}$ содержащая случайные элементы которых , ожидаемое значение и дисперсия существуют, матрица автокорреляции определяется формулой

$\operatorname {R} _{\mathbf {X} \mathbf {X} }\triangleq \ \operatorname {E} \left[\mathbf {X} \mathbf {X} ^{\rm {T}}\right]$ ( Уравнение 5 )

где ${}^{\rm {T}}$ обозначает транспонированную матрицу размерностей $n\times n$.

Написано покомпонентно:

$$\operatorname {R} _{\mathbf {X} \mathbf {X} }={\begin{bmatrix}\operatorname {E} [X_{1}X_{1}]&\operatorname {E} [X_{1}X_{2}]&\cdots &\operatorname {E} [X_{1}X_{n}]\\\\\operatorname {E} [X_{2}X_{1}]&\operatorname {E} [X_{2}X_{2}]&\cdots &\operatorname {E} [X_{2}X_{n}]\\\\\vdots &\vdots &\ddots &\vdots \\\\\operatorname {E} [X_{n}X_{1}]&\operatorname {E} [X_{n}X_{2}]&\cdots &\operatorname {E} [X_{n}X_{n}]\\\\\end{bmatrix}}$$

Если $\mathbf {Z}$ — комплексный случайный вектор , матрица автокорреляции вместо этого определяется формулой

$$\operatorname {R} _{\mathbf {Z} \mathbf {Z} }\triangleq \ \operatorname {E} [\mathbf {Z} \mathbf {Z} ^{\rm {H}}].$$

Здесь ${}^{\rm {H}}$ обозначает эрмитово транспонирование .

Например, если $\mathbf {X} =\left(X_{1},X_{2},X_{3}\right)^{\rm {T}}$ — случайный вектор, то $\operatorname {R} _{\mathbf {X} \mathbf {X} }$ это $3\times 3$ матрица, чья $(i,j)$-я запись $\operatorname {E} [X_{i}X_{j}]$.

Свойства матрицы автокорреляции

• Матрица автокорреляции представляет собой эрмитову матрицу для комплексных случайных векторов и симметричную матрицу для вещественных случайных векторов.
• Матрица автокорреляции представляет собой положительную полуопределенную матрицу , т.е. $\mathbf {a} ^{\mathrm {T} }\operatorname {R} _{\mathbf {X} \mathbf {X} }\mathbf {a} \geq 0\quad {\text{for all }}\mathbf {a} \in \mathbb {R} ^{n}$ для вещественного случайного вектора и соответственно $\mathbf {a} ^{\mathrm {H} }\operatorname {R} _{\mathbf {Z} \mathbf {Z} }\mathbf {a} \geq 0\quad {\text{for all }}\mathbf {a} \in \mathbb {C} ^{n}$ в случае сложного случайного вектора.
• Все собственные значения матрицы автокорреляции действительны и неотрицательны.
• Матрица автоковариации связана с матрицей автокорреляции следующим образом:
  $$\operatorname {K} _{\mathbf {X} \mathbf {X} }=\operatorname {E} [(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\rm {T}}]=\operatorname {R} _{\mathbf {X} \mathbf {X} }-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{\rm {T}}$$
  Соответственно для сложных случайных векторов:
  $$\operatorname {K} _{\mathbf {Z} \mathbf {Z} }=\operatorname {E} [(\mathbf {Z} -\operatorname {E} [\mathbf {Z} ])(\mathbf {Z} -\operatorname {E} [\mathbf {Z} ])^{\rm {H}}]=\operatorname {R} _{\mathbf {Z} \mathbf {Z} }-\operatorname {E} [\mathbf {Z} ]\operatorname {E} [\mathbf {Z} ]^{\rm {H}}$$

Автокорреляция

В обработке сигналов приведенное выше определение часто используется без нормализации, то есть без вычитания среднего значения и деления на дисперсию. Когда автокорреляционная функция нормируется по среднему значению и дисперсии, ее иногда называют коэффициентом автокорреляции. или автоковариационная функция.

Автокорреляция непрерывного сигнала

Учитывая сигнал $f(t)$, непрерывная автокорреляция $R_{ff}(\tau )$ чаще всего определяется как непрерывный взаимной корреляции интеграл $f(t)$ сам с собой, с отставанием $\tau$.

$R_{ff}(\tau )=\int _{-\infty }^{\infty }f(t+\tau ){\overline {f(t)}}\,{\rm {d}}t=\int _{-\infty }^{\infty }f(t){\overline {f(t-\tau )}}\,{\rm {d}}t$ ( Уравнение 6 )

где ${\overline {f(t)}}$ представляет собой сопряжение комплексное $f(t)$. Обратите внимание, что параметр $t$ в интеграле является фиктивной переменной и необходима только для вычисления интеграла. Оно не имеет конкретного значения.

Автокорреляция дискретного сигнала

Дискретная автокорреляция $R$ с отставанием $\ell$ для сигнала дискретного времени $y(n)$ является

$R_{yy}(\ell )=\sum _{n\in Z}y(n)\,{\overline {y(n-\ell )}}$ ( Уравнение 7 )

Приведенные выше определения применимы к сигналам, которые интегрируются с квадратом или суммируются с квадратом, то есть имеют конечную энергию. Вместо этого сигналы, которые «длятся вечно», рассматриваются как случайные процессы, и в этом случае необходимы другие определения, основанные на ожидаемых значениях. Для стационарных случайных процессов в широком смысле автокорреляции определяются как

$${\begin{aligned}R_{ff}(\tau )&=\operatorname {E} \left[f(t){\overline {f(t-\tau )}}\right]\\R_{yy}(\ell )&=\operatorname {E} \left[y(n)\,{\overline {y(n-\ell )}}\right].\end{aligned}}$$

Для процессов, которые не являются стационарными , это также будут функции $t$, или $n$.

Для процессов, которые также являются эргодическими , математическое ожидание можно заменить пределом среднего по времени. Автокорреляция эргодического процесса иногда определяется или приравнивается к

$${\begin{aligned}R_{ff}(\tau )&=\lim _{T\rightarrow \infty }{\frac {1}{T}}\int _{0}^{T}f(t+\tau ){\overline {f(t)}}\,{\rm {d}}t\\R_{yy}(\ell )&=\lim _{N\rightarrow \infty }{\frac {1}{N}}\sum _{n=0}^{N-1}y(n)\,{\overline {y(n-\ell )}}.\end{aligned}}$$

Эти определения имеют то преимущество, что они дают разумные, четко определенные однопараметрические результаты для периодических функций, даже если эти функции не являются результатом стационарных эргодических процессов.

Альтернативно, сигналы, которые длятся вечно, можно обрабатывать с помощью кратковременного анализа автокорреляционной функции с использованием интегралов конечного времени. ( см. в разделе кратковременное преобразование Фурье Связанный процесс .)

Определение периодических сигналов

Если $f$ является непрерывной периодической функцией периода $T$, интегрирование из $-\infty$ к $\infty$ заменяется интегрированием по любому интервалу $[t_{0},t_{0}+T]$ длины $T$:

$$R_{ff}(\tau )\triangleq \int _{t_{0}}^{t_{0}+T}f(t+\tau ){\overline {f(t)}}\,dt$$

что эквивалентно

$$R_{ff}(\tau )\triangleq \int _{t_{0}}^{t_{0}+T}f(t){\overline {f(t-\tau )}}\,dt$$

Свойства

Далее мы опишем свойства только одномерных автокорреляций, поскольку большинство свойств легко переносится из одномерного случая в многомерные случаи. Эти свойства справедливы для стационарных процессов в широком смысле .

• Фундаментальным свойством автокорреляции является симметрия. $R_{ff}(\tau )=R_{ff}(-\tau )$, что легко доказать из определения. В непрерывном случае
  • автокорреляция является четной функцией $R_{ff}(-\tau )=R_{ff}(\tau )$ когда $f$ является реальной функцией, и
  • автокорреляция является эрмитовой функцией $R_{ff}(-\tau )=R_{ff}^{*}(\tau )$ когда $f$ это сложная функция .
• Непрерывная автокорреляционная функция достигает своего максимума в начале координат, где она принимает действительное значение, т.е. при любой задержке $\tau$, $|R_{ff}(\tau )|\leq R_{ff}(0)$. Это является следствием неравенства перестановки . Тот же результат справедлив и в дискретном случае.
• Автокорреляция периодической функции сама по себе является периодической с тем же периодом.
• Автокорреляция суммы двух совершенно некоррелированных функций (взаимная корреляция равна нулю для всех $\tau$) — сумма автокорреляций каждой функции в отдельности.
• Поскольку автокорреляция представляет собой особый тип взаимной корреляции , она сохраняет все свойства взаимной корреляции.
• С помощью символа $*$ представлять свертку и $g_{-1}$ это функция, которая манипулирует функцией $f$ и определяется как $g_{-1}(f)(t)=f(-t)$, определение для $R_{ff}(\tau )$ может быть записано как:
  $$R_{ff}(\tau )=(f*g_{-1}({\overline {f}}))(\tau )$$

Многомерная автокорреляция

Многомерная автокорреляция определяется аналогично. Например, в трех измерениях автокорреляция дискретного сигнала, суммируемого с квадратом, будет равна

$$R(j,k,\ell )=\sum _{n,q,r}x_{n,q,r}\,{\overline {x}}_{n-j,q-k,r-\ell }.$$

Когда средние значения вычитаются из сигналов перед вычислением автокорреляционной функции, результирующую функцию обычно называют функцией автоковариации.

Эффективные вычисления

Для данных, выраженных в виде дискретной последовательности, часто необходимо вычислить автокорреляцию с высокой вычислительной эффективностью . Метод грубой силы, основанный на определении обработки сигналов. $R_{xx}(j)=\sum _{n}x_{n}\,{\overline {x}}_{n-j}$ может использоваться, когда размер сигнала небольшой. Например, для расчета автокорреляции реальной сигнальной последовательности $x=(2,3,-1)$ (т.е. $x_{0}=2,x_{1}=3,x_{2}=-1$, и $x_{i}=0$ для всех остальных значений i ) вручную мы сначала осознаем, что только что данное определение такое же, как и «обычное» умножение, но со сдвигом вправо, где каждое вертикальное сложение дает автокорреляцию для конкретных значений задержки:

$${\begin{array}{rrrrrr}&2&3&-1\\\times &2&3&-1\\\hline &-2&-3&1\\&&6&9&-3\\+&&&4&6&-2\\\hline &-2&3&14&3&-2\end{array}}$$

Таким образом, требуемая автокорреляционная последовательность имеет вид $R_{xx}=(-2,3,14,3,-2)$, где $R_{xx}(0)=14,$ $R_{xx}(-1)=R_{xx}(1)=3,$ и $R_{xx}(-2)=R_{xx}(2)=-2,$ автокорреляция для других значений задержки равна нулю. В этом вычислении мы не выполняем операцию переноса во время сложения, как это обычно происходит при обычном умножении. Обратите внимание, что мы можем вдвое сократить количество необходимых операций, используя присущую автокорреляции симметрию. Если сигнал оказывается периодическим, т.е. $x=(\ldots ,2,3,-1,2,3,-1,\ldots ),$ тогда мы получим круговую автокорреляцию (похожую на круговую свертку ), где левый и правый хвосты предыдущей последовательности автокорреляции будут перекрываться и давать $R_{xx}=(\ldots ,14,1,1,14,1,1,\ldots )$ который имеет тот же период, что и сигнальная последовательность $x.$ Процедуру можно рассматривать как применение свойства свертки Z-преобразования дискретного сигнала.

Хотя алгоритм грубой силы имеет порядок n ² существует несколько эффективных алгоритмов, которые могут вычислять автокорреляцию в порядке n log( n ) . Например, теорема Винера-Хинчина позволяет вычислить автокорреляцию на основе необработанных данных X ( t ) с помощью двух быстрых преобразований Фурье (БПФ):

$${\begin{aligned}F_{R}(f)&=\operatorname {FFT} [X(t)]\\S(f)&=F_{R}(f)F_{R}^{*}(f)\\R(\tau )&=\operatorname {IFFT} [S(f)]\end{aligned}}$$

где IFFT обозначает обратное быстрое преобразование Фурье . Звездочка обозначает комплексно-сопряженное число .

Альтернативно, множественная корреляция τ может быть выполнена с использованием грубого расчета для низких значений τ , а затем постепенного объединения данных X ( t ) с логарифмической плотностью для вычисления более высоких значений, что приводит к той же n log( n ) эффективности , но с меньшими требованиями к памяти.

Оценка

Для дискретного процесса с известным средним значением и дисперсией, для которого мы наблюдаем $n$ наблюдения $\{X_{1},\,X_{2},\,\ldots ,\,X_{n}\}$, оценку коэффициента автокорреляции можно получить как

$${\hat {R}}(k)={\frac {1}{(n-k)\sigma ^{2}}}\sum _{t=1}^{n-k}(X_{t}-\mu )(X_{t+k}-\mu )$$

для любого положительного целого числа $k<n$. Когда истинное значение $\mu$ и дисперсия $\sigma ^{2}$ известны, эта оценка несмещена . Если истинное среднее значение и дисперсия процесса неизвестны, есть несколько возможностей:

• Если $\mu$ и $\sigma ^{2}$ заменяются стандартными формулами для выборочного среднего и выборочной дисперсии, то это смещенная оценка .
• Оценка на основе периодограммы заменяет $n-k$ в приведенной выше формуле с $n$. Эта оценка всегда смещена; однако обычно он имеет меньшую среднеквадратическую ошибку .
• Другие возможности возникают при обработке двух частей данных. $\{X_{1},\,X_{2},\,\ldots ,\,X_{n-k}\}$ и $\{X_{k+1},\,X_{k+2},\,\ldots ,\,X_{n}\}$ отдельно и расчет отдельных выборочных средних значений и/или выборочных дисперсий для использования при определении оценки.

Преимущество оценок последнего типа состоит в том, что набор оцениваемых автокорреляций как функция $k$, затем сформируйте функцию, которая является действительной автокорреляцией в том смысле, что можно определить теоретический процесс, имеющий именно эту автокорреляцию. Другие оценки могут страдать от проблемы, заключающейся в том, что, если они используются для расчета дисперсии линейной комбинации $X$Таким образом, рассчитанная дисперсия может оказаться отрицательной.

Регрессионный анализ

При регрессионном анализе с использованием данных временных рядов автокорреляция интересующей переменной обычно моделируется либо с помощью модели авторегрессии (AR), модели скользящего среднего (MA), их комбинации в виде модели авторегрессии-скользящего среднего (ARMA) или модели скользящего среднего авторегрессии (ARMA). расширение последней называется авторегрессионной интегрированной моделью скользящего среднего (ARIMA). При работе с несколькими взаимосвязанными рядами данных векторная авторегрессия используется (VAR) или ее расширения.

В методе обычных наименьших квадратов (OLS) адекватность спецификации модели можно частично проверить, установив, существует ли автокорреляция остатков регрессии . Проблемную автокорреляцию ошибок, которые сами по себе не наблюдаются, обычно можно обнаружить, поскольку она приводит к автокорреляции наблюдаемых остатков. (Ошибки также известны как «члены ошибок» в эконометрике .) Автокорреляция ошибок нарушает обычное предположение метода наименьших квадратов о том, что члены ошибок некоррелированы, а это означает, что теорема Гаусса Маркова неприменима и что оценки OLS больше не являются лучшими. Линейные несмещенные оценки ( СИНИЙ ). Хотя это не искажает оценки коэффициентов МНК, стандартные ошибки имеют тенденцию недооцениваться (а t-показатели переоцениваются), когда автокорреляция ошибок при малых задержках положительна.

Традиционным тестом на наличие автокорреляции первого порядка является статистика Дурбина-Ватсона или, если объясняющие переменные включают запаздывающую зависимую переменную, h-статистика Дурбина . Однако корреляцию Дурбина-Ватсона можно линейно сопоставить с корреляцией Пирсона между значениями и их задержками. Более гибкий тест, охватывающий автокорреляцию более высоких порядков и применимый независимо от того, включают ли регрессоры лаги зависимой переменной, является тест Бреуша-Годфри . Это включает в себя вспомогательную регрессию, в которой остатки, полученные в результате оценки интересующей модели, регрессируются по (а) исходным регрессорам и (б) k задержкам остатков, где «k» — порядок теста. Самая простая версия тестовой статистики из этой вспомогательной регрессии — TR. ² , где T — размер выборки, а R ² – коэффициент детерминации . При нулевой гипотезе об отсутствии автокорреляции эта статистика асимптотически распределяется как $\chi ^{2}$ с k степенями свободы.

Ответы на ненулевую автокорреляцию включают обобщенные методы наименьших квадратов и оценку HAC Ньюи-Уэста (согласованность гетероскедастичности и автокорреляции).

При оценке модели скользящего среднего (MA) функция автокорреляции используется для определения соответствующего количества включенных членов с запаздыванием. Это основано на том факте, что для процесса MA порядка q мы имеем $R(\tau )\neq 0$, для $\tau =0,1,\ldots ,q$, и $R(\tau )=0$, для $\tau >q$.

Приложения

Способность автокорреляции находить повторяющиеся закономерности в данных находит множество применений, в том числе:

• Автокорреляционный анализ широко используется во флуоресцентной корреляционной спектроскопии. чтобы обеспечить количественное представление о диффузии и химических реакциях на молекулярном уровне.
• Другим применением автокорреляции является измерение оптических спектров и измерение световых импульсов очень короткой длительности, создаваемых лазерами , оба с использованием оптических автокорреляторов .
• Автокорреляция используется для анализа данных динамического светорассеяния , что, в частности, позволяет определять распределение частиц нанометрового размера или мицелл по размерам , суспендированных в жидкости. Лазер, освещающий смесь, создает спекл-паттерн , возникающий в результате движения частиц. Автокорреляцию сигнала можно анализировать с точки зрения диффузии частиц. Отсюда, зная вязкость жидкости, можно рассчитать размеры частиц.
• Используется в системе GPS для коррекции задержки распространения или временного сдвига между моментом времени передачи несущего сигнала на спутниках и моментом времени в приемнике на земле. Это делается за счет того, что приемник генерирует сигнал-реплику 1023-битного кода C/A (грубый/прием) и генерирует строки кодовых чипов [-1,1] в пакетах по десять за раз, или 10230 чипов (1023 × 10), слегка смещаясь по мере продвижения, чтобы учесть доплеровский сдвиг входящего спутникового сигнала, пока сигнал-реплика приемника и коды спутникового сигнала не совпадут.
• Интенсивность малоуглового рассеяния рентгеновских лучей наноструктурированной системой представляет собой Фурье-преобразование пространственной автокорреляционной функции электронной плотности.
• В науках о поверхности и сканирующей зондовой микроскопии автокорреляция используется для установления связи между морфологией поверхности и функциональными характеристиками.
• В оптике нормированные автокорреляции и взаимные корреляции дают степень когерентности электромагнитного поля.
• В астрономии может определять частоту пульсаров автокорреляция .
• В музыке автокорреляция (при применении во временных масштабах менее секунды) используется в качестве алгоритма определения высоты звука как для тюнеров инструментов, так и для «автонастройки» (используется как эффект искажения или для фиксации интонации). При применении во временных масштабах, превышающих секунду, автокорреляция может идентифицировать музыкальный ритм , например, для определения темпа .
• Автокорреляция в пространстве, а не во времени, посредством функции Паттерсона , используется специалистами по рентгеновской дифракции, чтобы помочь восстановить «фазовую информацию Фурье» о положениях атомов, недоступную только с помощью дифракции.
• В статистике пространственная автокорреляция между местоположениями выборки также помогает оценить неопределенность среднего значения при выборке гетерогенной совокупности.
• Алгоритм SEQUEST для анализа масс-спектров использует автокорреляцию в сочетании с кросс-корреляцией для оценки сходства наблюдаемого спектра с идеализированным спектром, представляющим пептид .
• В астрофизике автокорреляция используется для изучения и характеристики пространственного распределения галактик во Вселенной, а также в многоволновых наблюдениях рентгеновских двойных систем малой массы .
• В панельных данных пространственная автокорреляция относится к корреляции переменной самой с собой через пространство.
• При анализе данных Монте-Карло цепи Маркова для правильного определения ошибок необходимо учитывать автокорреляцию.
• В науках о Земле (в частности, в геофизике ) его можно использовать для расчета автокорреляционного сейсмического атрибута на основе трехмерной сейсмической съемки под землей.
• В медицинской ультразвуковой визуализации автокорреляция используется для визуализации кровотока.
• При межвременном выборе портфеля актива наличие или отсутствие автокорреляции в норме доходности может повлиять на оптимальную часть портфеля, которую можно держать в этом активе.
• В числовых реле автокорреляция использовалась для точного измерения частоты энергосистемы.

Серийная зависимость

Серийная зависимость тесно связана с понятием автокорреляции, но представляет собой отдельную концепцию (см. Корреляция и зависимость ). В частности, возможна серийная зависимость, но не (линейная) корреляция. Однако в некоторых областях эти два термина используются как синонимы.

Временной ряд имеет случайной величины серийную зависимость, если значение в какой-то момент времени $t$ в ряду статистически зависит от значения в другой момент времени $s$. Ряд серийно независим, если между какой-либо парой нет зависимости.

Если временной ряд $\left\{X_{t}\right\}$ стационарна , то статистическая зависимость между парой $(X_{t},X_{s})$ будет означать, что существует статистическая зависимость между всеми парами значений с одинаковым лагом $\tau =s-t$.

См. также

• Матрица автокорреляции
• Автокорреляция формального слова
• Метод автокорреляции
• Автокоррелятор
• Оценка Кокрейна – Оркатта (преобразование для автокоррелированных ошибок)
• Корреляционная функция
• Коррелограмма
• Взаимная корреляция
• ОБЫЧАЙ
• Флуоресцентная корреляционная спектроскопия
• Оптическая автокорреляция
• Частичная автокорреляционная функция
• Филогенетическая автокорреляция (проблема Гальтона)
• Алгоритм определения высоты тона
• Преобразование Прайса – Уинстена
• Масштабированная корреляция
• Тройная корреляция
• Непредвзятая оценка стандартного отклонения

Дальнейшее чтение

• Кмента, Ян (1986). Элементы эконометрики (второе изд.). Нью-Йорк: Макмиллан. стр. 298–334 . ISBN  978-0-02-365070-3 .
• Марно Вербек (10 августа 2017 г.). Руководство по современной эконометрике . Уайли. ISBN  978-1-119-40110-0 .
• Моджтаба Солтаналян и Петре Стойка. « Вычислительный дизайн последовательностей с хорошими корреляционными свойствами ». Транзакции IEEE по обработке сигналов, 60.5 (2012): 2180–2193.
• Соломон В. Голомб и Гуан Гун. Проектирование сигналов для хорошей корреляции: для беспроводной связи, криптографии и радаров . Издательство Кембриджского университета, 2005.
• Клапетек, Петр (2018). Количественная обработка данных в сканирующей зондовой микроскопии: приложения СЗМ для нанометрологии (второе изд.). Эльзевир. стр. 108–112 ISBN   9780128133477 .
• Вайсштейн, Эрик В. «Автокорреляция» . Математический мир .