Стационарный процесс

В математике и статистике стационарный процесс (или строгий/строго стационарный процесс или сильный/строго стационарный процесс ) — это случайный процесс , безусловное совместное распределение вероятностей которого не меняется при сдвиге во времени. Следовательно, такие параметры, как среднее значение и дисперсия, также не меняются со временем.

Поскольку стационарность является допущением, лежащим в основе многих статистических процедур, используемых при анализе временных рядов , нестационарные данные часто преобразуются в стационарные. Наиболее распространенной причиной нарушения стационарности является тенденция среднего значения, которая может быть связана либо с наличием единичного корня , либо с детерминированной тенденцией. В первом случае единичного корня стохастические потрясения имеют постоянный эффект, и этот процесс не является возвратом к среднему значению . В последнем случае детерминистической тенденции процесс называется тренд-стационарным процессом , и стохастические потрясения имеют только временные эффекты, после которых переменная стремится к детерминированно развивающемуся (непостоянному) среднему значению.

Стационарный процесс с трендом не является строго стационарным, но его можно легко преобразовать в стационарный процесс, удалив основной тренд, который является исключительно функцией времени. Точно так же процессы с одним или несколькими единичными корнями можно сделать стационарными путем дифференцирования. Важным типом нестационарного процесса, который не имеет трендового поведения, является циклостационарный процесс , который представляет собой стохастический процесс, циклически изменяющийся во времени.

Для многих приложений строгая стационарность является слишком ограничительной. другие формы стационарности, такие как стационарность в широком смысле или стационарность N -го порядка Затем используются . Определения различных видов стационарности у разных авторов неодинаковы (см. Другая терминология ).

Стационарность в строгом смысле

Определение

Формально пусть $\left\{X_{t}\right\}$ будет случайным процессом и пусть $F_{X}(x_{t_{1}+\tau },\ldots ,x_{t_{n}+\tau })$ представляют собой кумулятивную функцию распределения безусловного (т . е. без привязки к какому-либо конкретному начальному значению) совместного распределения $\left\{X_{t}\right\}$ время от времени $t_{1}+\tau ,\ldots ,t_{n}+\tau$. Затем, $\left\{X_{t}\right\}$ называется строго стационарным , строго стационарным или строго стационарным, если

$F_{X}(x_{t_{1}+\tau },\ldots ,x_{t_{n}+\tau })=F_{X}(x_{t_{1}},\ldots ,x_{t_{n}})\quad {\text{for all }}\tau ,t_{1},\ldots ,t_{n}\in \mathbb {R} {\text{ and for all }}n\in \mathbb {N} _{>0}$ ( Уравнение 1 )

С $\tau$ не влияет $F_{X}(\cdot )$, $F_{X}$ не зависит от времени.

Примеры

Выше показаны два смоделированных процесса временных рядов: один стационарный, а другой нестационарный. расширенная Дики-Фуллера (ADF) статистика теста Для каждого процесса сообщается ; нестационарность не может быть отвергнута для второго процесса при уровне значимости 5% .

Белый шум — простейший пример стационарного процесса.

Примером стационарного процесса с дискретным временем , в котором выборочное пространство также дискретно (так что случайная величина может принимать одно из N возможных значений), является схема Бернулли . Другие примеры стационарного процесса с дискретным временем и непрерывным пространством выборки включают некоторые процессы авторегрессии и скользящего среднего , которые оба являются подмножествами модели авторегрессионного скользящего среднего . Модели с нетривиальным компонентом авторегрессии могут быть стационарными или нестационарными, в зависимости от значений параметров, а важными нестационарными особыми случаями являются случаи, когда единичные корни в модели существуют .

Пример 1

Позволять $Y$ быть любой скалярной случайной величиной и определить временной ряд $\left\{X_{t}\right\}$, к

$X_{t}=Y\qquad {\text{ for all }}t.$

Затем $\left\{X_{t}\right\}$ представляет собой стационарный временной ряд, реализации которого состоят из ряда постоянных значений с разными постоянными значениями для каждой реализации. Закон больших чисел в этом случае не применяется, поскольку предельное значение среднего значения для одной реализации принимает случайное значение, определяемое формулой $Y$, вместо того, чтобы брать ожидаемое значение $Y$.

Среднее время $X_{t}$ не сходится, поскольку процесс неэргодичен .

Пример 2

В качестве еще одного примера стационарного процесса, для которого любая отдельная реализация имеет, по-видимому, бесшумную структуру, пусть $Y$ иметь равномерное распределение по $[0,2\pi ]$ и определим временной ряд $\left\{X_{t}\right\}$ к

$X_{t}=\cos(t+Y)\quad {\text{ for }}t\in \mathbb {R} .$

Затем $\left\{X_{t}\right\}$ строго стационарна, поскольку ( $(t+Y)$ модуль $2\pi$) следует тому же равномерному распределению, что и $Y$ для любого $t$.

Пример 3

Имейте в виду, что слабо белый шум не обязательно является строго стационарным. Позволять $\omega$ — случайная величина, равномерно распределенная в интервале $(0,2\pi )$ и определим временной ряд $\left\{z_{t}\right\}$

$z_{t}=\cos(t\omega )\quad (t=1,2,...)$

Затем

${\begin{aligned}\mathbb {E} (z_{t})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos(t\omega )\,d\omega =0,\\\operatorname {Var} (z_{t})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos ^{2}(t\omega )\,d\omega =1/2,\\\operatorname {Cov} (z_{t},z_{j})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos(t\omega )\cos(j\omega )\,d\omega =0\quad \forall t\neq j.\end{aligned}}$

Так $\{z_{t}\}$ представляет собой белый шум в слабом смысле (среднее значение и перекрестная ковариация равны нулю, а дисперсии одинаковы), однако он не является строго стационарным.

Стационарность N -го порядка

В уравнении 1 распределение $n$ выборки случайного процесса должны быть равны распределению выборок, сдвинутых во времени для всех $n$. Стационарность N -го порядка является более слабой формой стационарности, когда она требуется только для всех $n$ до определенного порядка $N$. Случайный процесс $\left\{X_{t}\right\}$ называется стационарным N -го порядка, если:

$F_{X}(x_{t_{1}+\tau },\ldots ,x_{t_{n}+\tau })=F_{X}(x_{t_{1}},\ldots ,x_{t_{n}})\quad {\text{for all }}\tau ,t_{1},\ldots ,t_{n}\in \mathbb {R} {\text{ and for all }}n\in \{1,\ldots ,N\}$ ( Уравнение 2 )

расширенная

Определение

Более слабая форма стационарности, обычно используемая при обработке сигналов, известна как стационарность со слабым смыслом , стационарность с широким смыслом (WSS) или ковариационная стационарность . Случайные процессы WSS требуют только того, чтобы 1-й момент (т. е. среднее значение) и автоковариация не менялись во времени, а 2-й момент был конечен во все времена. Любой строго стационарный процесс, имеющий конечное среднее и ковариацию, также является WSS.

Итак, с непрерывным временем случайный процесс $\left\{X_{t}\right\}$ который является WSS, имеет следующие ограничения на свою среднюю функцию $m_{X}(t)\triangleq \operatorname {E} [X_{t}]$ и автоковариации функция $K_{XX}(t_{1},t_{2})\triangleq \operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(X_{t_{2}}-m_{X}(t_{2}))]$:

${\begin{aligned}&m_{X}(t)=m_{X}(t+\tau )&&{\text{for all }}\tau ,t\in \mathbb {R} \\&K_{XX}(t_{1},t_{2})=K_{XX}(t_{1}-t_{2},0)&&{\text{for all }}t_{1},t_{2}\in \mathbb {R} \\&\operatorname {E} [|X_{t}|^{2}]<\infty &&{\text{for all }}t\in \mathbb {R} \end{aligned}}$ ( Уравнение 3 )

Первое свойство означает, что средняя функция $m_{X}(t)$ должно быть постоянным. Второе свойство означает, что функция автоковариации зависит только от разницы между $t_{1}$ и $t_{2}$ и его нужно индексировать только одной переменной, а не двумя переменными. Таким образом, вместо того, чтобы писать,

$\,\!K_{XX}(t_{1}-t_{2},0)\,$

обозначение часто сокращается заменой $\tau =t_{1}-t_{2}$:

$K_{XX}(\tau )\triangleq K_{XX}(t_{1}-t_{2},0)$

Это также означает, что автокорреляция зависит только от $\tau =t_{1}-t_{2}$, то есть

$\,\!R_{X}(t_{1},t_{2})=R_{X}(t_{1}-t_{2},0)\triangleq R_{X}(\tau ).$

Третье свойство гласит, что вторые моменты должны быть конечны в любое время. $t$.

Мотивация

Основное преимущество стационарности в широком смысле состоит в том, что она помещает временной ряд в контекст гильбертовых пространств . Пусть H будет гильбертовым пространством, порожденным { x ( t )} (то есть замыканием множества всех линейных комбинаций этих случайных величин в гильбертовом пространстве всех интегрируемых с квадратом случайных величин в данном вероятностном пространстве). В силу положительной определенности автоковариационной функции из теоремы Бохнера следует , что существует положительная мера $\mu$ на вещественной прямой такой, что H изоморфно гильбертовому подпространству L ² ( µ ), порожденный { e ^{−2 π iξ⋅t} }. Тогда это дает следующее разложение типа Фурье для стационарного случайного процесса с непрерывным временем: существует случайный процесс $\omega _{\xi }$ с ортогональными приращениями так, что для всех $t$

$X_{t}=\int e^{-2\pi i\lambda \cdot t}\,d\omega _{\lambda },$

где интеграл в правой части интерпретируется в подходящем (римановом) смысле. Тот же результат верен и для стационарного процесса с дискретным временем, где спектральная мера теперь определена на единичной окружности.

При обработке случайных сигналов WSS с помощью линейных , неизменяемых во времени ( LTI ) фильтров полезно думать о корреляционной функции как о линейном операторе . Поскольку это циркулянтный оператор (зависит только от разницы между двумя аргументами), его собственными функциями являются комплексные экспоненты Фурье . Кроме того, поскольку собственные функции операторов LTI также являются комплексными экспонентами , обработка LTI случайных сигналов WSS очень удобна — все вычисления могут выполняться в частотной области . Таким образом, предположение WSS широко используется в алгоритмах обработки сигналов .

сложного

В случае, когда $\left\{X_{t}\right\}$ представляет собой сложный случайный процесс, функция автоковариации определяется как $K_{XX}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1})){\overline {(X_{t_{2}}-m_{X}(t_{2}))}}]$ и, помимо требований в уравнении 3 , требуется, чтобы псевдоавтоковариационная функция $J_{XX}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(X_{t_{2}}-m_{X}(t_{2}))]$ зависит только от временного лага. В формулах $\left\{X_{t}\right\}$ является WSS, если

${\begin{aligned}&m_{X}(t)=m_{X}(t+\tau )&&{\text{for all }}\tau ,t\in \mathbb {R} \\&K_{XX}(t_{1},t_{2})=K_{XX}(t_{1}-t_{2},0)&&{\text{for all }}t_{1},t_{2}\in \mathbb {R} \\&J_{XX}(t_{1},t_{2})=J_{XX}(t_{1}-t_{2},0)&&{\text{for all }}t_{1},t_{2}\in \mathbb {R} \\&\operatorname {E} [|X(t)|^{2}]<\infty &&{\text{for all }}t\in \mathbb {R} \end{aligned}}$ ( Уравнение 4 )

Стационарность суставов

Понятие стационарности можно распространить на два случайных процесса.

Совместная стационарность в строгом смысле

Два случайных процесса $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ называются совместно строго стационарными, если их совместное кумулятивное распределение $F_{XY}(x_{t_{1}},\ldots ,x_{t_{m}},y_{t_{1}^{'}},\ldots ,y_{t_{n}^{'}})$ остается неизменным при сдвигах во времени, т.е. если

$F_{XY}(x_{t_{1}},\ldots ,x_{t_{m}},y_{t_{1}^{'}},\ldots ,y_{t_{n}^{'}})=F_{XY}(x_{t_{1}+\tau },\ldots ,x_{t_{m}+\tau },y_{t_{1}^{'}+\tau },\ldots ,y_{t_{n}^{'}+\tau })\quad {\text{for all }}\tau ,t_{1},\ldots ,t_{m},t_{1}^{'},\ldots ,t_{n}^{'}\in \mathbb {R} {\text{ and for all }}m,n\in \mathbb {N}$ ( Уравнение 5 )

Совместная ( M + N порядка

Два случайных процесса $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ называется совместно ( M + N )-го порядка стационарным, если:

$F_{XY}(x_{t_{1}},\ldots ,x_{t_{m}},y_{t_{1}^{'}},\ldots ,y_{t_{n}^{'}})=F_{XY}(x_{t_{1}+\tau },\ldots ,x_{t_{m}+\tau },y_{t_{1}^{'}+\tau },\ldots ,y_{t_{n}^{'}+\tau })\quad {\text{for all }}\tau ,t_{1},\ldots ,t_{m},t_{1}^{'},\ldots ,t_{n}^{'}\in \mathbb {R} {\text{ and for all }}m\in \{1,\ldots ,M\},n\in \{1,\ldots ,N\}$ ( Уравнение 6 )

расширенная

Два случайных процесса $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ называются совместно стационарными в широком смысле, если они являются как стационарными в широком смысле, так и их функцией перекрестной ковариации. $K_{XY}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(Y_{t_{2}}-m_{Y}(t_{2}))]$ зависит только от разницы во времени $\tau =t_{1}-t_{2}$. Это можно резюмировать следующим образом:

${\begin{aligned}&m_{X}(t)=m_{X}(t+\tau )&&{\text{for all }}\tau ,t\in \mathbb {R} \\&m_{Y}(t)=m_{Y}(t+\tau )&&{\text{for all }}\tau ,t\in \mathbb {R} \\&K_{XX}(t_{1},t_{2})=K_{XX}(t_{1}-t_{2},0)&&{\text{for all }}t_{1},t_{2}\in \mathbb {R} \\&K_{YY}(t_{1},t_{2})=K_{YY}(t_{1}-t_{2},0)&&{\text{for all }}t_{1},t_{2}\in \mathbb {R} \\&K_{XY}(t_{1},t_{2})=K_{XY}(t_{1}-t_{2},0)&&{\text{for all }}t_{1},t_{2}\in \mathbb {R} \end{aligned}}$ ( Уравнение 7 )

типами

• Если случайный процесс стационарен N -го порядка, то он также стационарен М -го порядка для всех $M\leq N$.
• Если случайный процесс стационарен второго порядка ( $N=2$) и имеет конечные вторые моменты, то оно также стационарно в широком смысле.
• Если случайный процесс является стационарным в широком смысле, он не обязательно является стационарным второго порядка.
• Если случайный процесс стационарен в строгом смысле и имеет конечные вторые моменты, он стационарен в широком смысле.
• Если два случайных процесса совместно являются стационарными ( M + N )-го порядка, это не гарантирует, что отдельные процессы являются стационарными M -го или N -го порядка.

Другая терминология

Терминология, используемая для типов стационарности, отличных от строгой стационарности, может быть весьма неоднозначной. Ниже приведены некоторые примеры.

• Пристли использует стационарность до порядка m , если условия, подобные приведенным здесь для стационарности в широком смысле, применимы к моментам до порядка m . Таким образом, стационарность в широком смысле будет эквивалентна «стационарности порядка 2», что отличается от определения стационарности второго порядка, данного здесь.
• Хонарка и Каерс также используют предположение о стационарности в контексте многоточечной геостатистики, где статистика из более высоких n точек считается стационарной в пространственной области.

Разница

Один из способов сделать некоторые временные ряды стационарными — вычислить различия между последовательными наблюдениями. Это известно как дифференцирование . Дифференцирование может помочь стабилизировать среднее значение временного ряда, устраняя изменения на уровне временного ряда и, таким образом, устраняя тенденции. Это также может устранить сезонность, если различия принимаются соответствующим образом (например, разность наблюдений с интервалом в 1 год для удаления первого года).

Преобразования, такие как логарифмы, могут помочь стабилизировать дисперсию временного ряда.

Одним из способов выявления нестационарных временных рядов является график АКФ . Иногда закономерности будут более заметны на графике АКФ, чем в исходном временном ряду; однако это не всегда так.

Другой подход к выявлению нестационарности — рассмотреть преобразование Лапласа ряда, которое выявляет как экспоненциальные тенденции, так и синусоидальную сезонность (сложные экспоненциальные тенденции). родственные методы анализа сигналов , такие как вейвлет-преобразование и преобразование Фурье Также могут быть полезны .

См. также

• Процесс Леви
• Стационарный эргодический процесс
• Теорема Винера – Хинчина
• Эргодичность
• Статистическая закономерность
• Автокорреляция
• Вероятность Уиттла

Дальнейшее чтение

• Эндерс, Уолтер (2010). Прикладные эконометрические временные ряды (Третье изд.). Нью-Йорк: Уайли. стр. 53–57. ISBN  978-0-470-50539-7 .
• Естрович И.; Койл, Дж.Л.; Сейдич, Э (2015). «Влияние повышенной вязкости жидкости на стационарные характеристики сигнала ЭЭГ у здоровых взрослых» . Исследования мозга . 1589 : 45–53. дои : 10.1016/j.brainres.2014.09.035 . ПМЦ   4253861 . ПМИД   25245522 .
• Гайндман, Атанасопулос (2013). Прогнозирование: принципы и практика. Оттексты. https://www.otexts.org/fpp/8/1

Внешние ссылки

• Спектральное разложение случайной функции (Спрингер)