Авторегрессионное интегрированное скользящее среднее

«АРИМА» перенаправляется сюда. Не путать с Аримаа .

В статистике и эконометрике , и в частности в анализе временных рядов , авторегрессионного интегрированного скользящего среднего ( ARIMA ) модель является обобщением модели авторегрессионного скользящего среднего (ARMA). Чтобы лучше понять данные или спрогнозировать будущие точки ряда, обе эти модели адаптируются к данным временных рядов . Модели ARIMA применяются в некоторых случаях, когда данные свидетельствуют о нестационарности в смысле ожидаемого значения (но не дисперсии/ автоковариации ), когда можно применить начальный шаг дифференцирования (соответствующий «интегрированной» части модели). или более раз, чтобы устранить нестационарность средней функции (т. е. тренда). Когда сезонность проявляется во временном ряду, сезонные различия может быть применен для устранения сезонной составляющей. Поскольку модель ARMA , согласно теореме о разложении Уолда , теоретически достаточно для описания регулярного (т.н. чисто недетерминированного) ) стационарные временные ряды в широком смысле , мы заинтересованы в том, чтобы превратить стационарные временные ряды в нестационарные, например, с помощью дифференцирования, прежде чем мы сможем использовать модель ARMA . Обратите внимание: если временной ряд содержит предсказуемый подпроцесс (так называемый чистый синус или комплексный экспоненциальный процесс ), прогнозируемый компонент рассматривается в рамках ARIMA как периодический (т. е. сезонный) компонент с ненулевым средним, так что он исключается сезонной разницей.

Авторегрессионная ( AR ) часть ARIMA указывает, что развивающаяся интересующая переменная регрессируется по своим собственным запаздывающим (т. е. априорным) значениям. Часть скользящего среднего ( MA ) указывает на то, что ошибка регрессии на самом деле представляет собой линейную комбинацию членов ошибки, значения которых произошли одновременно и в разное время в прошлом. I (от «интегрированный») указывает, что значения данных были заменены разницей между их значениями и предыдущими значениями (и этот процесс дифференцирования мог выполняться более одного раза). Целью каждой из этих функций является максимально точное соответствие модели данным.

Несезонные модели ARIMA обычно обозначаются ARIMA( p , d , q ), где параметры p , d и q — неотрицательные целые числа, p — порядок (количество временных задержек) авторегрессионной модели , d — степень дифференциация (количество раз, когда из данных были вычтены прошлые значения), а q — порядок модели скользящего среднего . Сезонные модели ARIMA обычно обозначаются ARIMA( p , d , q )( P , D , Q ) _m , где m относится к количеству периодов в каждом сезоне, а заглавные буквы P , D , Q относятся к авторегрессии, дифференцированию, и условия скользящего среднего для сезонной части модели ARIMA.

Когда два из трех членов равны нулю, к модели можно обращаться на основе ненулевого параметра, опуская « AR », « I » или « MA » из аббревиатуры, описывающей модель. Например, ⁠ ${\text{ARIMA}}(1,0,0)$⁠ - это AR(1) , ⁠ ${\text{ARIMA}}(0,1,0)$⁠ — это I(1) и ⁠ ${\text{ARIMA}}(0,0,1)$⁠ — это MA(1) .

Модели ARIMA можно оценить, используя подход Бокса – Дженкинса .

Определение

Учитывая данные временных рядов X _t , где t — целочисленный индекс, а X _t — действительные числа, ${\text{ARMA}}(p',q)$ модель предоставлена

$X_{t}-\alpha _{1}X_{t-1}-\dots -\alpha _{p'}X_{t-p'}=\varepsilon _{t}+\theta _{1}\varepsilon _{t-1}+\cdots +\theta _{q}\varepsilon _{t-q},$

или эквивалентно

$\left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,$

где $L$ является запаздывающим оператором , $\alpha _{i}$ – параметры авторегрессионной части модели, $\theta _{i}$ – параметры части скользящей средней и $\varepsilon _{t}$ являются терминами ошибки. Условия ошибки $\varepsilon _{t}$ обычно считаются независимыми, одинаково распределенными переменными, выбранными из нормального распределения с нулевым средним значением.

Предположим теперь, что полином $\textstyle \left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)$ имеет единичный корень (фактор $(1-L)$) кратности d . Тогда его можно переписать так:

$\left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)=\left(1-\sum _{i=1}^{p'-d}\varphi _{i}L^{i}\right)\left(1-L\right)^{d}.$

Процесс ARIMA( p , d , q ) выражает это свойство полиномиальной факторизации с помощью p = p'−d и определяется следующим образом:

$\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)(1-L)^{d}X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,$

и, таким образом, его можно рассматривать как частный случай процесса ARMA( p+d , q ), имеющего авторегрессионный полином с d единичными корнями. (По этой причине ни один процесс, который точно описывается моделью ARIMA с d > 0, не является стационарным в широком смысле .)

Вышеизложенное можно обобщить следующим образом.

$\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)(1-L)^{d}X_{t}=\delta +\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}.\,$

Это определяет процесс ARIMA( p , d , q ) с дрейфом ${\frac {\delta }{1-\sum \varphi _{i}}}$.

Другие специальные формы

Явная идентификация факторизации полинома авторегрессии на факторы, как указано выше, может быть распространена на другие случаи, во-первых, для применения к полиному скользящего среднего и, во-вторых, для включения других специальных факторов. Например, имея фактор $(1-L^{s})$ нестационарной сезонности периода s в модели — один из способов включения в модель ; этот фактор приводит к повторному выражению данных как изменений по сравнению с периодами s назад. Другим примером является фактор $\left(1-{\sqrt {3}}L+L^{2}\right)$, который включает в себя (нестационарную) сезонность периода 2. Эффект фактора первого типа заключается в том, чтобы позволить значению каждого сезона отдельно изменяться с течением времени, тогда как значения второго типа для соседних сезонов движутся вместе.

Идентификация и спецификация соответствующих факторов в модели ARIMA может быть важным шагом в моделировании, поскольку это может позволить сократить общее количество оцениваемых параметров, одновременно позволяя навязывать модели типы поведения, которые, как подсказывают логика и опыт, должны быть там.

Различие

«Различия» перенаправляется сюда. Чтобы узнать о других значениях, см. «Разница» .

Свойства стационарного временного ряда не зависят от времени наблюдения ряда. В частности, для стационарного временного ряда в широком смысле среднее значение и дисперсия/ автоковариация остаются постоянными во времени. Дифференцирование в статистике — это преобразование, применяемое к нестационарному временному ряду с целью сделать его стационарным в среднем смысле (т. е. для удаления непостоянного тренда), но не имеющее ничего общего с нестационарностью временного ряда. дисперсия или автоковариация . Аналогично, сезонная разница применяется к сезонному временному ряду для удаления сезонной составляющей. С точки зрения обработки сигналов, особенно теории спектрального анализа Фурье , тренд – это низкочастотная часть спектра нестационарного временного ряда, тогда как сезон – это периодически-частотная часть его спектра. Таким образом, дифференцирование работает как фильтр верхних частот (т. е. фильтр нижних частот), а сезонное дифференцирование — как гребенчатый фильтр для подавления низкочастотного тренда и сезона периодических частот в области спектра (а не непосредственно в области спектра). временной интервал) соответственно.

Чтобы различать данные, вычисляется разница между последовательными наблюдениями. Математически это отображается как

$y_{t}'=y_{t}-y_{t-1}\,$

Дифференцирование устраняет изменения уровня временного ряда, устраняя тенденцию и сезонность и, следовательно, стабилизируя среднее значение временного ряда.

Иногда может потребоваться разность данных второй раз, чтобы получить стационарный временной ряд, который называется дифференцированием второго порядка :

${\begin{aligned}y_{t}^{*}&=y_{t}'-y_{t-1}'\\&=(y_{t}-y_{t-1})-(y_{t-1}-y_{t-2})\\&=y_{t}-2y_{t-1}+y_{t-2}\end{aligned}}$

Другим методом разграничения данных является сезонное разность, которое включает в себя вычисление разницы между наблюдением и соответствующим наблюдением в предыдущем сезоне, например, в году. Это показано как:

$y_{t}'=y_{t}-y_{t-m}\quad {\text{where }}m={\text{duration of season}}.$

Разностные данные затем используются для оценки модели ARMA .

Примеры

Некоторые хорошо известные частные случаи возникают естественным образом или математически эквивалентны другим популярным моделям прогнозирования. Например:

• Модель ARIMA(0, 1, 0) (или модель I(1) ) определяется выражением $X_{t}=X_{t-1}+\varepsilon _{t}$ — это просто случайное блуждание .
• ARIMA(0, 1, 0) с константой, заданной формулой $X_{t}=c+X_{t-1}+\varepsilon _{t}$ — что представляет собой случайное блуждание со сносом.
• Модель ARIMA(0, 0, 0) представляет собой модель белого шума .
• Модель ARIMA(0, 1, 2) является моделью Демпфированного Холта.
• Модель ARIMA(0, 1, 1) без константы является базовой моделью экспоненциального сглаживания .
• Модель ARIMA(0, 2, 2) имеет вид $X_{t}=2X_{t-1}-X_{t-2}+(\alpha +\beta -2)\varepsilon _{t-1}+(1-\alpha )\varepsilon _{t-2}+\varepsilon _{t}$ — что эквивалентно линейному методу Холта с аддитивными ошибками или двойному экспоненциальному сглаживанию .

Выбор заказа

Порядок p и q можно определить с использованием метода выборочной автокорреляционной функции (ACF), частичной автокорреляционной функции (PACF) и/или метода расширенной автокорреляционной функции (EACF).

Другие альтернативные методы включают AIC, BIC и т. д. Для определения порядка несезонной модели ARIMA полезным критерием является информационный критерий Акаике (AIC) . Это написано как

${\text{AIC}}=-2\log(L)+2(p+q+k),$

где L — вероятность данных, p — порядок авторегрессионной части, а q — порядок части скользящего среднего. K . представляет собой отрезок модели ARIMA Для AIC, если k = 1, то в модели ARIMA есть точка пересечения ( c ≠ 0), а если k = 0, то в модели ARIMA точка пересечения отсутствует ( c = 0).

Исправленный AIC для моделей ARIMA можно записать как

${\text{AICc}}={\text{AIC}}+{\frac {2(p+q+k)(p+q+k+1)}{T-p-q-k-1}}.$

Байесовский информационный критерий (BIC) можно записать как

${\text{BIC}}={\text{AIC}}+((\log T)-2)(p+q+k).$

Цель состоит в том, чтобы минимизировать значения AIC, AICc или BIC для хорошей модели. Чем ниже значение одного из этих критериев для ряда исследуемых моделей, тем лучше модель будет соответствовать данным. AIC и BIC используются для двух совершенно разных целей. В то время как AIC пытается приблизить модели к реальной ситуации, BIC пытается найти идеальное соответствие. Подход BIC часто критикуют, поскольку он никогда не идеально подходит для сложных данных реальной жизни; тем не менее, это по-прежнему полезный метод выбора, поскольку он более строго наказывает модели за наличие большего количества параметров, чем AIC.

AICc можно использовать только для сравнения моделей ARIMA с одинаковым порядком дифференцирования. Для ARIMA с разным порядком разности RMSE для сравнения моделей можно использовать .

Прогнозы с использованием моделей ARIMA

Модель ARIMA можно рассматривать как «каскад» двух моделей. Первый является нестационарным:

$Y_{t}=(1-L)^{d}X_{t}$

в то время как второй является стационарным в широком смысле :

$\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)Y_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,.$

Теперь можно делать прогнозы по этому процессу. $Y_{t}$, используя обобщение метода авторегрессионного прогнозирования .

Интервалы прогноза

Интервалы прогноза ( доверительные интервалы для прогнозов) для моделей ARIMA основаны на предположении, что остатки некоррелированы и нормально распределены. Если какое-либо из этих предположений не выполняется, то интервалы прогноза могут быть неверными. По этой причине исследователи строят АКФ и гистограмму остатков, чтобы проверить предположения перед созданием интервалов прогноза.

95% интервал прогноза: ${\hat {y}}_{T+h\,\mid \,T}\pm 1.96{\sqrt {v_{T+h\,\mid \,T}}}$, где $v_{T+h\mid T}$ это дисперсия $y_{T+h}\mid y_{1},\dots ,y_{T}$.

Для $h=1$, $v_{T+h\,\mid \,T}={\hat {\sigma }}^{2}$ для всех моделей ARIMA независимо от параметров и заказов.

Для ARIMA(0,0,q) $y_{t}=e_{t}+\sum _{i=1}^{q}\theta _{i}e_{t-i}.$

$v_{T+h\,\mid \,T}={\hat {\sigma }}^{2}\left[1+\sum _{i=1}^{h-1}\theta _{i}e_{t-i}\right],{\text{ for }}h=2,3,\ldots$

В целом интервалы прогнозирования моделей ARIMA будут увеличиваться по мере увеличения горизонта прогнозирования.

Вариации и расширения

Обычно используется ряд вариаций модели ARIMA. Если используется несколько временных рядов, то $X_{t}$ можно рассматривать как векторы, и может подойти модель VARIMA. Иногда в модели подозревается сезонный эффект; в этом случае обычно считается лучше использовать модель SARIMA (сезонная ARIMA), чем увеличивать порядок частей модели AR или MA. Если предполагается, что временной ряд демонстрирует долгосрочную зависимость , то параметру d можно разрешить иметь нецелые значения в авторегрессионной дробно-интегрированной модели скользящего среднего , которая также называется моделью дробного ARIMA (FARIMA или ARFIMA).

Реализации программного обеспечения

различные пакеты, в которых применяется такая методология, как оптимизация параметров Бокса – Дженкинса Для поиска правильных параметров для модели ARIMA доступны .

• EViews : имеет обширные возможности ARIMA и SARIMA.
• Julia : содержит реализацию ARIMA в пакете TimeModels.
• Mathematica : включает функцию ARIMAProcess .
• MATLAB : Econometrics Toolbox включает модели ARIMA и регрессию с ошибками ARIMA.
• NCSS : включает несколько процедур для ARIMA подгонка и прогнозирование.
• Python : пакет «statsmodels» включает модели для анализа временных рядов – одномерный анализ временных рядов: AR, ARIMA – векторные авторегрессионные модели, VAR и структурный VAR – описательные статистики и модели процессов для анализа временных рядов.
• R : стандартный пакет статистики R включает функцию arima , которая описана в разделе «Моделирование временных рядов ARIMA» . Помимо ⁠ ${\text{ARIMA}}(p,d,q)$⁠ часть, функция также включает сезонные факторы, член-член и экзогенные переменные ( xreg , называемые «внешними регрессорами»). В пакете astsa есть такие сценарии, как sarima для оценки сезонных и несезонных моделей и sarima.sim для моделирования на основе этих моделей. Представление задачи CRAN в временных рядах является справочным материалом со многими другими ссылками. Пакет «прогноз» в R может автоматически выбирать модель ARIMA для данного временного ряда с помощью auto.arima() функция [которая часто может давать сомнительные результаты] [1] , а также может моделировать сезонные и несезонные модели ARIMA с помощью своей simulate.Arima() функция.
• Ruby : драгоценный камень «statsample-timeseries» используется для анализа временных рядов, включая модели ARIMA и фильтрацию Калмана.
• JavaScript : пакет «arima» включает модели для анализа и прогнозирования временных рядов (ARIMA, SARIMA, SARIMAX, AutoARIMA).
• C : пакет «ctsa» включает ARIMA, SARIMA, SARIMAX, AutoARIMA и несколько методов анализа временных рядов.
• БЕЗОПАСНЫЕ ИНСТРУМЕНТЫ : включает моделирование ARIMA и регрессию с ошибками ARIMA .
• SAS : включает обширную обработку ARIMA в своей системе эконометрического анализа и анализа временных рядов: SAS/ETS.
• IBM SPSS : включает моделирование ARIMA в версии Professional и Premium пакета статистики, а также пакета Modeler. Функция Expert Modeler по умолчанию оценивает ряд настроек сезонной и несезонной авторегрессии ( p ), интегрированного ( d ) и скользящего среднего ( q ), а также семь моделей экспоненциального сглаживания. Expert Modeler также может преобразовать целевые данные временных рядов в квадратный корень или натуральный логарифм. Пользователь также имеет возможность ограничить Expert Modeler моделями ARIMA или вручную ввести несезонные и сезонные настройки ARIMA p , d и q без Expert Modeler. Автоматическое обнаружение выбросов доступно для семи типов выбросов, и обнаруженные выбросы будут включены в модель временных рядов, если выбрана эта функция.
• SAP : пакет APO-FCS в SAP ERP от SAP позволяет создавать и настраивать модели ARIMA с использованием методологии Бокса – Дженкинса.
• Службы анализа SQL Server : от Microsoft включают ARIMA в качестве алгоритма интеллектуального анализа данных.
• Stata включает моделирование ARIMA (с использованием команды arima), начиная с Stata 9.
• StatSim : включает модели ARIMA в веб-приложение Forecast .
• Teradata Vantage имеет функцию ARIMA как часть своей системы машинного обучения.
• TOL (Time Oriented Language) предназначен для моделирования моделей ARIMA (включая варианты SARIMA, ARIMAX и DSARIMAX) [2] .
• Scala : библиотека spark-timeseries содержит реализацию ARIMA для Scala, Java и Python. Реализация предназначена для работы на Apache Spark .
• PostgreSQL /MadLib: Анализ временных рядов/ARIMA .
• X-12-ARIMA : от Бюро переписи населения США.

См. также

• Автокорреляция
• РУКА
• Частичная автокорреляция
• Конечная импульсная характеристика
• Бесконечная импульсная характеристика

Дальнейшее чтение

• Астериу, Димитрос; Холл, Стивен Г. (2011). «Модели ARIMA и методология Бокса – Дженкинса». Прикладная эконометрика (второе изд.). Пэлгрейв Макмиллан. стр. 265–286. ISBN  978-0-230-27182-1 .
• Миллс, Теренс К. (1990). Методы временных рядов для экономистов . Издательство Кембриджского университета. ISBN  978-0-521-34339-8 .
• Персиваль, Дональд Б.; Уолден, Эндрю Т. (1993). Спектральный анализ для физических приложений . Издательство Кембриджского университета. ISBN  978-0-521-35532-2 .
• Шамуэй Р.Х. и Стоффер, Д.С. (2017). Анализ временных рядов и его приложения: на примерах R. Спрингер. DOI: 10.1007/978-3-319-52452-8.
• Модели ARIMA в R. Станьте экспертом в подборе моделей ARIMA (авторегрессионное интегрированное скользящее среднее) к данным временных рядов с помощью R.

Внешние ссылки

• Бюро переписи населения США использует ARIMA для «сезонно скорректированных» данных (программы, документы и статьи здесь).
• Конспект лекций по моделям ARIMA (Роберт Нау, Университет Дьюка)