Экспоненциальное сглаживание

Экспоненциальное сглаживание или экспоненциальное скользящее среднее (EMA) — это эмпирический метод сглаживания данных временных рядов с использованием экспоненциальной оконной функции . В то время как в простом скользящем среднем прошлые наблюдения имеют одинаковый вес, экспоненциальные функции используются для присвоения экспоненциально уменьшающихся весов с течением времени. Это легко освоить и легко применить процедуру для принятия некоторых решений на основе предварительных предположений пользователя, таких как сезонность. Экспоненциальное сглаживание часто используется для анализа данных временных рядов.

Экспоненциальное сглаживание — одна из многих оконных функций, обычно применяемых для сглаживания данных при обработке сигналов , действующая как фильтры нижних частот для удаления высокочастотного шума . Этому методу предшествует использование Пуассоном рекурсивных экспоненциальных оконных функций в свертках из 19 века, а также использование Колмогоровым и Зурбенко рекурсивных скользящих средних из их исследований турбулентности в 1940-х годах.

Последовательность необработанных данных часто представляется как ${\textstyle \{x_{t}\}}$ начиная с момента времени ${\textstyle t=0}$, а выходные данные алгоритма экспоненциального сглаживания обычно записываются как ${\textstyle \{s_{t}\}}$, что можно рассматривать как наилучшую оценку того, какое следующее значение ${\textstyle x}$ будет. Когда последовательность наблюдений начинается в момент времени ${\textstyle t=0}$, простейший вид экспоненциального сглаживания задается формулами:

${\begin{aligned}s_{0}&=x_{0}\\s_{t}&=\alpha x_{t}+(1-\alpha )s_{t-1},\quad t>0\end{aligned}}$

где ${\textstyle \alpha }$ – коэффициент сглаживания , а ${\textstyle 0<\alpha <1}$. Если ${\textstyle s_{t-1}}$ заменяется на ${\textstyle s_{t}}$ непрерывно, так что формула ${\textstyle s_{t}}$ полностью выражается в ${\textstyle \{x_{t}\}}$, затем экспоненциально затухающие весовые коэффициенты для каждого необработанных данных ${\textstyle x_{t}}$ раскрывается, показывая, как называется экспоненциальное сглаживание.

Простое экспоненциальное сглаживание не может предсказать, что будет наблюдаться при ${\textstyle t+m}$ на основе исходных данных до ${\textstyle t}$, тогда как для прогнозирования можно использовать двойное экспоненциальное сглаживание и тройное экспоненциальное сглаживание из-за наличия $b_{t}$ как последовательность лучших оценок линейного тренда.

Базовое (простое) экспоненциальное сглаживание

Использование экспоненциальной оконной функции впервые приписывают Пуассону. как расширение метода численного анализа 17 века, позднее принятого сообществом по обработке сигналов в 1940-х годах. Здесь экспоненциальное сглаживание — это применение экспоненциальной, или пуассоновской, оконной функции . Экспоненциальное сглаживание было впервые предложено в статистической литературе без ссылки на предыдущую работу Роберта Гуделла Брауна в 1956 году: а затем расширен Чарльзом К. Холтом в 1957 году. Приведенная ниже формула, которая широко используется, принадлежит Брауну и известна как «Простое экспоненциальное сглаживание Брауна». Все методы Холта, Уинтерса и Брауна можно рассматривать как простое применение рекурсивной фильтрации, впервые обнаруженной в 1940-х годах. для преобразования фильтров с конечной импульсной характеристикой (FIR) в фильтры с бесконечной импульсной характеристикой .

Простейший вид экспоненциального сглаживания задается формулой:

$s_{t}=\alpha x_{t}+(1-\alpha )s_{t-1}=s_{t-1}+\alpha (x_{t}-s_{t-1}).$

где $\alpha$ – коэффициент сглаживания , а $0\leq \alpha \leq 1$. Другими словами, сглаженная статистика $s_{t}$ представляет собой простое средневзвешенное значение текущего наблюдения $x_{t}$ и предыдущая сглаженная статистика $s_{t-1}$. Простое экспоненциальное сглаживание легко применяется и дает сглаженную статистику, как только становятся доступны два наблюдения. Термин «коэффициент сглаживания» применяется к $\alpha$ это неправильное название, так как большие значения $\alpha$ фактически снижают уровень сглаживания, а в предельном случае с $\alpha$ = 1, выходной ряд сглаживания — это просто текущее наблюдение. Ценности $\alpha$ значения, близкие к 1, имеют меньший эффект сглаживания и придают больший вес недавним изменениям в данных, в то время как значения $\alpha$ значения ближе к 0 имеют больший эффект сглаживания и менее чувствительны к недавним изменениям. В предельном случае с $\alpha$ = 0, выходной ряд просто плоский или постоянный, как наблюдение ${\textstyle x_{0}}$ в начале процесса сглаживания ${\textstyle t=0}$.

Формально корректной процедуры выбора не существует. $\alpha$. Иногда для выбора подходящего фактора используется суждение статистика. В качестве альтернативы можно использовать статистический метод для оптимизации значения $\alpha$. Например, метод наименьших квадратов можно использовать для определения значения $\alpha$ для которого сумма величин $(s_{t}-x_{t+1})^{2}$ сведен к минимуму.

В отличие от некоторых других методов сглаживания, таких как простое скользящее среднее, этот метод не требует выполнения минимального количества наблюдений, прежде чем он начнет давать результаты. Однако на практике «хорошее среднее значение» не будет достигнуто до тех пор, пока не будут усреднены несколько образцов; например, постоянный сигнал займет примерно $3/\alpha$ этапы до достижения 95% фактической стоимости. Чтобы точно восстановить исходный сигнал без потери информации, также должны быть доступны все этапы экспоненциального скользящего среднего, поскольку вес более старых выборок уменьшается экспоненциально. В этом отличие от простого скользящего среднего, в котором некоторые выборки можно пропустить без особой потери информации из-за постоянного взвешивания выборок в пределах среднего. Если известное количество выборок будет пропущено, можно также скорректировать средневзвешенное значение, придав равный вес новой выборке и всем тем, которые следует пропустить.

Эта простая форма экспоненциального сглаживания также известна как экспоненциально взвешенное скользящее среднее (EWMA). Технически ее также можно классифицировать как модель авторегрессионного интегрированного скользящего среднего (ARIMA) (0,1,1) без постоянного члена.

Постоянная времени

Постоянная времени экспоненциального скользящего среднего — это количество времени, за которое сглаженный отклик единичной ступенчатой ​​функции достигает $1-1/e\approx 63.2\,\%$ исходного сигнала. Связь между этой постоянной времени, $\tau$и коэффициент сглаживания, $\alpha$, определяется формулой:

$\alpha =1-e^{-\Delta T/\tau }$, таким образом $\tau =-{\frac {\Delta T}{\ln(1-\alpha )}}$

где $\Delta T$ — интервал времени выборки реализации дискретного времени. Если время выборки меньше по сравнению с постоянной времени ( $\Delta T\ll \tau$) то, используя разложение Тейлора показательной функции ,

$\alpha \approx {\frac {\Delta T}{\tau }}$

Выбор начального сглаженного значения

что в приведенном выше определении Обратите внимание , $s_{0}$ (начальный результат алгоритма экспоненциального сглаживания) инициализируется как $x_{0}$ (исходные исходные данные или наблюдение). Потому что экспоненциальное сглаживание требует, чтобы на каждом этапе у нас был предыдущий прогноз $s_{t-1}$, не очевидно, как запустить метод. Мы могли бы предположить, что первоначальный прогноз равен начальному значению спроса; однако этот подход имеет серьезный недостаток. Экспоненциальное сглаживание придает существенный вес прошлым наблюдениям, поэтому начальное значение спроса будет иметь неоправданно большое влияние на ранние прогнозы. Эту проблему можно решить, позволив процессу развиваться в течение разумного количества периодов (10 или более) и используя среднее значение спроса в течение этих периодов в качестве первоначального прогноза. Существует много других способов установки этого начального значения, но важно отметить, что чем меньше значение $\alpha$, тем более чувствительным будет ваш прогноз к выбору этого начального более сглаженного значения. $s_{0}$.

Оптимизация

Для каждого метода экспоненциального сглаживания нам также необходимо выбрать значение параметров сглаживания. Для простого экспоненциального сглаживания существует только один параметр сглаживания ( α ), но для последующих методов обычно имеется более одного параметра сглаживания.

Бывают случаи, когда параметры сглаживания могут быть выбраны субъективно – прогнозист указывает значение параметров сглаживания на основе предыдущего опыта. Однако более надежный и объективный способ получить значения неизвестных параметров, включенных в любой метод экспоненциального сглаживания, — это оценить их на основе наблюдаемых данных.

Неизвестные параметры и начальные значения для любого метода экспоненциального сглаживания можно оценить путем минимизации суммы квадратов ошибок (SSE). Ошибки указаны как ${\textstyle e_{t}=y_{t}-{\hat {y}}_{t\mid t-1}}$ для ${\textstyle t=1,\ldots ,T}$ (ошибки прогноза на один шаг вперед в пределах выборки), где ${\textstyle y_{t}}$ и ${\textstyle {\hat {y}}_{t\mid t-1}}$ являются переменной, которую нужно спрогнозировать $t$ и переменная в качестве результата прогнозирования в $t$ (на основе предыдущих данных или прогноза) соответственно. Отсюда находим значения неизвестных параметров и начальные значения, минимизирующие

${\text{SSE}}=\sum _{t=1}^{T}(y_{t}-{\hat {y}}_{t\mid t-1})^{2}=\sum _{t=1}^{T}e_{t}^{2}$

В отличие от случая регрессии (где у нас есть формулы для непосредственного расчета коэффициентов регрессии, минимизирующих SSE), здесь возникает задача нелинейной минимизации, и для ее выполнения нам необходимо использовать инструмент оптимизации .

«Экспоненциальное» наименование

Название «экспоненциальное сглаживание» связано с использованием экспоненциальной оконной функции во время свертки. Его больше не приписывают Холту, Уинтерсу и Брауну.

Непосредственной заменой определяющего уравнения простого экспоненциального сглаживания обратно в себя мы находим, что

${\begin{aligned}s_{t}&=\alpha x_{t}+(1-\alpha )s_{t-1}\\[3pt]&=\alpha x_{t}+\alpha (1-\alpha )x_{t-1}+(1-\alpha )^{2}s_{t-2}\\[3pt]&=\alpha \left[x_{t}+(1-\alpha )x_{t-1}+(1-\alpha )^{2}x_{t-2}+(1-\alpha )^{3}x_{t-3}+\cdots +(1-\alpha )^{t-1}x_{1}\right]+(1-\alpha )^{t}x_{0}.\end{aligned}}$

Другими словами, с течением времени сглаженная статистика $s_{t}$ становится средневзвешенным значением все большего и большего числа прошлых наблюдений $s_{t-1},\ldots ,s_{t-n},\ldots$, а веса, присвоенные предыдущим наблюдениям, пропорциональны членам геометрической прогрессии

$1,(1-\alpha ),(1-\alpha )^{2},\ldots ,(1-\alpha )^{n},\ldots$

Геометрическая прогрессия — это дискретная версия экспоненциальной функции отсюда и произошло название этого метода сглаживания , поэтому, согласно знаниям статистики, .

Сравнение со скользящим средним

Экспоненциальное сглаживание и скользящее среднее имеют схожие недостатки, заключающиеся в внесении задержки относительно входных данных. Хотя это можно исправить, сдвинув результат на половину длины окна для симметричного ядра, такого как скользящее среднее или гауссово, неясно, насколько это подходит для экспоненциального сглаживания. Они (скользящее среднее с симметричными ядрами) также имеют примерно одинаковое распределение ошибки прогноза, когда α = 2/( k + 1), где k — количество прошлых точек данных, учитываемых скользящим средним. Они отличаются тем, что экспоненциальное сглаживание учитывает все прошлые данные, тогда как скользящее среднее учитывает только k точек прошлых данных. С вычислительной точки зрения они также отличаются тем, что скользящее среднее требует k прошлых точек данных или точки данных с задержкой k сохранения + 1 плюс самое последнее прогнозируемое значение, тогда как для экспоненциального сглаживания требуется только самое последнее прогнозируемое значение. сохранился.

В литературе по обработке сигналов использование непричинных (симметричных) фильтров является обычным явлением, и экспоненциальная оконная функция широко используется таким образом, но используется другая терминология: экспоненциальное сглаживание эквивалентно бесконечно-импульсному первому порядку. фильтр отклика (БИХ) и скользящее среднее эквивалентны фильтру с конечной импульсной характеристикой с равными весовыми коэффициентами.

Двойное экспоненциальное сглаживание (линейное Холта)

Простое экспоненциальное сглаживание неэффективно, когда наблюдается тенденция . в данных В таких ситуациях было разработано несколько методов под названием «двойное экспоненциальное сглаживание» или «экспоненциальное сглаживание второго порядка», которое представляет собой рекурсивное применение экспоненциального фильтра дважды, поэтому его называют «двойным экспоненциальным сглаживанием». Эта номенклатура аналогична четырехкратному экспоненциальному сглаживанию, которое также указывает на глубину рекурсии. Основная идея двойного экспоненциального сглаживания заключается во введении термина, учитывающего возможность того, что ряд демонстрирует некоторую форму тренда. Этот компонент наклона сам обновляется посредством экспоненциального сглаживания.

Один метод работает следующим образом:

Опять же, последовательность необработанных данных наблюдений представлена ​​как $x_{t}$, начиная с момента времени $t=0$. Мы используем $s_{t}$ для представления сглаженного значения времени $t$, и $b_{t}$ это наша лучшая оценка тенденции на данный момент $t$. Вывод алгоритма теперь записывается как $F_{t+m}$, оценка стоимости $x_{t+m}$ во время $m>0$ на основе необработанных данных на данный момент $t$. Двойное экспоненциальное сглаживание задается формулами

${\begin{aligned}s_{0}&=x_{0}\\b_{0}&=x_{1}-x_{0}\\\end{aligned}}$

И для $t>0$ к

${\begin{aligned}s_{t}&=\alpha x_{t}+(1-\alpha )(s_{t-1}+b_{t-1})\\b_{t}&=\beta (s_{t}-s_{t-1})+(1-\beta )b_{t-1}\\\end{aligned}}$

где $\alpha$ ( $0\leq \alpha \leq 1$) — коэффициент сглаживания данных , а $\beta$ ( $0\leq \beta \leq 1$) – коэффициент сглаживания тренда .

Прогнозировать дальше $x_{t}$ определяется приближением:

$F_{t+m}=s_{t}+m\cdot b_{t}$

Установка начального значения $b$ это вопрос предпочтений. Вариант, отличный от перечисленного выше, ${\textstyle {\frac {x_{n}-x_{0}}{n}}}$ для некоторых $n$.

Обратите внимание, что F ₀ не определено (нет оценки для времени 0), и согласно определению F ₁ = s ₀ + b ₀ , которое четко определено, таким образом, можно оценить дальнейшие значения.

Второй метод, называемый либо линейным экспоненциальным сглаживанием Брауна (LES), либо двойным экспоненциальным сглаживанием Брауна, работает следующим образом.

${\begin{aligned}s'_{0}&=x_{0}\\s''_{0}&=x_{0}\\s'_{t}&=\alpha x_{t}+(1-\alpha )s'_{t-1}\\s''_{t}&=\alpha s'_{t}+(1-\alpha )s''_{t-1}\\F_{t+m}&=a_{t}+mb_{t},\end{aligned}}$

где a _t — предполагаемый уровень в момент времени t и b _t — предполагаемая тенденция в момент времени t :

${\begin{aligned}a_{t}&=2s'_{t}-s''_{t}\\[5pt]b_{t}&={\frac {\alpha }{1-\alpha }}(s'_{t}-s''_{t}).\end{aligned}}$

(Холт Уинтерс

необходимо удалить три высокочастотных сигнала временного ряда Тройное экспоненциальное сглаживание применяет экспоненциальное сглаживание три раза, что обычно используется, когда из исследуемого . Существуют разные типы сезонности: «мультипликативная» и «аддитивная» по своей природе, подобно тому, как сложение и умножение являются основными операциями в математике.

Если каждый месяц в декабре мы продаем на 10 000 квартир больше, чем в ноябре, сезонность носит аддитивный характер. Однако если в летние месяцы мы продаем на 10% больше квартир, чем в зимние, то сезонность носит мультипликативный характер. Мультипликативную сезонность можно представить как постоянный коэффициент, а не абсолютную величину.

Тройное экспоненциальное сглаживание было впервые предложено учеником Холта Питером Уинтерсом в 1960 году после прочтения книги 1940-х годов по обработке сигналов, посвященной экспоненциальному сглаживанию. Новая идея Холта заключалась в том, чтобы повторить фильтрацию нечетное число раз больше 1 и меньше 5, что было популярно среди ученых предыдущих эпох. Хотя рекурсивная фильтрация использовалась и раньше, она применялась дважды и четыре раза, чтобы совпасть с гипотезой Адамара , тогда как тройное применение требовало более чем удвоенного количества операций сингулярной свертки. Использование тройного нанесения считается эмпирическим методом, а не основанным на теоретических основах, и практики часто переоценивают его. Предположим, у нас есть последовательность наблюдений $x_{t},$ начиная с момента времени $t=0$ с циклом сезонного изменения длины $L$.

Метод рассчитывает линию тренда для данных, а также сезонные индексы, которые взвешивают значения в линии тренда в зависимости от того, где этот момент времени попадает в цикл длины. $L$.

Позволять $s_{t}$ представляют сглаженное значение постоянной части за время $t$, $b_{t}$ представляет собой последовательность лучших оценок линейного тренда, наложенных на сезонные изменения, и $c_{t}$ – последовательность сезонных поправочных коэффициентов. Мы хотим оценить $c_{t}$ в любое время $t$против $L$ в цикле, в котором происходят наблюдения. Как правило, минимум два полных сезона (или $2L$ периоды) исторических данных необходимы для инициализации набора сезонных факторов.

Вывод алгоритма снова записывается как $F_{t+m}$, оценка стоимости $x_{t+m}$ во время $t+m>0$ на основе необработанных данных на данный момент $t$. Тройное экспоненциальное сглаживание с мультипликативной сезонностью задается формулами

${\begin{aligned}s_{0}&=x_{0}\\[5pt]s_{t}&=\alpha {\frac {x_{t}}{c_{t-L}}}+(1-\alpha )(s_{t-1}+b_{t-1})\\[5pt]b_{t}&=\beta (s_{t}-s_{t-1})+(1-\beta )b_{t-1}\\[5pt]c_{t}&=\gamma {\frac {x_{t}}{s_{t}}}+(1-\gamma )c_{t-L}\\[5pt]F_{t+m}&=(s_{t}+mb_{t})c_{t-L+1+(m-1){\bmod {L}}},\end{aligned}}$

где $\alpha$ ( $0\leq \alpha \leq 1$) — коэффициент сглаживания данных , $\beta$ ( $0\leq \beta \leq 1$) – коэффициент сглаживания тренда , а $\gamma$ ( $0\leq \gamma \leq 1$) – коэффициент сглаживания сезонных изменений .

Общая формула первоначальной оценки тренда $b$ является:

${\begin{aligned}b_{0}&={\frac {1}{L}}\left({\frac {x_{L+1}-x_{1}}{L}}+{\frac {x_{L+2}-x_{2}}{L}}+\cdots +{\frac {x_{L+L}-x_{L}}{L}}\right)\end{aligned}}$

Установка первоначальных оценок сезонных индексов $c_{i}$ для $i=1,2,\ldots ,L$ это немного более сложно. Если $N$ — это количество полных циклов, присутствующих в ваших данных, тогда:

$c_{i}={\frac {1}{N}}\sum _{j=1}^{N}{\frac {x_{L(j-1)+i}}{A_{j}}}\quad {\text{for }}i=1,2,\ldots ,L$

где

$A_{j}={\frac {\sum _{i=1}^{L}x_{L(j-1)+i}}{L}}\quad {\text{for }}j=1,2,\ldots ,N$

Обратите внимание, что $A_{j}$ это среднее значение $x$ в $j^{\text{th}}$ цикл ваших данных.

Тройное экспоненциальное сглаживание с аддитивной сезонностью определяется следующим образом:

${\begin{aligned}s_{0}&=x_{0}\\s_{t}&=\alpha (x_{t}-c_{t-L})+(1-\alpha )(s_{t-1}+b_{t-1})\\b_{t}&=\beta (s_{t}-s_{t-1})+(1-\beta )b_{t-1}\\c_{t}&=\gamma (x_{t}-s_{t-1}-b_{t-1})+(1-\gamma )c_{t-L}\\F_{t+m}&=s_{t}+mb_{t}+c_{t-L+1+(m-1){\bmod {L}}},\end{aligned}}$

Реализации в пакетах статистики

• R : функция HoltWinters в пакете статистики. и ets функционируют в пакете прогнозов (более полная реализация, обычно приводящая к повышению производительности ).
• Python : модуль holtwinters пакета statsmodels позволяет выполнять простое, двойное и тройное экспоненциальное сглаживание.
• IBM SPSS включает простой, простой сезонный, линейный тренд Холта, линейный тренд Брауна, затухающий тренд, добавку Уинтерса и мультипликатив Уинтерса в процедуру моделирования временных рядов в своих статистических пакетах Статистика и Modeler. Функция Expert Modeler по умолчанию оценивает все семь моделей экспоненциального сглаживания и модели ARIMA с диапазоном несезонных и сезонных значений p , d и q и выбирает модель с наименьшим показателем байесовского информационного критерия .
• Стата : команда tssmooth
• ЛибреОфис 5.2
• Майкрософт Эксель 2016

См. также

• Модель авторегрессии скользящего среднего (ARMA)
• Ошибки и остатки в статистике
• Скользящее среднее
• Непрерывная дробь

Внешние ссылки

• Конспект лекций по экспоненциальному сглаживанию (Роберт Нау, Университет Дьюка)
• Сглаживание данных , Джон МакЛун, Демонстрационный проект Wolfram
• Подход Холта-Уинтерса к экспоненциальному сглаживанию: 50 лет и набирает силу Пол Гудвин (2010) Форсайт: Международный журнал прикладного прогнозирования
• Алгоритмы для неравномерно распределенных временных рядов: скользящие средние и другие скользящие операторы Андреаса Экнера