Анализ сингулярного спектра

В временных рядов анализе анализ сингулярного спектра ( SSA ) является непараметрическим методом спектральной оценки . Он сочетает в себе элементы классического анализа временных рядов , многомерной статистики , многомерной геометрии, динамических систем и обработки сигналов . Его корни лежат в классическом спектральном разложении и Карунена (1946)–Лоэва (1945, 1978) временных рядов случайных полей Манье (1981)–Такенса (1981) , а также в теореме вложения . SSA может помочь в разложении временного ряда на сумму компонентов, каждый из которых имеет осмысленную интерпретацию. Название «анализ сингулярного спектра» относится к спектру собственных значений в разложении по сингулярным значениям , ковариационной матрицы а не непосредственно к разложению в частотной области .

Краткая история

Истоки SSA и, в более общем смысле, подпространственных методов обработки сигналов восходят к восемнадцатому веку ( метод Прони ). Ключевым достижением стала формулировка спектрального разложения ковариационного оператора случайных процессов Кари Кархуненом и Мишелем Лёвом в конце 1940-х годов (Loève, 1945; Karhunen, 1947).

Брумхед и Кинг (1986a, b) и Фредрих (1986) предложили использовать SSA и многоканальный SSA (M-SSA) в контексте нелинейной динамики с целью восстановления аттрактора системы по измеренным временным рядам. Эти авторы предоставили расширение и более надежное применение идеи восстановления динамики из одного временного ряда на основе теоремы вложения . Несколько других авторов уже применили простые версии M-SSA к наборам метеорологических и экологических данных (Colebrook, 1978; Barnett and Hasselmann, 1979; Weare and Nasstrom, 1982).

Гил , Вотард и их коллеги (Vautard and Ghil, 1989; Ghil and Vautard, 1991; Vautard et al., 1992; Ghil et al., 2002) заметили аналогию между матрицей траекторий Брумхеда и Кинга, с одной стороны, и разложение Карунена – Лоэва ( анализ главных компонент во временной области), с другой. Таким образом, SSA можно использовать как метод во временной и частотной области для анализа временных рядов — независимо от реконструкции аттрактора и включая случаи, когда последняя может дать сбой. В обзорном документе Ghil et al. (2002) легли в основу раздела § «Методология» этой статьи. Важнейшим результатом работы этих авторов является то, что SSA может надежно восстанавливать «скелет» аттрактора, в том числе в присутствии шума. Этот скелет образуют наименее нестабильные периодические орбиты, которые можно выделить в спектрах собственных значений SSA и M-SSA. Идентификация и подробное описание этих орбит могут дать весьма полезные указания на лежащую в их основе нелинейную динамику.

Так называемая методология «Гусеница» представляет собой версию SSA, разработанную в бывшем Советском Союзе независимо от основной работы SSA на Западе. В остальном мире эта методология стала известна сравнительно недавно (Данилов, Жиглявский, ред., 1997; Голяндина и др., 2001; Жиглявский, ред., 2010; Голяндина, Жиглявский, 2013; Голяндина и др., 2018). «Caterpillar-SSA» подчеркивает концепцию разделимости, концепцию, которая приводит, например, к конкретным рекомендациям по выбору параметров SSA. Этот метод подробно описан в § SSA как безмодельный инструмент этой статьи.

Методология

На практике SSA представляет собой непараметрический метод спектральной оценки, основанный на внедрении временного ряда. $\{X(t):t=1,\ldots ,N\}$ в векторном пространстве размерности $M$ . SSA действует путем диагонализации $M\times M$ матрица лаг-ковариации ${\textbf {C}}_{X}$ из $X(t)$ для получения спектральной информации о временном ряде, считающемся стационарным в слабом смысле. Матрица ${\textbf {C}}_{X}$ можно оценить непосредственно по данным как матрицу Теплица с постоянными диагоналями (Vautard and Ghil, 1989), т. е. ее элементы $c_{ij}$ зависит только от задержки $|i-j|$ :

c_{ij}={\frac {1}{N-|i-j|}}\sum _{t=1}^{N-|i-j|}X(t)X(t+|i-j|).

Альтернативный способ расчета ${\textbf {C}}_{X}$ , с помощью $N'\times M$ «матрица траекторий» ${\textbf {D}}$ который образован $M$ копии с запаздыванием ${\it {X(t)}}$ , которые $N'=N-M+1$ длинный; затем

{\textbf {C}}_{X}={\frac {1}{N'}}{\textbf {D}}^{\rm {t}}{\textbf {D}}.

The $M$ собственные векторы ${\textbf {E}}_{k}$ матрицы лаг-ковариации ${\textbf {C}}_{X}$ называются временными эмпирическими ортогональными функциями (ЭОФ) . Собственные значения $\lambda _{k}$ из ${\textbf {C}}_{X}$ учитывать частичную дисперсиюнаправление ${\textbf {E}}_{k}$ и сумма собственных значений, т. е. след ${\textbf {C}}_{X}$ , дает общую дисперсию исходного временного ряда $X(t)$ . Название метода происходит от единственного числа $\lambda _{k}^{1/2}$ из ${\textbf {C}}_{X}.$

Разложение и реконструкция

Проецирование временного ряда на каждый EOF дает соответствующийвременные главные компоненты (ПК) ${\textbf {A}}_{k}$ :

A_{k}(t)=\sum _{j=1}^{M}X(t+j-1)E_{k}(j).

Колебательный режим характеризуется паройпочти равные собственные значения SSA и связанные с ними ПК, находящиеся примерно в фазовой квадратуре (Ghil et al., 2002). Такая пара может эффективно представлять собой нелинейное ангармоническое колебание. Это связано с тем, что одна пара адаптивных к данным собственных мод SSA часто лучше отражает базовую периодичность колебательного режима, чем методы с фиксированными базисными функциями , такими как синусы и косинусы, используемые в преобразовании Фурье .

Ширина окна $M$ определяет самую длинную периодичность, фиксируемую SSA. Разделение сигнала на шум можно получить, просто проверив излом наклона на «диаграмме осыпей» собственных значений. $\lambda _{k}$ или сингулярные значения $\lambda _{k}^{1/2}$ против. $k$ . Суть $k^{*}=S$ не следует путать с «измерением», в котором происходит этот разрыв. $D$ лежащей в основе детерминистской динамики (Вотар и Гил, 1989).

Тест Монте-Карло (Аллен и Смит, 1996; Аллен и Робертсон, 1996; Грот и Гил, 2015) может быть применен для установления статистической значимости колебательных пар, обнаруженных с помощью SSA. Весь временной ряд или его части, соответствующие трендам, колебательным режимам или шуму, можно восстановить с помощью линейных комбинаций PC и EOF, которые обеспечивают восстановленные компоненты (RC). ${\textbf {R}}_{K}$ :

R_{K}(t)={\frac {1}{M_{t}}}\sum _{k\in {\textit {K}}}\sum _{j={L_{t}}}^{U_{t}}A_{k}(t-j+1)E_{k}(j);

здесь $K$ — это набор EOF, на котором основана реконструкция. Значения коэффициента нормализации $M_{t}$ , а также нижней и верхней границы суммирования $L_{t}$ и $U_{t}$ , различаются между центральной частью временного ряда и окрестностями его конечных точек (Ghil et al., 2002).

Многомерное расширение

Многоканальный SSA (или M-SSA) — это естественное расширение SSA до $L$ -канальные временные ряды векторов или карт с $N$ точки данных $\{X_{l}(t):l=1,\dots ,L;t=1,\dots ,N\}$ . В метеорологической литературе анализ расширенного EOF (EEOF) часто считается синонимом M-SSA. Оба метода являются расширениями классического анализа главных компонент (PCA), но они различаются по акценту: анализ EEOF обычно использует несколько $L$ пространственных каналов, значительно превышающих число $M$ временных задержек, что ограничивает временную и спектральную информацию. С другой стороны, в M-SSA обычно выбирают $L\leq M$ . Часто M-SSA применяется к нескольким ведущим компьютерам пространственных данных, причем $M$ выбираются достаточно большими, чтобы извлечь подробную временную и спектральную информацию из многомерных временных рядов (Ghil et al., 2002). Однако Грот и Гил (2015) продемонстрировали возможное негативное влияние этого сжатия дисперсии на скорость обнаружения слабых сигналов, когда число $L$ оставшихся ПК становится слишком маленьким. Эта практика может дополнительно негативно повлиять на разумную реконструкцию пространственно-временных закономерностей таких слабых сигналов, и Грот и др. (2016) рекомендуют сохранять максимальное количество ПК, т.е. $L=N$ .

Грот и Гил (2011) продемонстрировали, что классический анализ M-SSA страдает проблемой вырождения, а именно, ЭОФ плохо разделяют отдельные колебания, когда соответствующие собственные значения схожи по размеру. Эта проблема является недостатком анализа главных компонент в целом, а не только M-SSA в частности. Чтобы уменьшить эффекты смешивания и улучшить физическую интерпретацию, Грот и Гил (2011) предложили последующее вращение VARIMAX пространственно-временных EOF (ST-EOF) M-SSA. Чтобы избежать потери спектральных свойств (Плаут и Вотард, 1994), они ввели небольшую модификацию обычного вращения VARIMAX , которая учитывает пространственно-временную структуру ST-EOF. В качестве альтернативы была предложена закрытая матричная формулировка алгоритма для одновременного вращения EOF с помощью итеративного SVD-разложения (Portes and Aguirre, 2016).

M-SSA использует два подхода к прогнозированию, известные как рекуррентный и векторный. Расхождения между этими двумя подходами обусловлены организацией единой траекторной матрицы. ${\textbf {X}}$ каждой серии в блочную матрицу траекторий в многомерном случае. Две матрицы траекторий могут быть организованы либо по вертикали (VMSSA), либо по горизонтали (HMSSA), как это было недавно представлено Хассани и Махмудвандом (2013), и было показано, что эти конструкции приводят к лучшим прогнозам. Соответственно, у нас есть четыре различных алгоритма прогнозирования, которые можно использовать в этой версии MSSA (Хассани и Махмудванд, 2013).

Прогноз

В этом подразделе мы сосредоточимся на явлениях, которые демонстрируют значительную колебательную составляющую: повторение увеличивает понимание и, следовательно, уверенность в методе прогнозирования, который тесно связан с таким пониманием.

Анализ сингулярного спектра (SSA) и метод максимальной энтропии (MEM) были объединены для прогнозирования множества явлений в метеорологии, океанографии и динамике климата (Ghil et al., 2002 и ссылки в них). Во-первых, «шум» отфильтровывается путем проецирования временного ряда на подмножество ведущих EOF, полученных с помощью SSA; выбранное подмножество должно включать статистически значимые колебательные режимы. Опыт показывает, что этот подход работает лучше всего, когда частичная дисперсия, связанная с парами RC, которые улавливают эти моды, велика (Ghil and Jiang, 1998).

Предварительно отфильтрованные RC затем экстраполируются методом наименьших квадратов в авторегрессионную модель. $AR[p]$ , коэффициенты которого дают МЕМ-спектр оставшегося «сигнала». Наконец, расширенные RC используются в процессе реконструкции SSA для получения прогнозных значений. Причина, по которой этот подход – посредством предварительной фильтрации SSA, AR-экстраполяции RC и реконструкции SSA – работает лучше, чем обычное предсказание на основе AR, объясняется тем фактом, что отдельные RC представляют собой узкополосные сигналы, в отличие от исходного, зашумленного времени. ряд $X(t)$ (Пенланд и др., 1991; Кеппенн и Гил, 1993). Фактически оптимальный порядок p, полученный для отдельных RC, значительно ниже, чем тот, который дается стандартным информационным критерием Акаике (AIC) или аналогичными.

Заполнение пространственно-временного разрыва

Версия SSA с заполнением пробелов может использоваться для анализа наборов данных, которые имеют неравномерную выборку или содержат недостающие данные (Кондрашов и Гил, 2006; Кондрашов и др., 2010). Для одномерного временного ряда процедура заполнения пробелов SSA использует временные корреляции для заполнения недостающих точек. Для многомерного набора данных заполнение пробелов с помощью M-SSA использует преимущества как пространственных, так и временных корреляций. В любом случае: (i) оценки недостающих точек данных производятся итеративно, а затем используются для вычисления самосогласованной матрицы лаг-ковариации. ${\textbf {C}}_{X}$ и его EOF ${\textbf {E}}_{k}$ ; и (ii) перекрестная проверка используется для оптимизации ширины окна. $M$ и количество ведущих мод SSA для заполнения пробелов итеративно оцененным «сигналом», при этом шум отбрасывается.

Как инструмент без модели

Области применения SSA очень широки: климатология, морские науки, геофизика, инженерия, обработка изображений, медицина, эконометрика. Поэтому были предложены различные модификации SSA и различные методологии SSA используются в практических приложениях, таких как трендов извлечение периодичности , обнаружение , сезонная корректировка , сглаживание , уменьшение шума (Голяндина и др., 2001).

Базовый SSA

SSA можно использовать как безмодельный метод, чтобы его можно было применять к произвольным временным рядам, включая нестационарные временные ряды. Основная цель SSA — разложить временной ряд на сумму интерпретируемых компонентов, таких как тренд, периодические компоненты и шум, без каких-либо априорных предположений о параметрической форме этих компонентов.

Рассмотрим действительный временной ряд $\mathbb {X} =(x_{1},\ldots ,x_{N})$ длины $N$ . Позволять $L$ $\ (1<L<N)$ быть некоторым целым числом, называемым длиной окна и $K=N-L+1$ .

Основной алгоритм

1-й шаг: Встраивание.

Сформируйте матрицу траекторий ряда $\mathbb {X}$ , который является $L\!\times \!K$ матрица

\mathbf {X} =[X_{1}:\ldots :X_{K}]=(x_{ij})_{i,j=1}^{L,K}={\begin{bmatrix}x_{1}&x_{2}&x_{3}&\ldots &x_{K}\\x_{2}&x_{3}&x_{4}&\ldots &x_{K+1}\\x_{3}&x_{4}&x_{5}&\ldots &x_{K+2}\\\vdots &\vdots &\vdots &\ddots &\vdots \\x_{L}&x_{L+1}&x_{L+2}&\ldots &x_{N}\\\end{bmatrix}}

где $X_{i}=(x_{i},\ldots ,x_{i+L-1})^{\mathrm {T} }\;\quad (1\leq i\leq K)$ являются запаздывающими векторами размера $L$ . Матрица $\mathbf {X}$ является матрицей Ханкеля , что означает, что $\mathbf {X}$ имеет равные элементы $x_{ij}$ на антидиагоналях $i+j=\,{\rm {const}}$ .

2-й шаг: Разложение по сингулярным значениям (SVD).

Выполните разложение по сингулярным значениям (SVD) матрицы траектории. $\mathbf {X}$ . Набор $\mathbf {S} =\mathbf {X} \mathbf {X} ^{\mathrm {T} }$ и обозначим через $\lambda _{1},\ldots ,\lambda _{L}$ значения собственные $\mathbf {S}$ взяты в порядке убывания величины ( $\lambda _{1}\geq \ldots \geq \lambda _{L}\geq 0$ ) и $U_{1},\ldots ,U_{L}$ ортонормированная система собственных векторов матрицы $\mathbf {S}$ соответствующие этим собственным значениям.

Набор $d=\mathop {\mathrm {rank} } \mathbf {X} =\max\{i,\ {\mbox{such that}}\ \lambda _{i}>0\}$ (Обратите внимание, что $d=L$ для типичного сериала из реальной жизни) и $V_{i}=\mathbf {X} ^{\mathrm {T} }U_{i}/{\sqrt {\lambda _{i}}}$ $(i=1,\ldots ,d)$ . В этих обозначениях СВД матрицы траекторий $\mathbf {X}$ можно записать как

\mathbf {X} =\mathbf {X} _{1}+\ldots +\mathbf {X} _{d},

где

\mathbf {X} _{i}={\sqrt {\lambda _{i}}}U_{i}V_{i}^{\mathrm {T} }

– матрицы ранга 1; они называются элементарными матрицами . Коллекция $({\sqrt {\lambda _{i}}},U_{i},V_{i})$ будет называться $i$ собственный тройник (сокращенно ЕТ) СВД. Векторы $U_{i}$ — левые сингулярные векторы матрицы $\mathbf {X}$ , цифры ${\sqrt {\lambda _{i}}}$ являются сингулярными значениями и обеспечивают сингулярный спектр $\mathbf {X}$ ; это дает название SSA. Векторы ${\sqrt {\lambda _{i}}}V_{i}=\mathbf {X} ^{\mathrm {T} }U_{i}$ называются векторами главных компонент (ПК).

3-й шаг: Собственная тройная группировка.

Разделить набор индексов $\{1,\ldots ,d\}$ в $m$ непересекающиеся подмножества $I_{1},\ldots ,I_{m}$ .

Позволять $I=\{i_{1},\ldots ,i_{p}\}$ . Тогда результирующая матрица $\mathbf {X} _{I}$ соответствующий группе $I$ определяется как $\mathbf {X} _{I}=\mathbf {X} _{i_{1}}+\ldots +\mathbf {X} _{i_{p}}$ . Результирующие матрицы вычисляются для групп $I=I_{1},\ldots ,I_{m}$ и групповое расширение СВД $\mathbf {X}$ теперь можно записать как

\mathbf {X} =\mathbf {X} _{I_{1}}+\ldots +\mathbf {X} _{I_{m}}.

4-й шаг: Диагональное усреднение.

Каждая матрица $\mathbf {X} _{I_{j}}$ группового разложения ганкелизируется, а затем полученная матрица Ганкеля преобразуется в новый ряд длины $N$ используя взаимно однозначное соответствие между матрицами Ганкеля и временными рядами.Диагональное усреднение, примененное к результирующей матрице $\mathbf {X} _{I_{k}}$ выпускает реконструированную серию ${\widetilde {\mathbb {X} }}^{(k)}=({\widetilde {x}}_{1}^{(k)},\ldots ,{\widetilde {x}}_{N}^{(k)})$ . Таким образом, начальная серия $x_{1},\ldots ,x_{N}$ разлагается на сумму $m$ реконструированные подсерии:

x_{n}=\sum \limits _{k=1}^{m}{\widetilde {x}}_{n}^{(k)}\ \ (n=1,2,\ldots ,N).

Это разложение является основным результатом алгоритма SSA. Декомпозиция имеет смысл, если каждая реконструируемая подряды могут быть классифицированы как часть тренда, периодического компонента или шума.

Теория SSA-сепарабельности

Два основных вопроса, на которые пытается ответить теория SSA: (а) какие компоненты временного ряда могут быть разделены с помощью SSA и (б) как выбрать длину окна $L$ и сделать правильную группировку для извлечения желаемого компонента. Многие теоретические результаты можно найти у Голяндиной и др. (2001, гл. 1 и 6).

Тренд (который определяется как медленно меняющаяся компонента временного ряда), периодические компоненты и шум асимптотически разделимы как $N\rightarrow \infty$ . На практике $N$ фиксировано, и нас интересует приблизительная разделимость между компонентами временного ряда. Можно использовать ряд показателей приблизительной разделимости, см. Голяндина и др. (2001, Гл. 1). Длина окна $L$ определяет разрешающую способность метода: большие значения $L$ обеспечивают более точное разложение на элементарные компоненты и, следовательно, лучшую разделимость. Длина окна $L$ определяет самую длинную периодичность, фиксируемую SSA. Тенденции можно извлечь путем группировки собственных троек с медленно меняющимися собственными векторами. Синусоида с частотой меньше 0,5 дает два примерно равных собственных значения и два собственных синусоидальных вектора с одинаковыми частотами и $\pi /2$ - сдвинутые фазы.

Разделение двух компонент временного ряда можно рассматривать как выделение одной компоненты при наличии возмущения со стороны другой компоненты. Теория возмущений SSA развита в работах Некруткина (2010) и Хассани и др. (2011).

Прогнозирование SSA

Если для какой-то серии $\mathbb {X}$ шаг SVD в Basic SSA дает $d<L$ , то этот ряд называется временным рядом ранга $d$ (Голяндина и др., 2001, гл.5). Подпространство, охватываемое $d$ ведущие собственные векторы называются сигнальным подпространством . Это подпространство используется для оценки параметров сигнала при обработке сигнала , например ESPRIT для оценки частоты с высоким разрешением. Кроме того, это подпространство определяет линейное однородное рекуррентное соотношение (LRR), управляющее рядом, которое можно использовать для прогнозирования. Продолжение ряда с помощью LRR аналогично прямому линейному предсказанию при обработке сигналов.

Пусть ряд управляется минимальным LRR $x_{n}=\sum _{k=1}^{d}b_{k}x_{n-k}$ . Давайте выберем $L>d$ , $U_{1},\ldots ,U_{d}$ — собственные векторы (левые сингулярные векторы $L$ -матрица траекторий), которые обеспечиваются шагом SVD SSA. Тогда эта серия управляется LRR $x_{n}=\sum _{k=1}^{L-1}a_{k}x_{n-k}$ , где $(a_{L-1},\ldots ,a_{1})^{\mathrm {T} }$ выражаются через $U_{1},\ldots ,U_{d}$ (Голяндина и др., 2001, Гл.5), и может быть продолжен тем же ЛРР.

На этом основаны алгоритмы рекуррентного и векторного прогнозирования SSA (Голяндина и др., 2001, гл.2). На практике сигнал искажается возмущением, например шумом, и его подпространство приблизительно оценивается SSA. Таким образом, прогнозирование SSA может применяться для прогнозирования компонента временного ряда, который приблизительно определяется LRR и приблизительно отделен от остатка.

Многомерное расширение

Многоканальный многомерный SSA (или M-SSA) — это естественное расширение SSA для анализа многомерных временных рядов, где размер различных одномерных рядов не обязательно должен быть одинаковым. Матрица траекторий многоканальных временных рядов состоит из связанных матриц траекторий отдельных временных рядов. Остальная часть алгоритма такая же, как и в одномерном случае. Систему рядов можно прогнозировать аналогично рекуррентным и векторным алгоритмам SSA (Голяндина и Степанов, 2005). MSSA имеет множество приложений. Он особенно популярен при анализе и прогнозировании экономических и финансовых временных рядов с короткими и длинными рядами (Паттерсон и др., 2011, Хассани и др., 2012, Хассани и Махмудванд, 2013). Другим многомерным расширением является 2D-SSA, которое можно применять к двумерным данным, таким как цифровые изображения (Голяндина и Усевич, 2010). Аналог матрицы траекторий строится путем перемещения двумерных окон размером $L_{x}\times L_{y}$ .

MSSA и причинно-следственная связь

При анализе временных рядов часто возникает вопрос: может ли одна экономическая переменнаяпомочь в прогнозировании другой экономической переменной. Один из способов решения этого вопроса был предложенГрейнджер (1969), в которой он формализовал концепцию причинности. Недавно для измерения причинности был введен комплексный тест на причинность, основанный на MSSA. Тест основан на точности прогнозирования и предсказуемости направления изменения алгоритмов MSSA (Hassani et al., 2011 и Hassani et al., 2012).

MSSA и EMH

Результаты прогнозирования MSSA можно использовать при рассмотрении спорной гипотезы эффективного рынка (EMH).EMH предполагает, что информация, содержащаяся в ряде цен актива, отражается «мгновенно, полностью и навсегда» в текущей цене актива. Поскольку ценовой ряд и содержащаяся в нем информация доступны всем участникам рынка, никто не может извлечь выгоду, пытаясь воспользоваться информацией, содержащейся в истории цен актива, при торговле на рынках. Это оценивается с использованием двух серий разной длины в многомерной системе анализа SSA (Hassani et al. 2010).

MSSA, SSA и бизнес-циклы

Деловые циклы играют ключевую роль в макроэкономике и представляют интерес для множества игроков в экономике, включая центральные банки, политиков и финансовых посредников. Недавно были внедрены методы отслеживания деловых циклов на основе MSSA, которые, как было показано, позволяют надежно оценивать циклическое положение экономики в режиме реального времени (де Карвальо и др., 2012 и де Карвальо и Руа, 2017). .

MSSA, SSA и корневой модуль

Применимость SSA к любому виду стационарного или детерминированного ряда была расширена на случай ряда со стохастической тенденцией, также известного как ряд с единичным корнем. В Хассани и Томакосе (2010) и Томакосе (2010) дана основная теория свойств и применения SSA в случае рядов с единичным корнем, а также несколько примеров. Показано, что SSA в таких рядах создает особый вид фильтра, форма и спектральные свойства которого выводятся, и что прогнозирование одной реконструированной компоненты сводится к скользящему среднему. Таким образом, SSA с единичными корнями обеспечивает «оптимизирующую» непараметрическую основу для сглаживания рядов с единичным корнем. Это направление работы распространяется и на случай двух серий, каждая из которых имеет единичный корень, но коинтегрирована. Применение SSA в этой двумерной структуре дает сглаженный ряд общего корневого компонента.

Заполнение пробелов

Версии SSA, заполняющие пробелы, можно использовать для анализа наборов данных, которые имеют неравномерную выборку или содержат недостающие данные (Schoellhamer, 2001; Голяндина и Осипов, 2007).

Шёллхамер (2001) показывает, что простая идея формального расчета приближенных внутренних произведений без учета неизвестных членов работоспособна для длинных стационарных временных рядов.Голяндина и Осипов (2007) используют идею заполнения недостающих элементов в векторах, взятых из данного подпространства. Рекуррентное и векторное прогнозирование SSA можно рассматривать как частные случаи заполнения алгоритмов, описанных в статье.

Обнаружение структурных изменений

SSA можно эффективно использовать как непараметрический метод мониторинга временных рядов и обнаружения изменений . Для этого SSA выполняет отслеживание подпространства следующим образом. SSA применяется последовательно к начальным частям ряда, строит соответствующие сигнальные подпространства и проверяет расстояния между этими подпространствами и запаздывающими векторами, сформированными из нескольких самых последних наблюдений. Если эти расстояния становятся слишком большими, можно предположить, что в серии произошли структурные изменения (Голяндина и др., 2001, гл.3; Москвина, Жиглявский, 2003).

Таким образом, SSA можно было бы использовать для обнаружения изменений не только в тенденциях, но и в изменчивости рядов, в механизме, определяющем зависимость между различными рядами, и даже в структуре шума. Этот метод оказался полезным в различных инженерных задачах (например, Мохаммад и Нишида (2011) в робототехнике) и был распространен на многомерный случай с соответствующим анализом задержки обнаружения и частоты ложных срабатываний. ^[1]

Связь между SSA и другими методами

Авторегрессия: Типичная модель SSA: $x_{n}=s_{n}+e_{n}$ , где $s_{n}=\sum _{k=1}^{r}a_{k}s_{n-k}$ (сигнал, удовлетворяющий LRR) и $e_{n}$ это шум. Модель AR $x_{n}=\sum _{k=1}^{r}a_{k}x_{n-k}+e_{n}$ . Несмотря на то, что эти две модели внешне похожи, они очень разные. SSA рассматривает AR только как компонент шума. AR(1), который представляет собой красный шум, является типичной моделью шума для SSA Монте-Карло (Allen and Smith, 1996).

Спектральный анализ Фурье: В отличие от анализа Фурье с фиксированным базисом функций синуса и косинуса, SSA использует адаптивный базис, генерируемый самим временным рядом. В результате базовая модель SSA является более общей, и SSA может извлекать компоненты синусоидальной волны с амплитудной модуляцией с частотами, отличными от $k/N$ . Методы, связанные с SSA, такие как ESPRIT, могут оценивать частоты с более высоким разрешением, чем спектральный анализ Фурье .

Линейные рекуррентные отношения: Пусть сигнал моделируется рядом, который удовлетворяет линейному рекуррентному соотношению $s_{n}=\sum _{k=1}^{r}a_{k}s_{n-k}$ ; то есть ряд, который можно представить как сумму произведений экспоненциальных, полиномиальных и синусоидальных функций. Сюда входит модель суммы сброса синусоиды, комплексная форма которой равна $s_{n}=\sum _{k}C_{k}\rho _{k}^{n}e^{i2\pi \omega _{k}n}$ . Методы, связанные с SSA, позволяют оценивать частоты $\omega _{k}$ и экспоненциальные факторы $\rho _{k}$ (Голяндина, Жиглявский, 2013, разд. 3.8). Коэффициенты $C_{k}$ можно оценить методом наименьших квадратов . Расширение модели, где $C_{k}$ заменяются полиномами $n$ , также можно рассматривать в рамках методов, связанных с SSA (Badeau et al., 2008).

сигнального подпространства Методы: SSA можно рассматривать как метод, основанный на подпространстве, поскольку он позволяет оценить подпространство сигнала размерности $r$ к $\mathop {\mathrm {span} } (U_{1},\ldots ,U_{r})$ .

Государственные космические модели: Основная модель SSA: $x_{n}=s_{n}+e_{n}$ , где $s_{n}=\sum _{k=1}^{r}a_{k}s_{n-k}$ и $e_{n}$ это шум. Формально эта модель относится к общему классу моделей пространства состояний. Специфика SSA заключается в том, что оценка параметров является задачей второстепенной важности в SSA, а процедуры анализа данных в SSA нелинейны, поскольку основаны на SVD либо траекторной, либо лаг-ковариационной матрицы.

Регрессия: SSA способен извлекать полиномиальные и экспоненциальные тенденции. Однако, в отличие от регрессии, SSA не предполагает какой-либо параметрической модели, которая может дать значительное преимущество, когда исследовательский анализ данных выполняется без очевидной модели (Голяндина и др., 2001, гл.1).

Линейные фильтры: Реконструкцию ряда с помощью SSA можно рассматривать как адаптивную линейную фильтрацию. Если длина окна $L$ мал, то каждый собственный вектор $U_{i}=(u_{1},\ldots ,u_{L})^{\mathrm {T} }$ генерирует линейный фильтр ширины $2L-1$ для реконструкции середины серии ${\widetilde {x}}_{s}$ , $L\leq s\leq K$ . Фильтрация является беспричинной. Однако в качестве причинного фильтра можно использовать так называемый SSA последней точки (Голяндина, Жиглявский 2013, разд. 3.9).

Оценка плотности: Поскольку SSA можно использовать как метод сглаживания данных, его можно использовать и как метод непараметрической оценки плотности (Голяндина и др., 2012).

См. также

Ссылки

^ Аланкари, Арва; Аломар, Абдулла; Шах, Деваврат (2021). «Обнаружение точки изменения с помощью многомерного анализа сингулярного спектра». Достижения в области нейронных систем обработки информации . 34 .

Акаике, Х. (1969): «Подбор моделей авторегрессии для прогнозирования», Ann. Инст. Стат. Матем., 21, 243–247.
Аллен, М.Р. и А.В. Робертсон (1996): «Отличение модулированных колебаний от цветного шума в многомерных наборах данных», Clim. Дин. , 12, 775–784.
Аллен, М.Р. и Л.А. Смит (1996) «SSA Монте-Карло: обнаружение нерегулярных колебаний в присутствии цветного шума». Журнал климата , 9 (12), 3373–3404.
Бадо, Р., Г. Ричард и Б. Дэвид (2008): «Эффективность ESPRIT для оценки смесей комплексных экспонент, модулированных полиномами». Транзакции IEEE по обработке сигналов , 56 (2), 492–504.
Барнетт Т.П. и К. Хассельманн (1979): «Методы линейного прогнозирования с применением к океаническим и атмосферным полям в тропической части Тихого океана», Rev. Geophys., 17, 949–968.
Боззо, Э., Р. Карниел и Д. Фазино (2010): «Связь между анализом сингулярного спектра и анализом Фурье: теория и применение к мониторингу вулканической активности», Comput. Математика. Прил. 60(3), 812–820
Брумхед, Д.С. и Г.П. Кинг (1986a): «Извлечение качественной динамики из экспериментальных данных», Physica D , 20, 217–236.
Брумхед, Д.С. и Г.П. Кинг (1986b): «О качественном анализе экспериментальных динамических систем». Нелинейные явления и хаос , Саркар С. (Ред.), Адам Хилгер, Бристоль, 113–144.
Коулбрук, Дж. М. (1978): «Непрерывные записи планктона: зоопланктон и окружающая среда, Северо-Восточная Атлантика и Северное море», Oceanol. Акта , 1, 9–23.
Данилов Д. и Жиглявский А. (ред.) (1997): Основные компоненты временных рядов: метод «Гусеница» , Издательство Санкт-Петербургского университета. (На русском языке.)
де Карвалью, М., Родригес, ПК и Руа, А. (2012): «Отслеживание делового цикла США с помощью сингулярного спектрального анализа» . Экон. Летт. , 114, 32‒35.
де Карвальо М. и Руа А. (2017): «Прогнозирование разрыва выпуска в США в режиме реального времени: анализ сингулярного спектра в действии» . Межд. Дж. Прогнозирование , 33, 185–198.
Гил М. и Р. Вотард (1991): «Междесятилетние колебания и тенденция потепления во временных рядах глобальной температуры», Nature , 350, 324–327.
Элснер Дж.Б. и Цонис А.А. (1996): Анализ сингулярного спектра. Новый инструмент анализа временных рядов , Plenum Press.
Фредрих, К. (1986) «Оценка размеров погодных и климатических аттракторов». Дж. Атмос. наук. 43, 419–432.
Гил М. и Р. Вотард (1991): «Междесятилетние колебания и тенденция потепления во временных рядах глобальной температуры», Nature , 350, 324–327.
Гил М. и Цзян Н. (1998): «Недавние навыки прогнозирования Эль-Ниньо/Южного колебания», Geophys. Рез. Летт. , 25, 171–174, 1998.
Гил М., Р.М. Аллен, М.Д. Деттингер, К. Иде, Д. Кондрашов и др. (2002) «Расширенные спектральные методы для климатических временных рядов» , Rev. Geophys. 40(1), 3.1–3.41.
Голяндина Н., А. Коробейников и А. Жиглявский (2018): Анализ сингулярного спектра с помощью R . Спрингер Верлаг. ISBN 3662573784 .
Голяндина Н., В. Некруткин и А. Жиглявский (2001): Анализ структуры временных рядов: SSA и связанные с ним методы . Чепмен и Холл/CRC. ISBN 1-58488-194-1 .
Голяндина Н. и Осипов Е. (2007) «Метод Caterpillar-SSA для анализа временных рядов с пропущенными значениями», J. Stat. План. Вывод 137(8), 2642–2653.
Голяндина Н., А. Пепелышев и А. Стеланд (2012): «Новые подходы к непараметрической оценке плотности и выбору параметров сглаживания», Ж. вычисл. Стат. Анал данных. 56(7), 2206–2218.
Голяндина Н. и Степанов Д. (2005): «Подходы на основе SSA к анализу и прогнозированию многомерных временных рядов» . В: Материалы V Петербургского семинара по моделированию, 26 июня – 2 июля 2005 г. , СПбГУ, Санкт-Петербург, С. 293–298.
Голяндина Н. и К. Усевич (2010): «2D-расширение анализа сингулярного спектра: алгоритм и элементы теории». В сб.: Матричные методы: теория, алгоритмы и приложения (под ред. В.Ольшевского и Е.Тыртышникова). Мировое научное издательство, 449–473.
Голяндина Н. и Жиглявский А. (2013) Анализ сингулярного спектра временных рядов . Springer Briefs по статистике, Springer, ISBN 978-3-642-34912-6 .
Грот А., Феликс Ю., Кондрашов Д. и Гил М. (2016): «Межгодовая изменчивость температурного поля Северной Атлантического океана и ее связь с воздействием ветрового стресса», Journal of Climate , doi: 10.1175/jcli-d-16-0370.1 .
Грот А. и М. Гил (2011): «Многомерный анализ сингулярного спектра и путь к фазовой синхронизации», Physical Review E 84, 036206, doi:10.1103/PhysRevE.84.036206 .
Грот, А. и М. Гил (2015): «Возврат к анализу сингулярного спектра Монте-Карло (SSA): обнаружение кластеров осцилляторов в многомерных наборах данных», Journal of Climate , 28, 7873-7893, doi:10.1175/JCLI-D-15 -0100.1 .
Харрис, Т. и Х. Ян (2010): «Фильтрация и частотная интерпретация анализа сингулярного спектра». Физика Д 239, 1958–1967.
Хассани, Х. и Д. Томакос (2010): «Обзор сингулярного спектрального анализа экономических и финансовых временных рядов». Статистика и ее интерфейс 3 (3), 377–397.
Хассани Х., А. Суфи и А. Жиглявский (2011): «Прогнозирование ежедневного обменного курса с помощью сингулярного спектрального анализа». Нелинейный анализ: реальные приложения 11, 2023–2034 гг.
Хассани Х., З. Сюй и А. Жиглявский (2011): «Анализ сингулярного спектра на основе теории возмущений». Нелинейный анализ: реальные приложения 12 (5), 2752-2766.
Хассани Х., С. Херави и А. Жиглявский (2012): «Прогнозирование промышленного производства Великобритании с помощью многомерного анализа сингулярного спектра». Журнал прогнозирования 10.1002/ф.2244
Хассани Х., А. Жиглявский, К. Паттерсон и А. Суфи (2011): «Комплексный тест причинности, основанный на анализе сингулярного спектра». В: Иллари П.М., Руссо Ф., Уильямсон Дж. (ред.) Причинность в науке , 1-е изд., с. 379. Издательство Оксфордского университета, Лондон.
Хассани Х. и Махмудванд Р. (2013). Многомерный сингулярный спектральный анализ: общий вид и новый подход к векторному прогнозированию. Международный журнал энергетики и статистики 1(1), 55-83.
Кеппенн, К.Л. и М. Гил (1993): «Адаптивная фильтрация и прогнозирование зашумленных многомерных сигналов: применение к субгодовой изменчивости атмосферного углового момента», Intl. Дж. Бифуркация и хаос , 3, 625–634.
Кондрашов Д. и М. Гил (2006): «Пространственно-временное заполнение недостающих точек в наборах геофизических данных» , Nonlin. Процессы Геофиз. , 13, 151–159.
Кондрашов Д., Ю. Шприц, М. Гил, 2010: «Заполнение пробелов в данных о солнечном ветре с помощью анализа сингулярного спектра», Geophys. Рез. Летт , 37, L15101,
Мохаммад Ю. и Т. Нишида (2011) «О сравнении алгоритмов обнаружения точек изменения на основе SSA». IEEE SII , 938–945.
Москвина В. и А. Жиглявский (2003) «Алгоритм, основанный на анализе сингулярного спектра для обнаружения точек развала». Коммунальная статистика Simul Comput 32, 319–352.
Некруткин В. (2010) «Разложения сигнальных подпространств по возмущениям для длинных сигналов». Дж. Стат. Интерфейс 3, 297–319.
Паттерсон, К., Х. Хассани, С. Херави и А. Жиглявский (2011) «Многомерный анализ сингулярного спектра для прогнозирования изменений данных в реальном времени». Журнал прикладной статистики 38 (10), 2183–2211.
Пенланд К., Гил М. и Вейкманн К.М. (1991): «Адаптивная фильтрация и спектры максимальной энтропии с применением к изменениям углового момента атмосферы», J. Geophys. Рез. , 96, 22659–22671.
Пиетиля А., М. Эль-Сегайер, Р. Вигарио и Э. Песонен (2006) «Слепое разделение источников сердечных шумов на основе записей сердца». В: Роска Дж. и др. (ред.) Независимый анализ компонентов и слепое разделение сигналов, Конспекты лекций по информатике , том 3889, Springer, стр. 470–477.
Портес, Л.Л. и Агирре, Л.А. (2016): «Формулировка матрицы и алгоритм разложения по сингулярным значениям для структурированного варимаксного вращения в многомерном анализе сингулярного спектра», Physical Review E , 93, 052216, doi:10.1103/PhysRevE.93.052216 .
де Прони, Г. (1795) «Экспериментальная и аналитическая проверка законов расширения упругих жидкостей и законов расширения водяного пара и паров спирта при различных температурах». Ж. де л'Эколь Политехническая школа , 1 (2), 24–76.
Саней С. и Х. Хассани (2015) Анализ сингулярного спектра биомедицинских сигналов . ЦРК Пресс, ISBN 9781466589278 — CAT# K20398.
Шёллхамер, Д. (2001) «Анализ сингулярного спектра временных рядов с отсутствующими данными». Геофиз. Рез. Летт. 28(16), 3187–3190.
Томакос, Д. (2010) «Медианное несмещенное оптимальное сглаживание и тренд. Извлечение». Журнал современных прикладных статистических методов 9,144-159.
Вотард Р. и М. Гил (1989): «Анализ сингулярного спектра в нелинейной динамике с применением к палеоклиматическим временным рядам», Physica D , 35, 395–424.
Вотард Р., Ю П. и М. Гил (1992): «Анализ сингулярного спектра: набор инструментов для коротких зашумленных хаотических сигналов», Physica D , 58, 95-126.
Уир, Б.К. и Дж.Н. Насстром (1982): «Примеры расширенного эмпирического анализа ортогональных функций», Mon. Weather Rev. , 110, 784–812.
Жиглявский А. (приглашенный редактор) (2010) «Специальный выпуск по теории и практике анализа сингулярного спектра временных рядов». Стат. Интерфейс 3(3)

Внешние ссылки

[1] Аланкари, Арва; Аломар, Абдулла; Шах, Деваврат (2021). «Обнаружение точки изменения с помощью многомерного анализа сингулярного спектра». Достижения в области нейронных систем обработки информации . 34 .

[1]