Авторегрессионная модель скользящего среднего

При статистическом анализе временных рядов модели авторегрессии – скользящего среднего ( ARMA ) скользящего обеспечивают экономное описание (слабо) стационарного случайного процесса в терминах двух полиномов: один для авторегрессии (AR), а второй для среднего ( МА). Общая модель ARMA была описана в диссертации Питера Уиттла 1951 года «Проверка гипотез в анализе временных рядов» и была популяризирована в книге 1970 года Джорджа Э. П. Бокса и Гвилима Дженкинса .

Учитывая временной ряд данных $X_{t}$ Модель ARMA является инструментом для понимания и, возможно, прогнозирования будущих значений в этом ряду. Часть AR включает в себя регрессию переменной по ее собственным запаздывающим (т. е. прошлым) значениям. Часть MA включает в себя моделирование ошибки как линейной комбинации ошибок, возникающих одновременно и в разное время в прошлом. Модель обычно называют моделью ARMA( p , q ), где p — порядок части AR, а q — порядок части MA (как определено ниже).

Модели ARMA можно оценить с помощью метода Бокса-Дженкинса .

Авторегрессионная модель

Обозначение AR( p ) относится к авторегрессионной модели порядка p . Модель AR( p ) записывается как

X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}

где $\varphi _{1},\ldots ,\varphi _{p}$ — параметры и случайная величина $\varepsilon _{t}$ — это белый шум , обычно независимые и одинаково распределенные (iid) нормальные случайные величины . ^[1]^[2]

Чтобы модель оставалась стационарной , корни ее характеристического многочлена должны лежать за пределами единичного круга. Например, процессы в модели AR(1) с $|\varphi _{1}|\geq 1$ нестационарны, поскольку корень $1-\varphi _{1}B=0$ лежит внутри единичного круга. ^[3]

ADF оценивает стабильность МВФ и трендовые компоненты. Для стационарных временных рядов используется модель авторегрессионного скользящего среднего (ARMA), а для нестационарных рядов — модели LSTM для получения абстрактных признаков. Окончательное значение получается путем реконструкции прогнозируемых результатов каждого временного ряда.

Модель скользящего среднего

Обозначение MA( q ) относится к модели скользящего среднего порядка q :

X_{t}=\mu +\varepsilon _{t}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}\,

где $\theta _{1},...,\theta _{q}$ параметры модели, $\mu$ это ожидание $X_{t}$ (часто предполагается равным 0), а $\varepsilon _{t}$ , $\varepsilon _{t-1}$ ,... снова являются членами ошибок белого шума, которые обычно являются обычными случайными величинами. ^[4]

Модель АРМА

Обозначение ARMA( p , q ) относится к модели с p терминами авторегрессии и q терминами скользящего среднего. Эта модель содержит модели AR( p ) и MA( q ), ^[5]

X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,

Общая модель ARMA была описана в диссертации 1951 года Питера Уиттла , который использовал математический анализ ( ряды Лорана и анализ Фурье ) и статистический вывод. ^[6]^[7] Модели ARMA были популяризированы книгой 1970 года Джорджа Э.П. Бокса и Дженкинса, которые изложили итерационный метод ( Бокса-Дженкинса ) для их выбора и оценки. Этот метод был полезен для полиномов низкого порядка (третьей степени или меньше). ^[8]

Модель ARMA, по сути, представляет собой фильтр с бесконечной импульсной характеристикой , применяемый к белому шуму, с некоторой дополнительной интерпретацией.

Спецификация с точки зрения оператора задержки

В некоторых текстах модели будут определяться с помощью запаздывания L. оператора В этих терминах модель AR( p ) определяется выражением

\varepsilon _{t}=\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\varphi (L)X_{t}\,

где $\varphi$ представляет полином

\varphi (L)=1-\sum _{i=1}^{p}\varphi _{i}L^{i}.\,

Модель MA( q ) имеет вид

X_{t}-\mu =\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}=\theta (L)\varepsilon _{t},\,

где $\theta$ представляет полином

\theta (L)=1+\sum _{i=1}^{q}\theta _{i}L^{i}.\,

Наконец, комбинированная модель ARMA( p , q ) определяется выражением

\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,,

или более кратко,

\varphi (L)X_{t}=\theta (L)\varepsilon _{t}\,

или

{\frac {\varphi (L)}{\theta (L)}}X_{t}=\varepsilon _{t}\,.

Альтернативные обозначения

Некоторые авторы, в том числе Бокс , Дженкинс и Рейнзель, используют другое соглашение для коэффициентов авторегрессии. ^[9] Это позволяет всем полиномам, включающим оператор задержки, иметь одинаковую форму повсюду. Таким образом, модель ARMA будет записана как

\left(1-\sum _{i=1}^{p}\phi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,.

Более того, начиная суммирование с $i=0$ и настройка $\phi _{0}=-1$ и $\theta _{0}=1$ , то получим еще более элегантную формулировку: $-\sum _{i=0}^{p}\phi _{i}L^{i}\;X_{t}=\sum _{i=0}^{q}\theta _{i}L^{i}\;\varepsilon _{t}\,.$

Альтернативная интерпретация

В цифровой обработке сигналов модель ARMA представлена в виде цифрового фильтра с белым шумом на входе и процессом ARMA на выходе.

Подходящие модели

Выбор p и q

Нахождение подходящих значений p и q в модели ARMA( p , q ) можно облегчить, построив график частичных автокорреляционных функций для оценки p , а также используя автокорреляционные функции для оценки q . Расширенные автокорреляционные функции (EACF) можно использовать для одновременного определения p и q. ^[10] Дополнительную информацию можно получить, рассмотрев те же функции для остатков модели, оснащенной начальным выбором p и q .

Брокуэлл и Дэвис рекомендуют использовать информационный критерий Акаике (AIC) для определения p и q . ^[11] Другим возможным выбором для определения заказа является критерий BIC .

Оценочные коэффициенты

Модели ARMA в целом могут быть после выбора p и q аппроксимированы с помощью регрессии наименьших квадратов , чтобы найти значения параметров, которые минимизируют член ошибки. Обычно считается хорошей практикой находить наименьшие значения p и q , которые обеспечивают приемлемое соответствие данным. Для чистой модели AR уравнения Юла-Уокера для обеспечения соответствия можно использовать .

В отличие от других методов регрессии (например, OLS, 2SLS и т. д.), часто используемых в эконометрическом анализе, результаты модели ARMA используются в основном для случаев прогнозирования данных временных рядов. Их коэффициенты как таковые используются только для прогнозирования. Другие области эконометрики обращают внимание на причинно-следственные связи, а прогнозирование временных рядов с использованием ARMA — нет. В таком случае коэффициенты следует рассматривать только как полезные для прогнозного моделирования.

Реализации в пакетах статистики

В R функция arima (в стандартном пакете stats ) описана в ARIMA Modeling of Time Series . В пакете astsa имеется улучшенный сценарий sarima для подгонки моделей ARMA (сезонных и несезонных), а также sarima.sim для моделирования данных из этих моделей. Пакеты расширения содержат связанные и расширенные функциональные возможности, например, пакет tseries включает функцию Arma , описанную в разделе «Подгонка моделей ARMA к временным рядам» ; пакет fracdiff для содержит fracdiff() частично интегрированных процессов ARMA; а прогноза пакет включает auto.arima для выбора экономного набора p,q . Представление задачи CRAN в временных рядах содержит ссылки на большинство из них.
Mathematica имеет полную библиотеку функций временных рядов, включая ARMA. ^[12]
MATLAB включает в себя такие функции, как Arma , ar и arx для оценки моделей AR, ARX (ауторегрессионная экзогенная модель) и ARMAX. см. в разделе System Identification Toolbox и Econometrics Toolbox . Дополнительную информацию
У Джулии управляемых сообществом, которые реализуют адаптацию к модели ARMA, например, Arma.jl. есть несколько пакетов ,
Модуль Python Statsmodels включает в себя множество моделей и функций для анализа временных рядов, включая ARMA. Ранее являвшаяся частью библиотеки scikit-learn , теперь она является автономной и хорошо интегрируется с Pandas . Подробнее см. здесь .
PyFlux имеет реализацию моделей ARIMAX на основе Python, включая байесовские модели ARIMAX.
Числовые библиотеки IMSL — это библиотеки функций численного анализа, включая процедуры ARMA и ARIMA, реализованные на стандартных языках программирования, таких как C, Java, C# .NET и Fortran.
gretl также может оценить модель ARMA, см. здесь, где она упоминается .
GNU Octave может оценивать модели AR, используя функции из дополнительного пакета Octave-forge .
Stata включает функцию arima ARMA и ARIMA , которая может оценивать модели . Подробнее см. здесь .
SuanShu — это Java-библиотека численных методов, включающая комплексные статистические пакеты, в которых одномерные/многомерные модели ARMA, ARIMA, ARMAX и т. д. реализуются в объектно-ориентированном подходе. Эти реализации описаны в «SuanShu, числовой и статистической библиотеке Java» .
У SAS есть эконометрический пакет ETS, который оценивает модели ARIMA. Подробнее см. здесь .

Спектр

Спектральная плотность процесса ARMA равна $S(f)={\frac {\sigma ^{2}}{2\pi }}\left\vert {\frac {\theta (e^{-if})}{\phi (e^{-if})}}\right\vert ^{2}$ где $\sigma ^{2}$ это дисперсия белого шума, $\theta$ - характеристический полином части скользящего среднего модели ARMA, и $\phi$ – характеристический полином авторегрессионной части модели ARMA. ^[13]^[14]

Приложения

ARMA подходит, когда система является функцией серии ненаблюдаемых потрясений (MA или скользящей средней), а также ее собственного поведения. Например, цены на акции могут быть шокированы фундаментальной информацией, а также проявлением технических тенденций и эффектов возврата к среднему значению по вине участников рынка. ^{[ нужна ссылка ]}

Обобщения

Зависимость $X_{t}$ на прошлых значениях, а члены ошибок ε _t считаются линейными, если не указано иное. Если зависимость нелинейная, модель называется моделью нелинейного скользящего среднего (NMA), нелинейной авторегрессии (NAR) или моделью нелинейной авторегрессии-скользящего среднего (NARMA).

Модели авторегрессии – скользящего среднего можно обобщить и другими способами. См. также авторегрессионной условной гетероскедастичности модели авторегрессионного интегрированного скользящего среднего (ARCH) и модели (ARIMA). Если необходимо подобрать несколько временных рядов, можно подобрать векторную модель ARIMA (или VARIMA). Если рассматриваемый временной ряд обладает длинной памятью, тогда может подойти дробное моделирование ARIMA (FARIMA, иногда называемое ARFIMA): см. Авторегрессионное дробно-интегрированное скользящее среднее . Если предполагается, что данные содержат сезонные эффекты, их можно смоделировать с помощью модели SARIMA (сезонная ARIMA) или периодической модели ARMA.

Еще одним обобщением является модель многомасштабной авторегрессии (MAR). Модель MAR индексируется по узлам дерева, тогда как стандартная (с дискретным временем) авторегрессионная модель индексируется целыми числами.

Обратите внимание, что модель ARMA является одномерной моделью. Расширениями для многомерного случая являются векторная авторегрессия (VAR) и скользящее среднее векторной авторегрессии (VARMA).

Модель авторегрессии – скользящего среднего с моделью экзогенных входных данных (модель ARMAX)

Обозначение ARMAX( p , q , b ) относится к модели с p терминами авторегрессии, q терминами скользящего среднего и b терминами экзогенных входов. Эта модель содержит модели AR( p ) и MA( q ) и линейную комбинацию последних b членов известного и внешнего временного ряда. $d_{t}$ . Его дают:

X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}+\sum _{i=1}^{b}\eta _{i}d_{t-i}.\,

где $\eta _{1},\ldots ,\eta _{b}$ параметры входа экзогенного $d_{t}$ .

Были определены некоторые нелинейные варианты моделей с экзогенными переменными: см., например, Нелинейная авторегрессионная экзогенная модель .

Статистические пакеты реализуют модель ARMAX за счет использования «экзогенных» (то есть независимых) переменных. Необходимо соблюдать осторожность при интерпретации выходных данных этих пакетов, поскольку обычно оцениваемые параметры (например, в R ^[15] и gretl ) относятся к регрессии:

X_{t}-m_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}(X_{t-i}-m_{t-i})+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,

где $m_{t}$ включает все экзогенные (или независимые) переменные:

m_{t}=c+\sum _{i=0}^{b}\eta _{i}d_{t-i}.\,

См. также

Ссылки

^ Бокс, Джордж EP (1994). Анализ временных рядов: прогнозирование и контроль . Гвилим М. Дженкинс, Грегори К. Рейнсель (3-е изд.). Энглвуд Клиффс, Нью-Джерси: Прентис Холл. п. 54. ИСБН 0-13-060774-6 . OCLC 28888762 .
^ Шамуэй, Роберт Х. (2000). Анализ временных рядов и его приложения . Дэвид С. Стоффер. Нью-Йорк: Спрингер. стр. 90–91. ISBN 0-387-98950-1 . OCLC 42392178 .
^ Бокс, Джордж Э.П.; Дженкинс, Гвилим М.; Рейнзель, Грегори К. (1994). Анализ временных рядов: прогнозирование и контроль (3-е изд.). Энглвуд Клиффс, Нью-Джерси: Прентис Холл. стр. 54–55. ISBN 0-13-060774-6 . OCLC 28888762 .
^ Бокс, Джордж Э.П.; Дженкинс, Гвилим М.; Рейнзель, Грегори К.; Люнг, Грета М. (2016). Анализ временных рядов: прогнозирование и контроль (5-е изд.). Хобокен, Нью-Джерси: John Wiley & Sons, Incorporated. п. 53. ИСБН 978-1-118-67492-5 . OCLC 908107438 .
^ Шамуэй, Роберт Х. (2000). Анализ временных рядов и его приложения . Дэвид С. Стоффер. Нью-Йорк: Спрингер. п. 98. ИСБН 0-387-98950-1 . OCLC 42392178 .
^ Ханнан, Эдвард Джеймс (1970). Несколько временных рядов . Ряды Вили по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.
^ Уиттл, П. (1951). Проверка гипотез при анализе временных рядов . Альмквист и Викселль. Уиттл, П. (1963). Прогнозирование и регулирование . Издательство английских университетов. ISBN 0-8166-1147-5 .
Переиздано как: Уиттл, П. (1983). Прогнозирование и регулирование линейными методами наименьших квадратов . Университет Миннесоты Пресс. ISBN 0-8166-1148-3 .
^ Ханнан и Дейстлер (1988 , стр. 227): Ханнан, Э.Дж .; Дейстлер, Манфред (1988). Статистическая теория линейных систем . Ряды Вили по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.
^ Бокс, Джордж; Дженкинс, Гвилим М.; Рейнзель, Грегори К. (1994). Анализ временных рядов: прогнозирование и контроль (Третье изд.). Прентис-Холл. ISBN 0130607746 .
^ Государственный университет Миссури. «Спецификация модели, анализ временных рядов» (PDF) .
^ Брокуэлл, П.Дж.; Дэвис, РА (2009). Временные ряды: теория и методы (2-е изд.). Нью-Йорк: Спрингер. п. 273. ИСБН 9781441903198 .
↑ Функции временных рядов в Mathematica. Архивировано 24 ноября 2011 г. в Wayback Machine.
^ Розенблатт, Мюррей (2000). Гауссовы и негауссовы линейные временные ряды и случайные поля . Нью-Йорк: Спрингер. п. 10. ISBN 0-387-98917-Х . ОСЛК 42061096 .
^ Вэй, Уильям WS (1990). Анализ временных рядов: одномерные и многомерные методы . Редвуд-Сити, Калифорния: Паб Addison-Wesley. стр. 242–243. ISBN 0-201-15911-2 . OCLC 18166355 .
^ ARIMA Моделирование временных рядов , документация R

Дальнейшее чтение

Миллс, Теренс К. (1990). Методы временных рядов для экономистов . Издательство Кембриджского университета. ISBN 0521343399 .
Персиваль, Дональд Б.; Уолден, Эндрю Т. (1993). Спектральный анализ для физических приложений . Издательство Кембриджского университета. ISBN 052135532X .
Франк, К.; Закоян, Ж.-М. (2005), «Недавние результаты для моделей линейных временных рядов с ненезависимыми инновациями», Дюшен, П.; Ремиллард, Б. (ред.), Статистическое моделирование и анализ сложных проблем с данными , Springer, стр. 241–265, CiteSeerX 10.1.1.721.1754 .
Шамуэй, Р.Х. и Стоффер, Д.С. (2017). Анализ временных рядов и его применение на примерах R. Спрингер. DOI: 10.1007/978-3-319-52452-8.

[1] Бокс, Джордж EP (1994). Анализ временных рядов: прогнозирование и контроль . Гвилим М. Дженкинс, Грегори К. Рейнсель (3-е изд.). Энглвуд Клиффс, Нью-Джерси: Прентис Холл. п. 54. ИСБН 0-13-060774-6 . OCLC 28888762 .

[2] Шамуэй, Роберт Х. (2000). Анализ временных рядов и его приложения . Дэвид С. Стоффер. Нью-Йорк: Спрингер. стр. 90–91. ISBN 0-387-98950-1 . OCLC 42392178 .

[3] Бокс, Джордж Э.П.; Дженкинс, Гвилим М.; Рейнзель, Грегори К. (1994). Анализ временных рядов: прогнозирование и контроль (3-е изд.). Энглвуд Клиффс, Нью-Джерси: Прентис Холл. стр. 54–55. ISBN 0-13-060774-6 . OCLC 28888762 .

[4] Бокс, Джордж Э.П.; Дженкинс, Гвилим М.; Рейнзель, Грегори К.; Люнг, Грета М. (2016). Анализ временных рядов: прогнозирование и контроль (5-е изд.). Хобокен, Нью-Джерси: John Wiley & Sons, Incorporated. п. 53. ИСБН 978-1-118-67492-5 . OCLC 908107438 .

[5] Шамуэй, Роберт Х. (2000). Анализ временных рядов и его приложения . Дэвид С. Стоффер. Нью-Йорк: Спрингер. п. 98. ИСБН 0-387-98950-1 . OCLC 42392178 .

[6] Ханнан, Эдвард Джеймс (1970). Несколько временных рядов . Ряды Вили по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.

[7] Уиттл, П. (1951). Проверка гипотез при анализе временных рядов . Альмквист и Викселль. Уиттл, П. (1963). Прогнозирование и регулирование . Издательство английских университетов. ISBN 0-8166-1147-5 .
Переиздано как: Уиттл, П. (1983). Прогнозирование и регулирование линейными методами наименьших квадратов . Университет Миннесоты Пресс. ISBN 0-8166-1148-3 .

[8] Ханнан и Дейстлер (1988 , стр. 227): Ханнан, Э.Дж .; Дейстлер, Манфред (1988). Статистическая теория линейных систем . Ряды Вили по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.

[9] Бокс, Джордж; Дженкинс, Гвилим М.; Рейнзель, Грегори К. (1994). Анализ временных рядов: прогнозирование и контроль (Третье изд.). Прентис-Холл. ISBN 0130607746 .

[10] Государственный университет Миссури. «Спецификация модели, анализ временных рядов» (PDF) .

[11] Брокуэлл, П.Дж.; Дэвис, РА (2009). Временные ряды: теория и методы (2-е изд.). Нью-Йорк: Спрингер. п. 273. ИСБН 9781441903198 .

[12] Функции временных рядов в Mathematica. Архивировано 24 ноября 2011 г. в Wayback Machine.

[13] Розенблатт, Мюррей (2000). Гауссовы и негауссовы линейные временные ряды и случайные поля . Нью-Йорк: Спрингер. п. 10. ISBN 0-387-98917-Х . ОСЛК 42061096 .

[14] Вэй, Уильям WS (1990). Анализ временных рядов: одномерные и многомерные методы . Редвуд-Сити, Калифорния: Паб Addison-Wesley. стр. 242–243. ISBN 0-201-15911-2 . OCLC 18166355 .

[R.stats.arima-15] ARIMA Моделирование временных рядов , документация R

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

v т и Случайные процессы
Discrete time	Bernoulli process Branching process Chinese restaurant process Galton–Watson process Independent and identically distributed random variables Markov chain Moran process Random walk Loop-erased Self-avoiding Biased Maximal entropy
Continuous time	Additive process Bessel process Birth–death process pure birth Brownian motion Bridge Excursion Fractional Geometric Meander Cauchy process Contact process Continuous-time random walk Cox process Diffusion process Dyson Brownian motion Empirical process Feller process Fleming–Viot process Gamma process Geometric process Hawkes process Hunt process Interacting particle systems Itô diffusion Itô process Jump diffusion Jump process Lévy process Local time Markov additive process McKean–Vlasov process Ornstein–Uhlenbeck process Poisson process Compound Non-homogeneous Schramm–Loewner evolution Semimartingale Sigma-martingale Stable process Superprocess Telegraph process Variance gamma process Wiener process Wiener sausage
Both	Branching process Gaussian process Hidden Markov model (HMM) Markov process Martingale Differences Local Sub- Super- Random dynamical system Regenerative process Renewal process Stochastic chains with memory of variable length White noise
Fields and other	Dirichlet process Gaussian random field Gibbs measure Hopfield model Ising model Potts model Boolean network Markov random field Percolation Pitman–Yor process Point process Cox Poisson Random field Random graph
Time series models	Autoregressive conditional heteroskedasticity (ARCH) model Autoregressive integrated moving average (ARIMA) model Autoregressive (AR) model Autoregressive–moving-average (ARMA) model Generalized autoregressive conditional heteroskedasticity (GARCH) model Moving-average (MA) model
Financial models	Binomial options pricing model Black–Derman–Toy Black–Karasinski Black–Scholes Chan–Karolyi–Longstaff–Sanders (CKLS) Chen Constant elasticity of variance (CEV) Cox–Ingersoll–Ross (CIR) Garman–Kohlhagen Heath–Jarrow–Morton (HJM) Heston Ho–Lee Hull–White Korn-Kreer-Lenssen LIBOR market Rendleman–Bartter SABR volatility Vašíček Wilkie
Actuarial models	Bühlmann Cramér–Lundberg Risk process Sparre–Anderson
Queueing models	Bulk Fluid Generalized queueing network M/G/1 M/M/1 M/M/c
Properties	Càdlàg paths Continuous Continuous paths Ergodic Exchangeable Feller-continuous Gauss–Markov Markov Mixing Piecewise-deterministic Predictable Progressively measurable Self-similar Stationary Time-reversible
Limit theorems	Central limit theorem Donsker's theorem Doob's martingale convergence theorems Ergodic theorem Fisher–Tippett–Gnedenko theorem Large deviation principle Law of large numbers (weak/strong) Law of the iterated logarithm Maximal ergodic theorem Sanov's theorem Zero–one laws (Blumenthal, Borel–Cantelli, Engelbert–Schmidt, Hewitt–Savage, Kolmogorov, Lévy)
Inequalities	Burkholder–Davis–Gundy Doob's martingale Doob's upcrossing Kunita–Watanabe Marcinkiewicz–Zygmund
Tools	Cameron–Martin formula Convergence of random variables Doléans-Dade exponential Doob decomposition theorem Doob–Meyer decomposition theorem Doob's optional stopping theorem Dynkin's formula Feynman–Kac formula Filtration Girsanov theorem Infinitesimal generator Itô integral Itô's lemma Karhunen–Loève theorem Kolmogorov continuity theorem Kolmogorov extension theorem Lévy–Prokhorov metric Malliavin calculus Martingale representation theorem Optional stopping theorem Prokhorov's theorem Quadratic variation Reflection principle Skorokhod integral Skorokhod's representation theorem Skorokhod space Snell envelope Stochastic differential equation Tanaka Stopping time Stratonovich integral Uniform integrability Usual hypotheses Wiener space Classical Abstract
Disciplines	Actuarial mathematics Control theory Econometrics Ergodic theory Extreme value theory (EVT) Large deviations theory Mathematical finance Mathematical statistics Probability theory Queueing theory Renewal theory Ruin theory Signal processing Statistics Stochastic analysis Time series analysis Machine learning
List of topics Category