Случайный процесс

Компьютерная симуляция процесса винеровского или броуновского движения на поверхности сферы. Винеровский процесс широко считается наиболее изученным и центральным случайным процессом в теории вероятностей.

В теории вероятностей и смежных областях стохастический ( / s t ə ˈ k æ s t ɪ k / ) или случайный процесс — это математический объект, обычно определяемый как последовательность в случайных величин вероятностном пространстве , где индекс последовательности часто имеет интерпретацию времени . Случайные процессы широко используются в качестве математических моделей систем и явлений, которые изменяются случайным образом. Примеры включают рост бактериальной популяции, электрического тока колебания из-за теплового шума или движение газа молекулы . Случайные процессы находят применение во многих дисциплинах, таких как биология , химия , экология , неврология , физика , обработка изображений , обработка сигналов , теория управления , теория информации , Информатика , и телекоммуникации . Более того, кажущиеся случайными изменения на финансовых рынках стимулировали широкое использование случайных процессов в финансах .

Применение и изучение явлений, в свою очередь, вдохновили на предложение новых случайных процессов. Примеры таких стохастических процессов включают винеровский процесс или процесс броуновского движения. использовался Луи Башелье для изучения изменений цен на Парижской бирже , и процесс Пуассона , использованный А. К. Эрлангом для изучения количества телефонных звонков, происходящих за определенный период времени. Эти два случайных процесса считаются наиболее важными и центральными в теории случайных процессов. и изобретались неоднократно и независимо, как до, так и после Башелье и Эрланга, в разных условиях и странах.

Термин случайная функция также используется для обозначения стохастического или случайного процесса. потому что случайный процесс также можно интерпретировать как случайный элемент в функциональном пространстве . Термины «случайный процесс» и «случайный процесс» используются как взаимозаменяемые, часто без специального математического пространства для набора, индексирующего случайные величины. Но часто эти два термина используются, когда случайные величины индексируются целыми числами или интервалом реальной строки . Если случайные величины индексируются декартовой плоскостью более высокой размерности или каким-либо евклидовым пространством , то совокупность случайных величин обычно вместо этого называется случайным полем . Значения случайного процесса не всегда являются числами и могут быть векторами или другими математическими объектами.

На основе своих математических свойств случайные процессы можно сгруппировать в различные категории, к которым относятся случайные блуждания , мартингалы , Марковские процессы , Процессы Леви , Гауссовы процессы , случайные поля, процессы обновления и ветвящиеся процессы . При изучении случайных процессов используются математические знания и методы теории вероятностей , исчисления , линейной алгебры , теории множеств и топологии. а также разделы математического анализа , такие как реальный анализ , теория меры , анализ Фурье и функциональный анализ . Теория случайных процессов считается важным вкладом в математику. и это продолжает оставаться активной темой исследований как по теоретическим причинам, так и по приложениям.

Введение

Стохастический или случайный процесс можно определить как набор случайных величин, индексированных некоторым математическим набором, что означает, что каждая случайная величина случайного процесса однозначно связана с элементом в наборе. Набор, используемый для индексации случайных величин, называется набором индексов . Исторически набор индексов представлял собой некоторое подмножество реальной линии , например натуральные числа , что давало набору индексов интерпретацию времени. Каждая случайная переменная в коллекции принимает значения из одного и того же математического пространства, известного как пространство состояний . Этим пространством состояний могут быть, например, целые числа, действительная строка или $n$-мерное евклидово пространство. Приращение — это величина, на которую случайный процесс изменяется между двумя значениями индекса, часто интерпретируемыми как два момента времени. Стохастический процесс может иметь множество исходов из-за своей случайности, а один результат случайного процесса называется, среди прочего, выборочной функцией или реализацией .

Одна смоделированная на компьютере выборочная функция или реализация , среди прочего, трехмерного процесса винеровского или броуновского движения для времени 0 ≤ t ≤ 2. Набор индексов этого стохастического процесса представляет собой неотрицательные числа, а его пространство состояний представляет собой трехмерное евклидово пространство.

Классификации

Случайный процесс можно классифицировать по-разному, например, по пространству состояний, набору индексов или зависимости между случайными величинами. Один из распространенных способов классификации — по мощности набора индексов и пространству состояний.

При интерпретации как времени, если набор индексов случайного процесса имеет конечное или счетное число элементов, таких как конечный набор чисел, набор целых чисел или натуральных чисел, то случайный процесс называется дискретным . время . Если набор индексов представляет собой некоторый интервал реальной прямой, то время называется непрерывным . Два типа случайных процессов называются соответственно случайными процессами с дискретным и непрерывным временем . Стохастические процессы с дискретным временем считаются более простыми для изучения, поскольку процессы с непрерывным временем требуют более совершенных математических методов и знаний, особенно из-за несчетности набора индексов. Если набор индексов представляет собой целые числа или некоторое их подмножество, то случайный процесс также можно назвать случайной последовательностью .

Если пространство состояний представляет собой целые или натуральные числа, то случайный процесс называется дискретным или целочисленным случайным процессом . Если пространство состояний представляет собой действительную линию, то случайный процесс называется случайным процессом с действительным знаком или процессом с непрерывным пространством состояний . Если пространство состояний $n$-мерного евклидова пространства, то случайный процесс называется $n$- размерный векторный процесс или $n$- векторный процесс .

Этимология

Слово «стохастический» в английском языке первоначально использовалось как прилагательное с определением «относящийся к предположению» и произошло от греческого слова, означающего «нацеливаться на отметку, угадывать», а Оксфордский словарь английского языка называет 1662 год самым ранним появлением этого слова. . В своей работе о вероятности Ars Conjectandi , первоначально опубликованной на латыни в 1713 году, Якоб Бернулли использовал фразу «Ars Conjectandi sive Stochastice», которая переводится как «искусство предположения или стохастика». Эту фразу по отношению к Бернулли использовал Ладислав Борткевич. который в 1917 году написал по-немецки слово сточастик , означающее случайный. Термин «стохастический процесс» впервые появился на английском языке в статье Джозефа Дуба в 1934 году . Что касается этого термина и конкретного математического определения, Дуб процитировал другую статью 1934 года, где термин стохастический процесс использовался на немецком языке Александром Хинчиным : хотя немецкий термин использовался и раньше, например, Андреем Колмогоровым в 1931 году.

Согласно Оксфордскому словарю английского языка, раннее появление слова «случайный» в английском языке в его нынешнем значении, которое относится к случайности или удаче, относится к 16 веку, в то время как более ранние зарегистрированные случаи использования начались в 14 веке как существительное, означающее «стремительность». большая скорость, сила или насилие (при езде, беге, ударах и т. д.)». Само слово происходит от среднефранцузского слова, означающего «скорость, поспешность», и, вероятно, происходит от французского глагола, означающего «бежать» или «скакать». Первое письменное появление термина « случайный процесс» предшествовало стохастическому процессу , который Оксфордский словарь английского языка также дает в качестве синонима и использовался в статье Фрэнсиса Эджворта, опубликованной в 1888 году.

Терминология

Определение случайного процесса различается. но случайный процесс традиционно определяется как набор случайных величин, индексированных некоторым набором. Термины «случайный процесс» и «случайный процесс» считаются синонимами и используются как взаимозаменяемые, без точного указания набора индексов. Обе «сборники», или «семья» используются при этом вместо "набор индексов" иногда употребляется термин "набор параметров" или «пространство параметров» используются.

Термин случайная функция также используется для обозначения стохастического или случайного процесса. хотя иногда он используется только тогда, когда случайный процесс принимает реальные значения. Этот термин также используется, когда наборы индексов представляют собой математические пространства, отличные от реальной линии. тогда как термины «стохастический процесс» и «случайный процесс» обычно используются, когда набор индексов интерпретируется как время, и другие термины используются, такие как случайное поле , когда набор индексов $n$-мерное евклидово пространство $\mathbb {R} ^{n}$ или многообразие .

Обозначения

Случайный процесс можно обозначить, среди прочего, через $\{X(t)\}_{t\in T}$, $\{X_{t}\}_{t\in T}$, $\{X_{t}\}$ $\{X(t)\}$ или просто как $X$. Некоторые авторы ошибочно пишут $X(t)$ даже несмотря на то, что это злоупотребление обозначениями функций . Например, $X(t)$ или $X_{t}$ используются для обозначения случайной величины с индексом $t$, а не весь стохастический процесс. Если набор индексов $T=[0,\infty )$, то можно написать, например, $(X_{t},t\geq 0)$ для обозначения стохастического процесса.

Примеры

Процесс Бернулли

Основная статья: Процесс Бернулли

Одним из простейших случайных процессов является процесс Бернулли . которая представляет собой последовательность независимых и одинаково распределенных (iid) случайных величин, где каждая случайная величина принимает значение либо единицы, либо нуля, скажем, единицы с вероятностью $p$ и ноль с вероятностью $1-p$. Этот процесс можно связать с идеализацией многократного подбрасывания монеты, где вероятность выпадения орла считается равной $p$ и его значение равно единице, а значение хвоста равно нулю. Другими словами, процесс Бернулли представляет собой последовательность iid случайных величин Бернулли, где каждый идеализированный подброс монеты является примером испытания Бернулли .

Случайное блуждание

Основная статья: Случайное блуждание

Случайные блуждания — это случайные процессы, которые обычно определяются как суммы случайных величин или случайных векторов в евклидовом пространстве, поэтому это процессы, которые изменяются в дискретном времени. Но некоторые также используют этот термин для обозначения процессов, которые изменяются в непрерывном времени. особенно процесс Винера, используемый в финансовых моделях, что привело к некоторой путанице, что привело к его критике. Существуют и другие типы случайных блужданий, определенные таким образом, что их пространства состояний могут быть другими математическими объектами, такими как решетки и группы, и в целом они хорошо изучены и имеют множество приложений в разных дисциплинах.

Классический пример случайного блуждания известен как простое случайное блуждание , которое представляет собой стохастический процесс в дискретном времени с целыми числами в качестве пространства состояний и основан на процессе Бернулли, где каждая переменная Бернулли принимает либо положительное значение, либо значение. отрицательный. Другими словами, простое случайное блуждание происходит над целыми числами, и его значение увеличивается на единицу с вероятностью, скажем, $p$, или уменьшается на единицу с вероятностью $1-p$, поэтому набор индексов этого случайного блуждания представляет собой натуральные числа, а его пространство состояний — целые числа. Если $p=0.5$такое случайное блуждание называется симметричным случайным блужданием.

Винеровский процесс

Основная статья: Винеровский процесс

Винеровский процесс — это стохастический процесс со стационарными и независимыми приращениями , которые обычно распределяются в зависимости от размера приращений. Винеровский процесс назван в честь Норберта Винера , который доказал его математическое существование, но этот процесс также называют процессом броуновского движения или просто броуновским движением из-за его исторической связи в качестве модели броуновского движения в жидкостях.

Реализации винеровских процессов (или процессов броуновского движения) со сносом ( синий ) и без сноса ( красный )

Винеровский процесс, играющий центральную роль в теории вероятностей, часто считается наиболее важным и изученным случайным процессом, связанным с другими случайными процессами. Его набор индексов и пространство состояний представляют собой неотрицательные и действительные числа соответственно, поэтому он имеет как непрерывный набор индексов, так и пространство состояний. Но процесс можно определить более широко, чтобы его пространство состояний можно было $n$-мерное евклидово пространство. Если среднее значение любого приращения равно нулю, то говорят, что результирующий процесс винеровского или броуновского движения имеет нулевой дрейф. Если среднее приращение для любых двух моментов времени равно разнице во времени, умноженной на некоторую константу $\mu$, которое является действительным числом, то говорят, что результирующий случайный процесс имеет дрейф $\mu$.

Почти наверняка образец пути винеровского процесса непрерывен всюду, но нигде не дифференцируем . Его можно рассматривать как непрерывную версию простого случайного блуждания. Этот процесс возникает как математический предел других случайных процессов, таких как определенные случайные блуждания, измененные масштабы, что является предметом теоремы Донскера или принципа инвариантности, также известного как функциональная центральная предельная теорема.

Процесс Винера является членом некоторых важных семейств случайных процессов, включая процессы Маркова, процессы Леви и процессы Гаусса. Этот процесс также имеет множество приложений и является основным стохастическим процессом, используемым в стохастическом исчислении. Он играет центральную роль в количественных финансах, где он используется, например, в модели Блэка–Шоулза–Мертона. Этот процесс также используется в различных областях, включая большинство естественных наук, а также в некоторых областях социальных наук, в качестве математической модели различных случайных явлений.

Пуассоновский процесс

Основная статья: Процесс Пуассона

Процесс Пуассона — это случайный процесс, имеющий разные формы и определения. Его можно определить как процесс подсчета, который представляет собой стохастический процесс, представляющий случайное количество точек или событий с точностью до некоторого времени. Число точек процесса, находящихся в интервале от нуля до некоторого заданного времени, является пуассоновской случайной величиной, зависящей от этого времени и некоторого параметра. Этот процесс имеет натуральные числа в качестве пространства состояний и неотрицательные числа в качестве набора индексов. Этот процесс также называют процессом счета Пуассона, поскольку его можно интерпретировать как пример процесса счета.

Если процесс Пуассона определен с единственной положительной константой, то этот процесс называется однородным процессом Пуассона. Однородный процесс Пуассона является членом важных классов случайных процессов, таких как процессы Маркова и процессы Леви.

Однородный процесс Пуассона можно определить и обобщить по-разному. Его можно определить так, чтобы его набор индексов представлял собой действительную линию, и этот случайный процесс также называется стационарным процессом Пуассона. Если константу параметра процесса Пуассона заменить некоторой неотрицательной интегрируемой функцией $t$, результирующий процесс называется неоднородным или неоднородным пуассоновским процессом, где средняя плотность точек процесса перестает быть постоянной. Являясь фундаментальным процессом в теории массового обслуживания, процесс Пуассона является важным процессом для математических моделей, где он находит применение для моделей событий, случайно происходящих в определенных временных окнах.

Определённый на действительной линии, процесс Пуассона можно интерпретировать как случайный процесс, среди других случайных объектов. Но тогда это можно определить на $n$-мерное евклидово пространство или другие математические пространства, где его часто интерпретируют как случайный набор или случайную меру подсчета, а не как случайный процесс. В этом контексте процесс Пуассона, также называемый точечным процессом Пуассона, является одним из наиболее важных объектов теории вероятностей как по прикладным, так и по теоретическим причинам. Но было замечено, что процессу Пуассона не уделяется столько внимания, сколько следовало бы, отчасти потому, что его часто рассматривают именно на действительной линии, а не на других математических пространствах.

Определения

Случайный процесс

Случайный процесс определяется как набор случайных величин, определенных в общем вероятностном пространстве. $(\Omega ,{\mathcal {F}},P)$, где $\Omega$ это демонстрационное пространство , ${\mathcal {F}}$ это $\sigma$- алгебра и $P$ — вероятностная мера ; и случайные величины, индексированные некоторым набором $T$, все принимают значения в одном и том же математическом пространстве $S$, которое должно быть измеримо относительно некоторого $\sigma$-алгебра $\Sigma$.

Другими словами, для данного вероятностного пространства $(\Omega ,{\mathcal {F}},P)$ и измеримое пространство $(S,\Sigma )$, случайный процесс – это совокупность $S$-значные случайные величины, которые можно записать как:

$\{X(t):t\in T\}.$

Исторически сложилось так, что во многих задачах естествознания существует точка $t\in T$ имело значение времени, поэтому $X(t)$ это случайная величина, представляющая значение, наблюдаемое в данный момент $t$. Случайный процесс можно также записать как $\{X(t,\omega ):t\in T\}$ чтобы отразить, что на самом деле это функция двух переменных, $t\in T$ и $\omega \in \Omega$.

Существуют и другие способы рассмотрения случайного процесса, причем приведенное выше определение считается традиционным. Например, случайный процесс можно интерпретировать или определить как $S^{T}$-значная случайная величина, где $S^{T}$ — пространство всех возможных функций из множества $T$ в космос $S$. Однако это альтернативное определение как «случайной величины с функциональным значением» в целом требует четкого определения дополнительных предположений о регулярности.

Набор индексов

Набор $T$ называется набором индексов или набор параметров стохастического процесса. Часто этот набор представляет собой некоторое подмножество действительной прямой , например натуральные числа или интервал, дающие набор $T$ интерпретация времени. Помимо этих наборов, индексный набор $T$ может быть другой набор с полным порядком или более общий набор, например, декартова плоскость $\mathbb {R} ^{2}$ или $n$-мерное евклидово пространство, где элемент $t\in T$ может представлять точку в пространстве. При этом многие результаты и теоремы возможны только для случайных процессов с полностью упорядоченным набором индексов.

Государственное пространство

Математическое пространство $S$ случайного процесса называется пространством его состояний . Это математическое пространство можно определить с помощью целых чисел , вещественных линий , $n$-мерные евклидовы пространства , комплексные плоскости или более абстрактные математические пространства. Пространство состояний определяется с использованием элементов, отражающих различные значения, которые может принимать случайный процесс.

Пример функции

Выборочная функция — это единственный результат случайного процесса, поэтому она формируется путем принятия единственного возможного значения каждой случайной величины случайного процесса. Точнее, если $\{X(t,\omega ):t\in T\}$ является случайным процессом, то для любой точки $\omega \in \Omega$, отображение

$X(\cdot ,\omega ):T\rightarrow S,$

называется выборочной функцией, реализацией или, особенно когда $T$ интерпретируется как время, образец пути случайного процесса $\{X(t,\omega ):t\in T\}$. Это означает, что для фиксированного $\omega \in \Omega$существует пример функции, которая отображает набор индексов $T$ в пространство состояний $S$. Другие названия выборочной функции случайного процесса включают траекторию , функцию пути. или путь .

Приращение

Приращение случайного процесса — это разница между двумя случайными величинами одного и того же случайного процесса. Для случайного процесса с набором индексов, который можно интерпретировать как время, приращение — это то, насколько сильно изменяется случайный процесс за определенный период времени. Например, если $\{X(t):t\in T\}$ это случайный процесс с пространством состояний $S$ и набор индексов $T=[0,\infty )$, то для любых двух неотрицательных чисел $t_{1}\in [0,\infty )$ и $t_{2}\in [0,\infty )$ такой, что $t_{1}\leq t_{2}$, разница $X_{t_{2}}-X_{t_{1}}$ это $S$-значная случайная величина, известная как приращение. Когда интересуются приращениями, часто пространство состояний $S$ это действительная линия или натуральные числа, но это может быть $n$-мерное евклидово пространство или более абстрактные пространства, такие как банаховы пространства .

Дальнейшие определения

Закон

Для случайного процесса $X\colon \Omega \rightarrow S^{T}$ определенное в вероятностном пространстве $(\Omega ,{\mathcal {F}},P)$, закон случайного процесса $X$ определяется как мера изображения :

$\mu =P\circ X^{-1},$

где $P$ — вероятностная мера, символ $\circ$ обозначает композицию функций и $X^{-1}$ является прообразом измеримой функции или, что то же самое, $S^{T}$-значная случайная величина $X$, где $S^{T}$ это пространство всех возможных $S$-значные функции $t\in T$, поэтому закон случайного процесса является вероятностной мерой.

Для измеримого подмножества $B$ из $S^{T}$, прообраз $X$ дает

$X^{-1}(B)=\{\omega \in \Omega :X(\omega )\in B\},$

так что закон $X$ можно записать как:

$\mu (B)=P(\{\omega \in \Omega :X(\omega )\in B\}).$

Закон случайного процесса или случайной величины также называют законом вероятности , распределением вероятностей или распределением .

Конечномерные распределения вероятностей

Основная статья: Конечномерное распределение

Для случайного процесса $X$ с законом $\mu$, его конечномерное распределение для $t_{1},\dots ,t_{n}\in T$ определяется как:

$\mu _{t_{1},\dots ,t_{n}}=P\circ (X({t_{1}}),\dots ,X({t_{n}}))^{-1},$

Эта мера $\mu _{t_{1},..,t_{n}}$- совместное распределение случайного вектора $(X({t_{1}}),\dots ,X({t_{n}}))$; его можно рассматривать как «проекцию» закона $\mu$ на конечное подмножество $T$.

Для любого измеримого подмножества $C$ принадлежащий $n$-кратная декартова степень $S^{n}=S\times \dots \times S$, конечномерные распределения случайного процесса $X$ можно записать как:

$\mu _{t_{1},\dots ,t_{n}}(C)=P{\Big (}{\big \{}\omega \in \Omega :{\big (}X_{t_{1}}(\omega ),\dots ,X_{t_{n}}(\omega ){\big )}\in C{\big \}}{\Big )}.$

Конечномерные распределения случайного процесса удовлетворяют двум математическим условиям, известным как условия согласованности.

Стационарность

Основная статья: Стационарный процесс

Стационарность — это математическое свойство, которым обладает случайный процесс, когда все случайные величины этого случайного процесса одинаково распределены. Другими словами, если $X$ является стационарным случайным процессом, то для любого $t\in T$ случайная величина $X_{t}$ имеет одинаковое распределение, а это означает, что для любого набора $n$ установленные значения индекса $t_{1},\dots ,t_{n}$, соответствующий $n$ случайные величины

$X_{t_{1}},\dots X_{t_{n}},$

все имеют одинаковое распределение вероятностей . Набор индексов стационарного случайного процесса обычно интерпретируется как время, поэтому это могут быть целые числа или действительная линия. Но понятие стационарности существует и для точечных процессов и случайных полей, где набор индексов не интерпретируется как время.

Когда индекс установлен $T$ можно интерпретировать как время, случайный процесс называется стационарным, если его конечномерные распределения инвариантны относительно сдвигов времени. Этот тип случайного процесса можно использовать для описания физической системы, которая находится в устойчивом состоянии, но все еще испытывает случайные колебания. Интуиция, лежащая в основе стационарности, заключается в том, что с течением времени распределение стационарного случайного процесса остается прежним. Последовательность случайных величин образует стационарный случайный процесс только в том случае, если случайные величины распределены одинаково.

Случайный процесс с приведенным выше определением стационарности иногда называют строго стационарным, но существуют и другие формы стационарности. Одним из примеров является случай, когда случайный процесс с дискретным или непрерывным временем $X$ называется стационарным в широком смысле, то процесс $X$ имеет конечный второй момент для всех $t\in T$ и ковариация двух случайных величин $X_{t}$ и $X_{t+h}$ зависит только от количества $h$ для всех $t\in T$. Хинчин ввел родственное понятие стационарности в широком смысле , имеющее и другие названия, в том числе ковариантную стационарность или стационарность в широком смысле .

Фильтрация

Фильтрация — это возрастающая последовательность сигма-алгебр, определенная относительно некоторого вероятностного пространства и набора индексов, который имеет некоторое отношение общего порядка , например, в случае, когда набор индексов представляет собой некоторое подмножество действительных чисел. Более формально, если случайный процесс имеет набор индексов с полным порядком, то фильтрация $\{{\mathcal {F}}_{t}\}_{t\in T}$, в вероятностном пространстве $(\Omega ,{\mathcal {F}},P)$ является семейством сигма-алгебр таких, что ${\mathcal {F}}_{s}\subseteq {\mathcal {F}}_{t}\subseteq {\mathcal {F}}$ для всех $s\leq t$, где $t,s\in T$ и $\leq$ обозначает общий порядок набора индексов $T$. С помощью концепции фильтрации можно изучить количество информации, содержащейся в случайном процессе. $X_{t}$ в $t\in T$, что можно интерпретировать как время $t$. Интуиция фильтрации ${\mathcal {F}}_{t}$ это как раз $t$ проходит, все больше и больше информации о $X_{t}$ известно или доступно, что фиксируется в ${\mathcal {F}}_{t}$, что приводит к более тонким и тонким разделам $\Omega$.

Модификация

Модификация случайного процесса — это еще один случайный процесс, тесно связанный с исходным случайным процессом. Точнее, случайный процесс $X$ который имеет тот же набор индексов $T$, государственное пространство $S$и вероятностное пространство $(\Omega ,{\cal {F}},P)$ как еще один случайный процесс $Y$ говорят, что это модификация $Y$ если для всех $t\in T$ следующее

$P(X_{t}=Y_{t})=1,$

держит. Два случайных процесса, являющиеся модификациями друг друга, имеют один и тот же конечномерный закон. и они называются стохастически эквивалентными или эквивалентными .

Вместо модификации термин версия , также используется однако некоторые авторы используют термин «версия», когда два случайных процесса имеют одинаковые конечномерные распределения, но они могут быть определены в разных вероятностных пространствах, поэтому два процесса, которые являются модификациями друг друга, также являются версиями друг друга в последнем смысле. , но не наоборот.

Если действительный случайный процесс с непрерывным временем удовлетворяет определенным моментным условиям на своих приращениях, то теорема о непрерывности Колмогорова говорит, что существует модификация этого процесса, которая имеет непрерывные пути выборки с вероятностью единица, поэтому случайный процесс имеет непрерывную модификацию или версия. Теорему также можно обобщить на случайные поля, так что набор индексов будет равен $n$-мерное евклидово пространство а также к случайным процессам с метрическими пространствами в качестве пространств состояний.

Неотличимый

Два случайных процесса $X$ и $Y$ определены в том же вероятностном пространстве $(\Omega ,{\mathcal {F}},P)$ с тем же набором индексов $T$ и установите пространство $S$ называются неотличимыми, если следующие

$P(X_{t}=Y_{t}{\text{ for all }}t\in T)=1,$

держит. Если два $X$ и $Y$ являются модификациями друг друга и почти наверняка непрерывны , то $X$ и $Y$ неразличимы.

Разделимость

Сепарабельность — это свойство случайного процесса, основанное на наборе его индексов по отношению к вероятностной мере. Предполагается, что функционалы от случайных процессов или случайных полей с несчетными наборами индексов могут образовывать случайные величины. Чтобы случайный процесс был сепарабельным, помимо других условий, его индексный набор должен быть сепарабельным пространством . это означает, что набор индексов имеет плотное счетное подмножество.

Точнее, реальный стохастический процесс с непрерывным временем. $X$ с вероятностным пространством $(\Omega ,{\cal {F}},P)$ отделим, если его набор индексов $T$ имеет плотное счетное подмножество $U\subset T$ и есть набор $\Omega _{0}\subset \Omega$ с нулевой вероятностью, поэтому $P(\Omega _{0})=0$, такой, что для любого открытого множества $G\subset T$ и каждое закрытое множество $F\subset \textstyle R=(-\infty ,\infty )$, два события $\{X_{t}\in F{\text{ for all }}t\in G\cap U\}$ и $\{X_{t}\in F{\text{ for all }}t\in G\}$ отличаются друг от друга максимум по подмножеству $\Omega _{0}$. Определение разделимости также может быть указано для других наборов индексов и пространств состояний, например, в случае случайных полей, где набор индексов, а также пространство состояний могут быть $n$-мерное евклидово пространство.

Понятие сепарабельности случайного процесса было введено Джозефом Дубом . Основная идея разделимости состоит в том, чтобы счетный набор точек набора индексов определял свойства случайного процесса. Любой случайный процесс со счетным набором индексов уже удовлетворяет условиям разделимости, поэтому случайные процессы с дискретным временем всегда разделимы. Теорема Дуба, иногда известная как теорема Дуба об отделимости, гласит, что любой стохастический процесс с непрерывным временем и вещественными значениями имеет отделимую модификацию. Версии этой теоремы также существуют для более общих случайных процессов с наборами индексов и пространствами состояний, отличными от действительной линии.

Независимость

Два случайных процесса $X$ и $Y$ определены в том же вероятностном пространстве $(\Omega ,{\mathcal {F}},P)$ с тем же набором индексов $T$ называются независимыми, если для всех $n\in \mathbb {N}$ и для любого выбора эпох $t_{1},\ldots ,t_{n}\in T$, случайные векторы $\left(X(t_{1}),\ldots ,X(t_{n})\right)$ и $\left(Y(t_{1}),\ldots ,Y(t_{n})\right)$ независимы.

Некоррелированность

Два случайных процесса $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ называются некоррелированными, если их кросс-ковариация $\operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right)\left(Y(t_{2})-\mu _{Y}(t_{2})\right)\right]$ равен нулю во все времена. Формально:

$\left\{X_{t}\right\},\left\{Y_{t}\right\}{\text{ uncorrelated}}\quad \iff \quad \operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=0\quad \forall t_{1},t_{2}$.

Независимость подразумевает некоррелированность

Если два случайных процесса $X$ и $Y$ независимы, то они также некоррелированы.

Ортогональность

Два случайных процесса $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ называются ортогональными, если их взаимная корреляция $\operatorname {R} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=\operatorname {E} [X(t_{1}){\overline {Y(t_{2})}}]$ равен нулю во все времена. Формально:

$\left\{X_{t}\right\},\left\{Y_{t}\right\}{\text{ orthogonal}}\quad \iff \quad \operatorname {R} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=0\quad \forall t_{1},t_{2}$.

Скороход пространство

Основная статья: Пространство Скорохода

Пространство Скорохода , также называемое пространством Скорохода , представляет собой математическое пространство всех функций, непрерывных справа с левыми пределами, определенных на некотором интервале действительной прямой, например $[0,1]$ или $[0,\infty )$и принимать значения на вещественной прямой или в некотором метрическом пространстве. Такие функции известны как функции càdlàg или cadlag, что происходит от аббревиатуры французской фразы continue à droite, limite à gauche . Функциональное пространство Скорохода, введенное Анатолием Скороходом , часто обозначается буквой $D$, поэтому функциональное пространство также называется пространством $D$. Обозначение этого функционального пространства может также включать интервал, на котором определены все функции càdlàg, так, например, $D[0,1]$ обозначает пространство функций кадлага, определенных на единичном интервале $[0,1]$.

Функциональные пространства Скорохода часто используются в теории случайных процессов, поскольку часто предполагается, что выборочные функции случайных процессов с непрерывным временем принадлежат пространству Скорохода. Такие пространства содержат непрерывные функции, соответствующие выборочным функциям винеровского процесса. Но в пространстве есть и функции с разрывами, а это значит, что выборочные функции случайных процессов со скачками, таких как процесс Пуассона (на вещественной прямой), также являются членами этого пространства.

Регулярность

В контексте математического построения случайных процессов термин регулярность используется при обсуждении и предположении определенных условий случайного процесса для решения возможных проблем построения. Например, для изучения случайных процессов с несчетными наборами индексов предполагается, что случайный процесс подчиняется некоторому типу условий регулярности, например, непрерывности выборочных функций.

Дальнейшие примеры

Марковские процессы и цепи

Основная статья: цепь Маркова

Марковские процессы — это случайные процессы, традиционно происходящие в дискретном или непрерывном времени , обладающие марковским свойством, означающим, что следующее значение марковского процесса зависит от текущего значения, но условно независимо от предыдущих значений случайного процесса. Другими словами, поведение процесса в будущем стохастически независимо от его поведения в прошлом при текущем состоянии процесса.

Процесс броуновского движения и процесс Пуассона (в одном измерении) являются примерами марковских процессов. в непрерывном времени, тогда как случайные блуждания целых чисел и проблема разорения игрока являются примерами марковских процессов в дискретном времени.

Цепь Маркова — это тип марковского процесса, который имеет либо дискретное пространство состояний , либо дискретный набор индексов (часто представляющий время), но точное определение цепи Маркова варьируется. Например, цепь Маркова принято определять как марковский процесс в дискретном или непрерывном времени со счетным пространством состояний (таким образом, независимо от природы времени). но также принято определять цепь Маркова как имеющую дискретное время либо в счетном, либо в непрерывном пространстве состояний (то есть независимо от пространства состояний). Утверждалось, что сейчас имеет тенденцию использоваться первое определение цепи Маркова, где она имеет дискретное время, несмотря на то, что второе определение использовалось такими исследователями, как Джозеф Дуб и Кай Лай Чунг .

Марковские процессы составляют важный класс случайных процессов и имеют приложения во многих областях. Например, они являются основой для общего метода стохастического моделирования, известного как цепь Маркова Монте-Карло , который используется для моделирования случайных объектов с определенными распределениями вероятностей и нашел применение в байесовской статистике .

Концепция марковского свойства изначально предназначалась для случайных процессов в непрерывном и дискретном времени, но это свойство было адаптировано для других наборов индексов, таких как $n$-мерное евклидово пространство, в результате которого образуются наборы случайных величин, известные как марковские случайные поля.

Мартингейл

Основная статья: Мартингейл (теория вероятностей)

Мартингейл — это случайный процесс с дискретным или непрерывным временем, обладающий свойством, что в каждый момент времени, учитывая текущее значение и все прошлые значения процесса, условное ожидание каждого будущего значения равно текущему значению. Если в дискретное время это свойство сохраняется для следующего значения, то оно сохраняется и для всех будущих значений. Точное математическое определение мартингала требует двух других условий в сочетании с математической концепцией фильтрации, которая связана с интуицией увеличения доступной информации с течением времени. Мартингалы обычно определяются как вещественные, но они также могут быть комплексными или даже более общий.

Симметричное случайное блуждание и винеровский процесс (с нулевым дрейфом) являются примерами мартингалов соответственно в дискретном и непрерывном времени. Для последовательности независимых и одинаково распределенных случайных величин $X_{1},X_{2},X_{3},\dots$ с нулевым средним значением случайный процесс формируется из последовательных частичных сумм $X_{1},X_{1}+X_{2},X_{1}+X_{2}+X_{3},\dots$ представляет собой мартингал с дискретным временем. В этом аспекте мартингалы с дискретным временем обобщают идею частичных сумм независимых случайных величин.

Мартингалы также можно создать из случайных процессов, применив некоторые подходящие преобразования, как это имеет место в случае однородного процесса Пуассона (на реальной линии), в результате чего получается мартингал, называемый компенсированным процессом Пуассона . Мартингалы также могут быть построены из других мартингалов. Например, существуют мартингалы, основанные на мартингальном процессе Винера, образующие мартингалы с непрерывным временем.

Мартингейлы математически формализуют идею «честной игры», в которой можно сформировать разумные ожидания выигрышей. и изначально они были разработаны, чтобы показать, что в такой игре невозможно получить «несправедливое» преимущество. Но сейчас они используются во многих областях теории вероятностей, что является одной из основных причин их изучения. Многие задачи теории вероятности были решены путем обнаружения мартингейла в задаче и его изучения. Мартингалы сходятся при соблюдении некоторых условий на их моменты, поэтому их часто используют для получения результатов сходимости, во многом благодаря теоремам сходимости мартингалов .

Мартингалы имеют множество применений в статистике, но было отмечено, что их использование и применение не так широко распространены, как могли бы быть в области статистики, особенно в области статистических выводов. Они нашли применение в таких областях теории вероятностей, как теория массового обслуживания и исчисление Пальма. и другие области, такие как экономика и финансы.

Процесс Леви

Основная статья: Процесс Леви

Процессы Леви — это типы случайных процессов, которые можно рассматривать как обобщение случайных блужданий в непрерывном времени. Эти процессы имеют множество применений в таких областях, как финансы, механика жидкости, физика и биология. Основными определяющими характеристиками этих процессов являются их свойства стационарности и независимости, поэтому они были известны как процессы со стационарными и независимыми приращениями . Другими словами, случайный процесс $X$ является процессом Леви, если для $n$ неотрицательные числа, $0\leq t_{1}\leq \dots \leq t_{n}$, соответствующий $n-1$ приращения

$X_{t_{2}}-X_{t_{1}},\dots ,X_{t_{n}}-X_{t_{n-1}},$

все они независимы друг от друга, и распределение каждого приращения зависит только от разницы во времени.

Процесс Леви можно определить так, что его пространство состояний представляет собой некоторое абстрактное математическое пространство, такое как банахово пространство , но процессы часто определяются так, что они принимают значения в евклидовом пространстве. Набор индексов представляет собой неотрицательные числа, поэтому $I=[0,\infty )$, что дает интерпретацию времени. Важные стохастические процессы, такие как процесс Винера, однородный процесс Пуассона (в одном измерении) и подчиненные процессы , являются процессами Леви.

Случайное поле

Основная статья: Случайное поле

Случайное поле — это совокупность случайных величин, индексированных $n$-мерное евклидово пространство или некоторое многообразие. В общем, случайное поле можно рассматривать как пример стохастического или случайного процесса, где набор индексов не обязательно является подмножеством реальной линии. Но существует соглашение, согласно которому индексированный набор случайных величин называется случайным полем, если индекс имеет два или более измерения. Если конкретное определение случайного процесса требует, чтобы набор индексов был подмножеством действительной линии, то случайное поле можно рассматривать как обобщение случайного процесса.

Точечный процесс

Основная статья: Точечный процесс

Точечный процесс — это набор точек, случайно расположенных в некотором математическом пространстве, например, на реальной линии. $n$-мерное евклидово пространство или более абстрактные пространства. Иногда термин «точечный процесс» не является предпочтительным, поскольку исторически слово « процесс» обозначало эволюцию некоторой системы во времени, поэтому точечный процесс также называют случайным точечным полем . Существуют разные интерпретации точечного процесса, например, случайной меры счета или случайного множества. Некоторые авторы рассматривают точечный процесс и случайный процесс как два разных объекта, причем точечный процесс — это случайный объект, возникающий в результате случайного процесса или связанный с ним. хотя было отмечено, что разница между точечными процессами и случайными процессами не ясна.

Другие авторы рассматривают точечный процесс как случайный процесс, где процесс индексируется множествами основного пространства. на котором он определен, например, действительная линия или $n$-мерное евклидово пространство. Другие случайные процессы, такие как процессы восстановления и счета, изучаются в теории точечных процессов.

История

Ранняя теория вероятностей

Теория вероятностей берет свое начало в азартных играх, которые имеют долгую историю, причем в некоторые игры играли тысячи лет назад. но с точки зрения вероятности по ним было проведено очень мало анализа. Годом рождения теории вероятностей часто считают 1654 год, когда французские математики Пьер Ферма и Блез Паскаль вели письменную переписку о вероятности, мотивированную проблемой азартных игр . Но были и более ранние математические работы по изучению вероятности азартных игр, такие как Liber de Ludo Aleae Джероламо Кардано , написанные в 16 веке, но посмертно опубликованные позже, в 1663 году.

После Кардано, Якоб Бернулли написал Ars Conjectandi , что считается значимым событием в истории теории вероятностей. Книга Бернулли была опубликована, также посмертно, в 1713 году и вдохновила многих математиков на изучение вероятности. Но несмотря на то, что некоторые известные математики внесли свой вклад в теорию вероятностей, такие как Пьер-Симон Лаплас , Авраам де Муавр , Карл Гаусс , Симеон Пуассон и Пафнутий Чебышев , большая часть математического сообщества не считал теорию вероятностей частью математики до 20 века.

Статистическая механика

В физических науках ученые разработали в 19 веке дисциплину статистической механики , где физические системы, такие как контейнеры, наполненные газами, рассматриваются или рассматриваются математически как совокупность множества движущихся частиц. , предпринимали попытки включить случайность в статистическую физику, Хотя некоторые ученые, такие как Рудольф Клаузиус в большинстве работ случайность была незначительной или вообще отсутствовала. Ситуация изменилась в 1859 году, когда Джеймс Клерк Максвелл внес значительный вклад в эту область, а точнее, в кинетическую теорию газов, представив работу, в которой он моделировал частицы газа, движущиеся в случайных направлениях со случайными скоростями. Кинетическая теория газов и статистическая физика продолжали развиваться во второй половине XIX века, при этом работы выполнялись в основном Клаузиусом, Людвигом Больцманом и Иосией Гиббсом , которые позже оказали влияние на Альберта Эйнштейна. математическую модель броуновского движения .

Теория меры и теория вероятностей

На Международном конгрессе математиков в Париже в 1900 году Давид Гильберт представил список математических проблем , где его шестая проблема требовала математической обработки физики и вероятности с использованием аксиом . Примерно в начале 20-го века математики разработали теорию меры, раздел математики для изучения интегралов математических функций, где двумя основателями были французские математики Анри Лебег и Эмиль Борель . В 1925 году другой французский математик Поль Леви опубликовал первую книгу о вероятностях, в которой использовались идеи теории меры.

В 1920-е годы фундаментальный вклад в теорию вероятностей внесли в Советском Союзе такие математики, как Сергей Бернштейн , Александр Хинчин , и Андрей Колмогоров . Колмогоров опубликовал в 1929 году свою первую попытку представить математическое обоснование теории вероятностей, основанное на теории меры. В начале 1930-х годов Хинчин и Колмогоров организовали семинары по теории вероятности, на которых присутствовали такие исследователи, как Евгений Слуцкий и Николай Смирнов . и Хинчин дал первое математическое определение случайного процесса как набора случайных величин, индексированных реальной линией.

Рождение современной теории вероятностей

В 1933 году Андрей Колмогоров опубликовал на немецком языке свою книгу об основах теории вероятностей под названием « Основные понятия расчета вероятностей» . где Колмогоров использовал теорию меры для разработки аксиоматической основы теории вероятностей. Публикация этой книги сейчас широко считается рождением современной теории вероятностей, когда теории вероятностей и случайных процессов стали частью математики.

После публикации книги Колмогорова дальнейшая фундаментальная работа по теории вероятностей и случайным процессам была проделана Хинчиным и Колмогоровым, а также другими математиками, такими как Джозеф Дуб , Уильям Феллер , Морис Фреше , Поль Леви , Вольфганг Деблин и Харальд Крамер . Десятилетия спустя Крамер назвал 1930-е годы «героическим периодом математической теории вероятностей». Вторая мировая война сильно прервала развитие теории вероятностей, вызвав, например, миграцию Феллера из Швеции в Соединённые Штаты Америки. и смерть Доблина, считающегося теперь пионером в области случайных процессов.

Математик Джозеф Дуб первым работал над теорией случайных процессов, внося фундаментальный вклад, особенно в теорию мартингалов. Его книга «Стохастические процессы» считается очень влиятельной в области теории вероятностей.

Стохастические процессы после Второй мировой войны

После Второй мировой войны изучение теории вероятностей и случайных процессов привлекло больше внимания математиков, при этом значительный вклад был внесен во многие области теории вероятностей и математики, а также в создание новых областей. Начиная с 1940-х годов Кийоси Ито публиковал статьи, развивающие область стохастического исчисления , которое включает в себя стохастические интегралы и стохастические дифференциальные уравнения, основанные на винеровском или броуновском процессе движения.

Также, начиная с 1940-х годов, были установлены связи между случайными процессами, особенно мартингалами, и математической областью теории потенциала , с ранними идеями Шизуо Какутани , а затем с более поздними работами Джозефа Дуба. Дальнейшая работа, считавшаяся новаторской, была проделана Гилбертом Хантом в 1950-х годах, соединив марковские процессы и теорию потенциала, что оказало значительное влияние на теорию процессов Леви и привело к большему интересу к изучению марковских процессов с помощью методов, разработанных Ито.

В 1953 году Дуб опубликовал свою книгу «Стохастические процессы» , которая оказала сильное влияние на теорию случайных процессов и подчеркнула важность теории меры в теории вероятностей. Дуб также в основном разработал теорию мартингалов, с более поздним существенным вкладом Пола-Андре Мейера . Ранее работа была проведена Сергеем Бернштейном , Полем Леви и Жаном Вилем , причем последний принял термин мартингал для обозначения стохастического процесса. Методы теории мартингалов стали популярными для решения различных вероятностных задач. Методы и теория были разработаны для изучения марковских процессов, а затем применены к мартингалам. И наоборот, методы теории мартингалов были созданы для лечения марковских процессов.

Другие области вероятностей были разработаны и использованы для изучения случайных процессов, причем одним из основных подходов была теория больших отклонений. Эта теория имеет множество применений в статистической физике, а также в других областях, а ее основные идеи восходят как минимум к 1930-м годам. Позже, в 1960-х и 1970-х годах, фундаментальную работу провели Александр Вентцелл в Советском Союзе, а также Монро Д. Донскер и Шриниваса Варадхан в Соединенных Штатах Америки. что позже привело к тому, что Варадхан получил премию Абеля 2007 года. В 1990-е и 2000-е годы теории эволюции Шрамма – Лёвнера и тернистые пути были введены и разработаны для изучения случайных процессов и других математических объектов теории вероятностей, что, соответственно, привело к Медали Филдса присуждению Венделину Вернеру. в 2008 году и Мартину Хайреру в 2014 году.

Теория случайных процессов по-прежнему остается в центре внимания исследований: на эту тему ежегодно проводятся международные конференции.

Открытия конкретных случайных процессов

Хотя Хинчин дал математические определения случайным процессам в 1930-е годы, конкретные стохастические процессы уже были обнаружены в различных условиях, таких как процесс броуновского движения и процесс Пуассона. Некоторые семейства случайных процессов, такие как точечные процессы или процессы обновления, имеют долгую и сложную историю, уходящую в глубь веков.

Процесс Бернулли

Процесс Бернулли, который может служить математической моделью подбрасывания смещенной монеты, возможно, является первым стохастическим процессом, который был изучен. Этот процесс представляет собой последовательность независимых испытаний Бернулли. которые названы в честь Якоба Бернулли, который использовал их для изучения азартных игр, включая вероятностные задачи, предложенные и изученные ранее Христианом Гюйгенсом. Работы Бернулли, включая процесс Бернулли, были опубликованы в его книге Ars Conjectandi в 1713 году.

Случайные прогулки

В 1905 году Карл Пирсон ввёл термин «случайное блуждание» , поставив задачу, описывающую случайное блуждание на плоскости, что было мотивировано применением в биологии, но такие проблемы, связанные со случайными блужданиями, уже изучались в других областях. Некоторые проблемы азартных игр, которые изучались столетиями ранее, можно рассматривать как проблемы, связанные со случайными блужданиями. Например, задача, известная как разорение игрока , основана на простом случайном блуждании. и является примером случайного блуждания с поглощающими барьерами. Паскаль, Ферма и Гюенс дали численные решения этой проблемы, не детализируя свои методы. а затем более подробные решения были представлены Якобом Бернулли и Авраамом де Муавром .

Для случайных заходов $n$-мерные целочисленные решетки опубликовал Джордж Пойа в 1919 и 1921 годах работы, в которых изучал вероятность симметричного случайного блуждания, возвращающегося в предыдущее положение в решетке. Полиа показал, что симметричное случайное блуждание, имеющее равную вероятность продвижения в любом направлении в решетке, будет возвращаться в предыдущее положение в решетке бесконечное число раз с вероятностью один в одном и двух измерениях, но с нулевой вероятностью в три и более измерений.

Винеровский процесс

Винеровский процесс или процесс броуновского движения берет свое начало в различных областях, включая статистику, финансы и физику. В 1880 году датский астроном Торвальд Тиле написал статью о методе наименьших квадратов, в которой он использовал этот процесс для изучения ошибок модели при анализе временных рядов. Эта работа сейчас считается ранним открытием статистического метода, известного как фильтрация Калмана , но на нее почти не обращали внимания. Считается, что идеи статьи Тиле были слишком продвинутыми, чтобы их могло понять более широкое математическое и статистическое сообщество того времени.

Норберт Винер дал первое математическое доказательство существования винеровского процесса. Этот математический объект ранее появлялся в работах Торвальда Тиле , Луи Башелье и Альберта Эйнштейна .

Французский математик Луи Башелье использовал процесс Винера в своей диссертации 1900 года. для моделирования изменений цен на Парижской фондовой бирже , не зная творчества Тиле. Было высказано предположение, что Башелье черпал идеи из модели случайного блуждания Жюля Реньо , но Башелье не цитировал его: а диссертация Башелье сейчас считается новаторской в ​​области финансовой математики.

Принято считать, что работа Башелье не привлекала особого внимания и была забыта на десятилетия, пока в 1950-х годах ее не открыл Леонард Сэвидж , а затем она стала более популярной после того, как диссертация Башелье была переведена на английский язык в 1964 году. Но эта работа никогда не была забыта в математического сообщества, поскольку в 1912 году Башелье опубликовал книгу, в которой подробно излагались его идеи, на который цитировали математики, в том числе Дуб, Феллер и Колмогоров. Книгу продолжали цитировать, но затем, начиная с 1960-х годов, первоначальный тезис Башелье стал цитироваться чаще, чем его книга, когда экономисты начали цитировать работы Башелье.

В 1905 году Альберт Эйнштейн опубликовал статью, в которой он изучал физическое наблюдение броуновского движения или движения, чтобы объяснить, казалось бы, случайные движения частиц в жидкостях, используя идеи кинетической теории газов . Эйнштейн вывел дифференциальное уравнение , известное как уравнение диффузии , для описания вероятности обнаружения частицы в определенной области пространства. Вскоре после первой статьи Эйнштейна о броуновском движении Мариан Смолуховский опубликовал работу, в которой цитировал Эйнштейна, но написал, что независимо получил эквивалентные результаты, используя другой метод.

Работа Эйнштейна, а также экспериментальные результаты, полученные Жаном Перреном , позже вдохновили Норберта Винера в 1920-х годах. использовать теорию меры, разработанную Перси Дэниелом , и анализ Фурье, чтобы доказать существование винеровского процесса как математического объекта.

Пуассоновский процесс

Процесс Пуассона назван в честь Симеона Пуассона из-за его определения, включающего распределение Пуассона , но Пуассон никогда не изучал этот процесс. Есть ряд заявлений о раннем использовании или открытии Пуассона.процесс. В начале 20 века процесс Пуассона возникал независимо в разных ситуациях. В Швеции в 1903 году Филип Лундберг опубликовал диссертацию , содержащую работу, которая сейчас считается фундаментальной и новаторской, в которой он предложил моделировать страховые выплаты с помощью однородного процесса Пуассона.

Еще одно открытие произошло в Дании в 1909 году, когда А. К. Эрланг вывел распределение Пуассона при разработке математической модели количества входящих телефонных звонков за конечный интервал времени. Эрланг в то время не знал о более ранних работах Пуассона и предполагал, что количество телефонных звонков, поступающих в каждый интервал времени, не зависит друг от друга. Затем он нашел предельный случай, который фактически превращает распределение Пуассона в предел биномиального распределения.

В 1910 году Эрнест Резерфорд и Ганс Гейгер опубликовали экспериментальные результаты по подсчету альфа-частиц. Вдохновленный своей работой, Гарри Бейтман изучил проблему подсчета и вывел вероятности Пуассона как решение семейства дифференциальных уравнений, что привело к независимому открытию процесса Пуассона. После этого было проведено множество исследований и применений процесса Пуассона, но его ранняя история сложна, что объясняется различными применениями этого процесса во многих областях биологами, экологами, инженерами и различными учеными-физиками.

Марковские процессы

Марковские процессы и цепи Маркова названы в честь Андрея Маркова, изучавшего цепи Маркова в начале 20 века. Марков интересовался изучением расширения независимых случайных последовательностей. В своей первой статье о цепях Маркова, опубликованной в 1906 году, Марков показал, что при определенных условиях средние результаты цепи Маркова будут сходиться к фиксированному вектору значений, тем самым доказав слабый закон больших чисел без предположения независимости. что обычно рассматривалось как требование для соблюдения таких математических законов. Позже Марков использовал цепи Маркова для изучения распределения гласных в «Евгении Онегине» , написанном Александром Пушкиным , и доказал центральную предельную теорему для таких цепей.

В 1912 году Пуанкаре изучал цепи Маркова на конечных группах с целью изучения тасования карт. Другие ранние варианты использования цепей Маркова включают модель диффузии, представленную Полом и Татьяной Эренфестами в 1907 году, и процесс ветвления, представленный Фрэнсисом Гальтоном и Генри Уильямом Уотсоном в 1873 году, предшествовавший работе Маркова. После работы Гальтона и Уотсона позже выяснилось, что их процесс ветвления был независимо открыт и изучен примерно тремя десятилетиями ранее Ирене-Жюлем Бьенеме . Начиная с 1928 года Морис Фреше заинтересовался цепями Маркова, что в конечном итоге привело к публикации в 1938 году подробного исследования цепей Маркова.

Андрей Колмогоров в статье 1931 года развил большую часть ранней теории марковских процессов с непрерывным временем. Колмогоров был частично вдохновлен работой Луи Башелье 1900 года о колебаниях фондового рынка, а также работой Норберта Винера над эйнштейновской моделью броуновского движения. Он ввел и изучил особый набор марковских процессов, известный как диффузионные процессы, где вывел набор дифференциальных уравнений, описывающих эти процессы. Независимо от работы Колмогорова, Сидней Чепмен в статье 1928 года вывел уравнение, теперь называемое уравнением Чепмена-Колмогорова , менее математически строгим способом, чем Колмогоров, изучая броуновское движение. Дифференциальные уравнения теперь называются уравнениями Колмогорова. или уравнения Колмогорова–Чепмена. Среди других математиков, внесших значительный вклад в обоснование марковских процессов, - Уильям Феллер, начиная с 1930-х годов, а затем Юджин Дынкин, начиная с 1950-х годов.

Процессы Леви

Процессы Леви, такие как процесс Винера и процесс Пуассона (на реальной линии), названы в честь Поля Леви, который начал изучать их в 1930-х годах. но они связаны с бесконечно делимыми распределениями, начиная с 1920-х годов. В статье 1932 года Колмогоров вывел характеристическую функцию для случайных величин, связанных с процессами Леви. Этот результат позже был получен в более общих условиях Леви в 1934 году, а затем Хинчин независимо дал альтернативную форму для этой характеристической функции в 1937 году. Помимо Леви, Хинчина и Коломогрова, ранний фундаментальный вклад в теорию процессов Леви внесли Бруно де Финетти и Кийоси Ито .

Математическая конструкция

В математике необходимы конструкции математических объектов, как и в случае случайных процессов, чтобы доказать их математическое существование. Существует два основных подхода к построению случайного процесса. Один из подходов включает в себя рассмотрение измеримого пространства функций, определение подходящего измеримого отображения вероятностного пространства в это измеримое пространство функций, а затем получение соответствующих конечномерных распределений.

Другой подход предполагает определение набора случайных величин, имеющих определенные конечномерные распределения, а затем использование теоремы существования Колмогорова. доказать существование соответствующего случайного процесса. Эта теорема, которая является теоремой существования мер в бесконечных пространствах произведений, говорит, что если какие-либо конечномерные распределения удовлетворяют двум условиям, известным как условия согласованности , то существует случайный процесс с этими конечномерными распределениями.

Вопросы строительства

При построении случайных процессов с непрерывным временем возникают определенные математические трудности из-за несчетных наборов индексов, которые не встречаются в процессах с дискретным временем. Одна из проблем заключается в том, возможно ли существование более одного случайного процесса с одинаковыми конечномерными распределениями. Например, как непрерывная слева модификация, так и непрерывная справа модификация пуассоновского процесса имеют одинаковые конечномерные распределения. Это означает, что распределение случайного процесса не обязательно однозначно определяет свойства выборочных функций случайного процесса.

Другая проблема заключается в том, что функционалы процесса с непрерывным временем, основанные на несчетном числе точек набора индексов, могут быть неизмеримыми, поэтому вероятности определенных событий не могут быть четко определены. Например, верхняя грань случайного процесса или случайного поля не обязательно является четко определенной случайной величиной. Для случайного процесса с непрерывным временем $X$, другие характеристики, зависящие от несчетного числа точек индексного множества $T$ включать:

• выборочная функция случайного процесса $X$ является непрерывной функцией $t\in T$;
• выборочная функция случайного процесса $X$ является ограниченной функцией $t\in T$; и
• выборочная функция случайного процесса $X$ является возрастающей функцией $t\in T$.

Для преодоления этих двух трудностей возможны различные предположения и подходы.

Решение строительных вопросов

Один из подходов, позволяющих избежать проблем математического построения случайных процессов, предложенный Джозефом Дубом , состоит в том, чтобы предположить, что случайный процесс является сепарабельным. Сепарабельность гарантирует, что бесконечномерные распределения определяют свойства выборочных функций, требуя, чтобы выборочные функции по существу определялись своими значениями на плотном счетном множестве точек в наборе индексов. Более того, если случайный процесс сепарабельен, то функционалы от несчетного числа точек индексного множества измеримы и можно изучать их вероятности.

Возможен и другой подход, первоначально разработанный Анатолием Скороходом и Андреем Колмогоровым . для случайного процесса с непрерывным временем и любым метрическим пространством в качестве пространства состояний. Для построения такого случайного процесса предполагается, что выборочные функции случайного процесса принадлежат некоторому подходящему функциональному пространству, которым обычно является пространство Скорохода, состоящее из всех непрерывных справа функций с левыми пределами. Этот подход сейчас используется чаще, чем предположение о разделимости. но такой случайный процесс, основанный на этом подходе, будет автоматически разделим.

Хотя предположение о разделимости используется реже, оно считается более общим, поскольку каждый случайный процесс имеет отделимую версию. Он также используется, когда невозможно построить случайный процесс в пространстве Скорохода. Например, разделимость предполагается при построении и изучении случайных полей, где набор случайных величин теперь индексируется наборами, отличными от реальной строки, такими как $n$-мерное евклидово пространство.

См. также

• Список тем случайных процессов
• Ковариационная функция
• Детерминированная система
• Динамика марковских частиц
• Уровень энтропии (для случайного процесса)
• Эргодический процесс
• Алгоритм Гиллеспи
• Взаимодействующая система частиц
• Закон (случайные процессы)
• Цепь Маркова
• Стохастический клеточный автомат
• Случайное поле
• Случайность
• Стационарный процесс
• Статистическая модель
• Стохастическое исчисление
• Стохастический контроль
• Стохастический попугай
• Случайные процессы и краевые задачи

Дальнейшее чтение

Статьи

• Эпплбаум, Дэвид (2004). «Процессы Леви: от вероятности к финансам и квантовым группам». Уведомления АМС . 51 (11): 1336–1347.
• Крамер, Харальд (1976). «Полвека с теорией вероятностей: некоторые личные воспоминания» . Анналы вероятности . 4 (4): 509–546. дои : 10.1214/aop/1176996025 . ISSN   0091-1798 .
• Гутторп, Питер; Тораринсдоттир, Тордис Л. (2012). «Что случилось с дискретным хаосом, процессом Кенуя и свойством Шарпа Маркова? Немного истории стохастических точечных процессов». Международный статистический обзор . 80 (2): 253–268. дои : 10.1111/j.1751-5823.2012.00181.x . ISSN   0306-7734 . S2CID   80836 .
• Джарроу, Роберт; Проттер, Филип (2004). «Краткая история стохастической интеграции и математических финансов: первые годы, 1880–1970». Фестиваль Германа Рубина . Конспект лекций Института математической статистики - Серия монографий. стр. 75–91. дои : 10.1214/lnms/1196285381 . ISBN  978-0-940600-61-4 . ISSN   0749-2170 .
• Мейер, Поль-Андре (2009). «Стохастические процессы с 1950 года по настоящее время». Электронный журнал истории теории вероятностей и статистики . 5 (1): 1–42.

Книги

• Роберт Дж. Адлер (2010). Геометрия случайных полей . СИАМ. ISBN  978-0-89871-693-1 .
• Роберт Дж. Адлер; Джонатан Э. Тейлор (2009). Случайные поля и геометрия . Springer Science & Business Media. ISBN  978-0-387-48116-6 .
• Пьер Бремо (2013). Цепи Маркова: поля Гиббса, моделирование Монте-Карло и очереди . Springer Science & Business Media. ISBN  978-1-4757-3124-8 .
• Джозеф Л. Дуб (1990). Случайные процессы . Уайли.
• Андерс Хальд (2005). История вероятности и статистики и их применения до 1750 года . Джон Уайли и сыновья. ISBN  978-0-471-72517-6 .
• Криспин Гардинер (2010). Стохастические методы . Спрингер. ISBN  978-3-540-70712-7 .
• Иосиф Иванович Гихман; Анатолий Владимирович Скороход (1996). Введение в теорию случайных процессов . Курьерская корпорация. ISBN  978-0-486-69387-3 .
• Эмануэль Парзен (2015). Случайные процессы . Публикации Courier Dover. ISBN  978-0-486-79688-8 .
• Мюррей Розенблатт (1962). Случайные процессы . Издательство Оксфордского университета.

Внешние ссылки

• СМИ, связанные со случайными процессами, на Викискладе?