Безпамять

В вероятности и статистике теории отсутствие памяти является свойством определенных распределений вероятностей . Он описывает ситуации, когда время ожидания события не влияет на то, как долго вам придется ждать. Чтобы точно моделировать ситуации без памяти, мы должны игнорировать прошлое состояние системы — на вероятности не влияет история процесса. ^[1]

Только два вида распределений не имеют памяти : геометрические распределения неотрицательных целых чисел и экспоненциальные распределения неотрицательных действительных чисел.

В контексте марковских процессов безпамять относится к марковскому свойству . ^[2] еще более сильное предположение, которое подразумевает, что свойства случайных величин, связанных с будущим, зависят только от соответствующей информации о текущем времени, а не от информации из далекого прошлого. В настоящей статье описано использование вне марковского свойства.

Примеры времени ожидания [ править ]

С памятью [ править ]

Большинство явлений не лишены памяти, а это означает, что наблюдатели со временем получат информацию о них. Например, предположим, что $X$ — это случайная величина , срок службы двигателя автомобиля, выраженный в терминах «количество пройденных миль до поломки двигателя». Исходя из нашей интуиции, ясно, что двигатель, который уже проехал 300 000 миль, будет иметь гораздо меньший $X$ , чем второй (эквивалентный) двигатель, который проехал всего 1 000 миль. Следовательно, эта случайная величина не будет обладать свойством безпамяти.

Без памяти [ править ]

Напротив, давайте рассмотрим ситуацию, которая демонстрирует отсутствие памяти. Представьте себе длинный коридор, вдоль одной стены которого стоят тысячи сейфов. Каждый сейф имеет циферблат с 500 позициями, и каждому из них случайным образом назначается позиция открытия. Представьте себе, что эксцентричный человек идет по коридору, останавливаясь у каждого сейфа по разу, чтобы сделать единственную случайную попытку его открыть. В этом случае мы могли бы определить случайную величину $X$ как время поиска, выраженное в терминах «количество попыток, которые человек должен сделать, прежде чем он успешно откроет сейф». В этом случае $E[X]$ всегда будет равно значению 500, независимо от того, сколько попыток уже было предпринято. Каждая новая попытка имеет шанс (1/500) на успех, поэтому человек, скорее всего, откроет ровно один сейф где-то из следующих 500 попыток, но с каждой новой неудачей он не делает «прогресса» на пути к окончательному успеху. Даже если взломщик сейфов только что потерпел неудачу 499 раз подряд (или 4999 раз), мы ожидаем, что нам придется подождать еще 500 попыток, прежде чем мы увидим следующий успех. Если вместо этого этот человек сосредоточит свои попытки на одном сейфе и «запомнит» свои предыдущие попытки открыть его, он будет гарантированно откроет сейф максимум после 500 попыток (и, фактически, в начале будет только ожидайте, что потребуется 250 попыток, а не 500).

Универсальный закон радиоактивного распада , описывающий время до распада данной радиоактивной частицы, является реальным примером отсутствия памяти. Часто используемый (теоретический) пример отсутствия памяти в теории массового обслуживания — это время, которое продавец должен ждать до прибытия следующего покупателя.

Дискретная безпамять [ править ]

Предположим, $X$ — дискретная случайная величина , значения которой лежат в множестве {0, 1, 2, ...}. Распределение вероятностей $X$ не имеет памяти , если для любых $m$ и $n$ из ${0, 1, 2, ...}$ мы имеем

\Pr(X>m+n\mid X\geq m)=\Pr(X>n).

Здесь $Pr(X > m + n | X \geq m)$ обозначает условную вероятность того, что значение $X$ больше $m + n$ при условии, что оно больше или равно $m$ .

Единственными , одинаково распределенных дискретными распределениями вероятностей без памяти являются геометрические распределения , которые подсчитывают количество независимых («неудачных») испытаний Бернулли, необходимых для достижения одного «успеха»; то есть геометрическое распределение поддерживается на {0, 1, 2, 3, ... }. Обратите внимание, что геометрическое распределение, поддерживаемое {1, 2,... }, не является безпамятным.

Обратите внимание, что приведенное выше определение применимо к определению геометрического распределения с поддержкой {0, 1, 2, ...}. Альтернативная параметризация с поддержкой {1, 2, ...} соответствует несколько иному определению дискретной безпамяти: а именно, что $\Pr(X>m+n\mid X>m)=\Pr(X>n).$

Распространенное недоразумение [ править ]

«Безпамятность» распределения вероятностей числа неудач $X$ до первого успеха означает, что, например,

\Pr(X>40\mid X\geq 30)=\Pr(X>10).

Это не значит, что

\Pr(X>40\mid X\geq 30)=\Pr(X>40),

что было бы верно только в том случае, если бы события $X > 40$ и $X \geq 30$ были независимыми, т.е. $\Pr(X\geq 30)=1.$

Постоянная потеря памяти [ править ]

Предположим, $X$ — непрерывная случайная величина, значения которой лежат в неотрицательных действительных числах $[0, \infty)$ . Распределение вероятностей $X$ не имеет памяти именно в том случае, если для любых неотрицательных действительных чисел $t$ и $s$ мы имеем

\Pr(X>t+s\mid X>t)=\Pr(X>s).

Это похоже на дискретную версию, за исключением того, что $s$ и $t$ должны быть только неотрицательными действительными числами, а не целыми числами . Например, вместо того, чтобы отсчитывать попытки до первого «успеха», мы можем топтаться на месте до первого телефонного звонка на коммутаторе.

Распределение без памяти экспоненциальным распределением является

Единственным непрерывным распределением вероятностей без памяти является экспоненциальное распределение , поэтому безпамять полностью характеризует экспоненциальное распределение среди всех непрерывных. Свойство получено посредством следующего доказательства:

Чтобы увидеть это, сначала определите выживания S $как$ функцию

S(t)=\Pr(X>t).

Обратите внимание, что $S (t)$ тогда монотонно убывает . Из отношения

\Pr(X>t+s\mid X>t)=\Pr(X>s)

и определение условной вероятности , отсюда следует, что

{\frac {\Pr(X>t+s)}{\Pr(X>t)}}=\Pr(X>s).

Это дает функциональное уравнение (которое является результатом свойства безпамяти):

S(t+s)=S(t)S(s)

Исходя из этого, мы должны иметь, например:

S(2)=S(1)^{2}\quad

S(1)=S(1/2)^{2}{\text{ i.e.}}\quad S(1/2)=S(1)^{1/2}.

В общем:

S(a)=S(1)^{a}

Единственная непрерывная функция, которая будет удовлетворять этому уравнению для любого положительного рационального $a,$ это:

S(a)=S(1)^{a}=e^{\ln(S(1))a}=e^{-\lambda a},

где $\lambda =-\ln(S(1)).$

Следовательно, поскольку $S (a)$ является вероятностью и должна иметь $\lambda >0$ , то любая функция без памяти должна быть экспоненциальной.

Другими словами, $S$ — монотонно убывающая функция (это означает, что для раз $x\leq y,$ затем $S(x)\geq S(y).$ )

Одно только функциональное уравнение будет означать, что $S$ , ограниченное рациональными кратными любого конкретного числа, является экспоненциальной функцией . В сочетании с тем фактом, что $S$ монотонна, это означает, что $S$ во всей своей области определения является экспоненциальной функцией.

Примечания [ править ]

Ссылки [ править ]

Феллер, В. (1971) Введение в теорию вероятностей и ее приложения, Том II (2-е издание), Wiley. Раздел I.3 ISBN 0-471-25709-5

[1] «Заметки о случайных величинах без памяти» (PDF) .

[2] «Цепи Маркова и случайные блуждания» (PDF) .

[1]

[2]