Уравнение Вальда

В теории вероятностей , уравнение Вальда , тождество Вальда. или лемма Вальда является важным тождеством , упрощающим вычисление ожидаемого значения суммы случайного числа случайных величин. В своей простейшей форме он связывает математическое ожидание суммы случайных чисел с конечным средним, независимыми и одинаково распределенными случайными величинами с ожидаемым числом членов в сумме и общим ожиданием случайных величин при условии, что количество членов в сумма не зависит от слагаемых.

Уравнение названо в честь математика Абрахама Вальда . Тождество для второго момента дается уравнением Блэквелла – Гиршика .

Базовая версия

Пусть ( X _n ) _{n ∈ $\mathbb {N}$} — последовательность действительных , независимых и одинаково распределенных случайных величин, и пусть N ≥ 0 — целочисленная случайная величина, независимая от последовательности ( X _n ) _{n ∈ $\mathbb {N}$}. Предположим, что N и X _n имеют конечные ожидания. Затем

$\operatorname {E} [X_{1}+\dots +X_{N}]=\operatorname {E} [N]\operatorname {E} [X_{1}]\,.$

Пример

Бросьте шестигранный кубик . Возьмите число на игральной кости (назовем его N ) и бросьте это количество шестигранных кубиков, чтобы получить числа X ₁ , . . . , X _N и сложите их значения. По уравнению Вальда результирующая величина в среднем равна

$\operatorname {E} [N]\operatorname {E} [X]={\frac {1+2+3+4+5+6}{6}}\cdot {\frac {1+2+3+4+5+6}{6}}={\frac {441}{36}}={\frac {49}{4}}=12.25\,.$

Общая версия

Пусть ( X _n ) _{n ∈ $\mathbb {N}$} — бесконечная последовательность действительных случайных величин, и пусть N — неотрицательная целочисленная случайная величина.

Предположим, что:

1 . ( Икс _п ) _{п ∈ $\mathbb {N}$} все являются интегрируемыми (конечными средними) случайными величинами,

2 . E[ X _n 1 _{{ N ≥ n }} ] = E[ X _n ] P( N ≥ n ) для любого натурального числа n , и

3 . бесконечная серия удовлетворяет

$\sum _{n=1}^{\infty }\operatorname {E} \!{\bigl [}|X_{n}|1_{\{N\geq n\}}{\bigr ]}<\infty .$

Тогда случайные суммы

$S_{N}:=\sum _{n=1}^{N}X_{n},\qquad T_{N}:=\sum _{n=1}^{N}\operatorname {E} [X_{n}]$

интегрируемы и

$\operatorname {E} [S_{N}]=\operatorname {E} [T_{N}].$

Если, кроме того,

4 . ( Икс _п ) _{п ∈ $\mathbb {N}$} у всех одинаковые ожидания, и

5 . N имеет конечное математическое ожидание,

затем

$\operatorname {E} [S_{N}]=\operatorname {E} [N]\,\operatorname {E} [X_{1}].$

Примечание. Обычно название «уравнение Вальда» относится к этому последнему равенству.

Обсуждение предположений

Очевидно, что предположение ( 1 ) необходимо для формулировки предположения ( 2 ) и уравнения Вальда. Предположение ( 2 ) контролирует величину зависимости, разрешенной между последовательностью ( X _n ) _{n ∈ $\mathbb {N}$} и количество N термов; см . в контрпримере ниже необходимость . Обратите внимание, что предположение ( 2 ) выполняется, когда N является моментом остановки для последовательности независимых случайных величин ( X _n ) _{n ∈ $\mathbb {N}$}. Предположение ( 3 ) носит более технический характер, подразумевая абсолютную сходимость и, следовательно, допуская произвольную перестановку бесконечного ряда в доказательстве.

Если предположение ( 5 ) выполнено, то предположение ( 3 ) можно усилить до более простого условия

6 . существует действительная константа C такая, что E[| Икс _п | 1 _{{ N ≥ n }} ] ≤ C P( N ≥ n ) для всех натуральных чисел n .

Действительно, используя предположение ( 6 ),

$\sum _{n=1}^{\infty }\operatorname {E} \!{\bigl [}|X_{n}|1_{\{N\geq n\}}{\bigr ]}\leq C\sum _{n=1}^{\infty }\operatorname {P} (N\geq n),$

и последняя серия равна математическому ожиданию N  ^{[ Доказательство ]} , которое конечно по предположению ( 5 ). Следовательно, ( 5 ) и ( 6 ) влекут за собой предположение ( 3 ).

Предположим в дополнение к ( 1 ) и ( 5 ), что

7 . N не зависит от последовательности ( X _n ) _{n ∈ $\mathbb {N}$} и

8 . существует константа C такая, что E[| X _n |] ≤ C для всех натуральных чисел n .

Тогда все предположения ( 1 ), ( 2 ), ( 5 ) и ( 6 ), а значит, и ( 3 ) выполнены. В частности, условия ( 4 ) и ( 8 ) выполняются, если

9 . случайные величины ( X _n ) _{n ∈ $\mathbb {N}$} все имеют одинаковое распределение.

Заметим, что случайные величины последовательности ( X _n ) _{n ∈ $\mathbb {N}$} не нужно быть независимым.

Интересный момент состоит в том, чтобы допустить некоторую зависимость между случайным числом термов N и последовательностью ( X _n ) _{n ∈ $\mathbb {N}$}. Стандартный вариант — предположить ( 1 ), ( 5 ), ( 8 ) и существование фильтрации ( F _n ) _{n ∈ $\mathbb {N}$0} такой, что

10 . N - время остановки по отношению к фильтрации, и

11 . X _n и F _{n –1} независимы для любого n ∈ $\mathbb {N}$.

Тогда ( 10 ) означает, что событие { N ≥ n } = { N ≤ n – 1} ^с находится в Fn _{– 1} , следовательно, в силу ( ) не зависит от Xn _. 11 Отсюда следует ( 2 ), а вместе с ( 8 ) следует ( 6 ).

Для удобства (см. доказательство ниже с использованием необязательной теоремы об остановке) и для уточнения связи последовательности ( X _n ) _{n ∈ $\mathbb {N}$} и фильтрация ( F _n ) _{n ∈ $\mathbb {N}$0} часто налагается следующее дополнительное предположение:

12 . последовательность ( X _n ) _{n ∈ $\mathbb {N}$} адаптирован к фильтрации ( F _n ) _{n ∈ $\mathbb {N}$}, что означает, что X _n является F _n -измеримым для любого n ∈ $\mathbb {N}$.

Обратите внимание, что ( 11 ) и ( 12 ) вместе означают, что случайные величины ( X _n ) _{n ∈ $\mathbb {N}$} независимы.

Приложение

Приложение относится к актуарной науке , когда рассмотрение общей суммы претензии соответствует сложному процессу Пуассона.

$S_{N}=\sum _{n=1}^{N}X_{n}$

в течение определенного периода времени, скажем, одного года, возникающего в результате случайного числа N отдельных страховых случаев, размеры которых описываются случайными величинами ( X _n ) _{n ∈ $\mathbb {N}$}. При сделанных выше предположениях уравнение Уолда можно использовать для расчета ожидаемой общей суммы претензий, когда доступна информация о среднем количестве претензий в год и среднем размере претензий. основе распределениях рекурсия Панджера может использоваться для расчета распределения SN _{При более строгих предположениях и наличии дополнительной информации о лежащих в} .

Примеры

Пример с зависимыми условиями

Пусть N — интегрируемая величина, $\mathbb {N}$₀ -случайная величина, которая не зависит от интегрируемой действительной случайной величины Z с E[ Z ] = 0 . Определим X _n = (–1) ^н Z для всех n ∈ $\mathbb {N}$. Тогда предположения ( 1 ), ( 5 ), ( 7 ) и ( 8 ) с C := E[| Z |] выполняются, следовательно, также ( 2 ) и ( 6 ), и применяется уравнение Вальда. Если распределение Z несимметрично, то ( 9 ) не выполняется. Заметим, что если Z почти наверняка не равна нулевой случайной величине, то ( 11 ) и ( 12 ) не могут выполняться одновременно ни для какой фильтрации ( F _n ) _{n ∈ $\mathbb {N}$}, поскольку Z не может быть независимым от самого себя, поскольку E[ Z ² ] = (Е[ Z ]) ² = 0 невозможно.

Пример, когда количество членов зависит от последовательности

Пусть ( X _n ) _{n ∈ $\mathbb {N}$} быть последовательностью независимых, симметричных и {–1, +1 }-значных случайных величин. Для каждого n ∈ $\mathbb {N}$ пусть F _n — σ-алгебра, порожденная X ₁ , . . . , X _n и определим N = n , когда X _n — первая случайная величина, принимающая значение +1 . Обратите внимание, что P( N = n ) = 1/2 ^н , следовательно, E[ N ] < ∞ по критерию отношения . Предположения ( 1 ), ( 5 ) и ( 9 ), следовательно, ( 4 ) и ( 8 ) с C = 1 , ( 10 ), ( 11 ) и ( 12 ) выполняются, следовательно, также ( 2 ) и ( 6) ) и применяется уравнение Вальда. Однако ( 7 ) не выполняется, поскольку N определяется через последовательность ( X _n ) _{n ∈ $\mathbb {N}$}. Интуитивно можно было бы ожидать, что в этом примере E[ S _N ] > 0 , поскольку суммирование прекращается сразу после единицы, тем самым, очевидно, создавая положительное смещение. Однако уравнение Уолда показывает, что эта интуиция обманчива.

Контрпримеры

Контрпример, иллюстрирующий необходимость предположения ( 2 )

Рассмотрим последовательность ( X _n ) _{n ∈ $\mathbb {N}$} iid (независимые и одинаково распределенные случайные величины) случайных величин, принимающих каждое из двух значений 0 и 1 с вероятностью ⁠ 1/2 на самом деле ⁠ ( только X ₁ в дальнейшем понадобится ). Определите N = 1 – X ₁ . Тогда SN ₌ тождественно равно нулю, следовательно, [ SN _E ] = 0 , но E[ X ₁ ] ⁠ 1/2 [ ⁠ = и E N ] ⁠ 1 / 2 ⁠ и, следовательно, уравнение Вальда не выполняется. Действительно, предположения ( 1 ), ( 3 ), ( 4 ) и ( 5 ) выполняются, однако уравнение в предположении ( 2 ) выполняется для всех n ∈ $\mathbb {N}$ кроме n = 1 .

Контрпример, иллюстрирующий необходимость предположения ( 3 )

Очень похоже на второй пример выше, пусть ( X _n ) _{n ∈ $\mathbb {N}$} быть последовательностью независимых симметричных случайных величин, где X _n принимает каждое из значений 2 ^н и –2 ^н с вероятностью ⁠ 1/2 ​ ⁠ ​ . Пусть N — первое n ∈ $\mathbb {N}$ такой, что X _n = 2 ^н . Тогда, как и выше, N имеет конечное математическое ожидание, следовательно, предположение ( 5 ) выполнено. Поскольку E[ X _n ] = 0 для всех n ∈ $\mathbb {N}$, предположения ( 1 ) и ( 4 ) выполнены. Однако, поскольку S _N = 1 почти наверняка, уравнение Вальда не может выполняться.

Поскольку N является моментом остановки относительно фильтрации, порожденной ( X _n ) _{n ∈ $\mathbb {N}$}, выполняется предположение ( 2 ), см. выше. Поэтому только предположение ( 3 ) может оказаться неверным, и действительно, поскольку

$\{N\geq n\}=\{X_{i}=-2^{i}{\text{ for }}i=1,\ldots ,n-1\}$

и, следовательно, P( N ≥ n ) = 1/2 ^{п –1} для каждого n ∈ $\mathbb {N}$, отсюда следует, что

$\sum _{n=1}^{\infty }\operatorname {E} \!{\bigl [}|X_{n}|1_{\{N\geq n\}}{\bigr ]}=\sum _{n=1}^{\infty }2^{n}\,\operatorname {P} (N\geq n)=\sum _{n=1}^{\infty }2=\infty .$

Доказательство с использованием необязательной теоремы об остановке.

Предположим ( 1 ), ( 5 ), ( 8 ), ( 10 ), ( 11 ) и ( 12 ). Используя предположение ( 1 ), определим последовательность случайных величин

$M_{n}=\sum _{i=1}^{n}(X_{i}-\operatorname {E} [X_{i}]),\quad n\in {\mathbb {N} }_{0}.$

Из предположения ( 11 ) следует, что условное математическое ожидание X _n при F _{n –1} почти наверняка равно E[ X _n ] для любого n ∈ $\mathbb {N}$, следовательно ( M _n ) _{n ∈ $\mathbb {N}$0} является мартингалом относительно фильтрации ( F _n ) _{n ∈ $\mathbb {N}$0} по предположению ( 12 ). Предположения ( 5 ), ( 8 ) и ( 10 ) гарантируют, что мы можем применить необязательную теорему об остановке , следовательно, M _N = S _N – T _N интегрируемо и

$\operatorname {E} [S_{N}-T_{N}]=\operatorname {E} [M_{0}]=0.$ ( 13 )

По предположению ( 8 ),

$|T_{N}|={\biggl |}\sum _{i=1}^{N}\operatorname {E} [X_{i}]{\biggr |}\leq \sum _{i=1}^{N}\operatorname {E} [|X_{i}|]\leq CN,$

и в силу предположения ( 5 ) эта верхняя оценка интегрируема. Следовательно, мы можем добавить математическое ожидание T _N к обеим частям уравнения ( 13 ) и получить по линейности

$\operatorname {E} [S_{N}]=\operatorname {E} [T_{N}].$

Примечание. Обратите внимание, что это доказательство не распространяется на приведенный выше пример с зависимыми членами .

Общее доказательство

В этом доказательстве используются только теоремы Лебега о монотонной и мажорируемой сходимости . Докажем данное выше утверждение в три этапа.

Шаг 1: Интегрируемость случайной суммы S _N

Сначала покажем, что случайная сумма S _N интегрируема. Определите частичные суммы

$S_{i}=\sum _{n=1}^{i}X_{n},\quad i\in {\mathbb {N} }_{0}.$ ( 14 )

Поскольку N принимает свои значения в $\mathbb {N}$₀ , а поскольку S ₀ = 0 , то отсюда следует, что

$|S_{N}|=\sum _{i=1}^{\infty }|S_{i}|\,1_{\{N=i\}}.$

Из теоремы о монотонной сходимости Лебега следует, что

$\operatorname {E} [|S_{N}|]=\sum _{i=1}^{\infty }\operatorname {E} [|S_{i}|\,1_{\{N=i\}}].$

По неравенству треугольника

$|S_{i}|\leq \sum _{n=1}^{i}|X_{n}|,\quad i\in {\mathbb {N} }.$

Воспользовавшись этой верхней оценкой и изменив порядок суммирования (что разрешено, поскольку все слагаемые неотрицательны), получим

$\operatorname {E} [|S_{N}|]\leq \sum _{n=1}^{\infty }\sum _{i=n}^{\infty }\operatorname {E} [|X_{n}|\,1_{\{N=i\}}]=\sum _{n=1}^{\infty }\operatorname {E} [|X_{n}|\,1_{\{N\geq n\}}],$ ( 15 )

где второе неравенство следует из теоремы о монотонной сходимости. По предположению ( 3 ) бесконечная последовательность в правой части ( 15 ) сходится, следовательно, интегрируема _SN .

Шаг 2: Интегрируемость случайной суммы T _N

Теперь мы покажем, что случайная сумма T _N интегрируема. Определите частичные суммы

$T_{i}=\sum _{n=1}^{i}\operatorname {E} [X_{n}],\quad i\in {\mathbb {N} }_{0},$ ( 16 )

действительных чисел. Поскольку N принимает свои значения в $\mathbb {N}$₀ , а так как T ₀ = 0 , то отсюда следует, что

$|T_{N}|=\sum _{i=1}^{\infty }|T_{i}|\,1_{\{N=i\}}.$

Как и в шаге 1, из теоремы о монотонной сходимости Лебега следует, что

$\operatorname {E} [|T_{N}|]=\sum _{i=1}^{\infty }|T_{i}|\operatorname {P} (N=i).$

По неравенству треугольника

$|T_{i}|\leq \sum _{n=1}^{i}{\bigl |}\!\operatorname {E} [X_{n}]{\bigr |},\quad i\in {\mathbb {N} }.$

Воспользовавшись этой верхней оценкой и изменив порядок суммирования (что разрешено, поскольку все слагаемые неотрицательны), получим

$\operatorname {E} [|T_{N}|]\leq \sum _{n=1}^{\infty }{\bigl |}\!\operatorname {E} [X_{n}]{\bigr |}\underbrace {\sum _{i=n}^{\infty }\operatorname {P} (N=i)} _{=\,\operatorname {P} (N\geq n)},$ ( 17 )

По предположению ( 2 ),

${\bigl |}\!\operatorname {E} [X_{n}]{\bigr |}\operatorname {P} (N\geq n)={\bigl |}\!\operatorname {E} [X_{n}1_{\{N\geq n\}}]{\bigr |}\leq \operatorname {E} [|X_{n}|1_{\{N\geq n\}}],\quad n\in {\mathbb {N} }.$

Подстановка этого в ( 17 ) дает

$\operatorname {E} [|T_{N}|]\leq \sum _{n=1}^{\infty }\operatorname {E} [|X_{n}|1_{\{N\geq n\}}],$

которая конечна по предположению ( 3 ), следовательно, T _N интегрируема.

Шаг 3: Подтверждение личности

Чтобы доказать уравнение Вальда, мы, по сути, снова проходим те же шаги без абсолютного значения, используя интегрируемость случайных сумм SN _. и T _N, чтобы показать, что они имеют одинаковое математическое ожидание

Использование теоремы о доминируемой сходимости с доминирующей случайной величиной | С _Н | и определения частичной суммы S _i, данного в ( 14 ), следует, что

$\operatorname {E} [S_{N}]=\sum _{i=1}^{\infty }\operatorname {E} [S_{i}1_{\{N=i\}}]=\sum _{i=1}^{\infty }\sum _{n=1}^{i}\operatorname {E} [X_{n}1_{\{N=i\}}].$

Благодаря абсолютной сходимости, доказанной в ( 15 ) выше с использованием предположения ( 3 ), мы можем переставить суммирование и получить, что

$\operatorname {E} [S_{N}]=\sum _{n=1}^{\infty }\sum _{i=n}^{\infty }\operatorname {E} [X_{n}1_{\{N=i\}}]=\sum _{n=1}^{\infty }\operatorname {E} [X_{n}1_{\{N\geq n\}}],$

где мы использовали предположение ( 1 ) и теорему о доминируемой сходимости с доминирующей случайной величиной | Икс _п | для второго равенства. В силу предположения ( 2 ) и σ-аддитивности вероятностной меры

${\begin{aligned}\operatorname {E} [X_{n}1_{\{N\geq n\}}]&=\operatorname {E} [X_{n}]\operatorname {P} (N\geq n)\\&=\operatorname {E} [X_{n}]\sum _{i=n}^{\infty }\operatorname {P} (N=i)=\sum _{i=n}^{\infty }\operatorname {E} \!{\bigl [}\operatorname {E} [X_{n}]1_{\{N=i\}}{\bigr ]}.\end{aligned}}$

Подставив этот результат в предыдущее уравнение, перестроив суммирование (что разрешено из-за абсолютной сходимости, см. ( 15 ) выше), используя линейность ожидания и определение частичной суммы T _i ожиданий, данное в ( 16 ),

$\operatorname {E} [S_{N}]=\sum _{i=1}^{\infty }\sum _{n=1}^{i}\operatorname {E} \!{\bigl [}\operatorname {E} [X_{n}]1_{\{N=i\}}{\bigr ]}=\sum _{i=1}^{\infty }\operatorname {E} [\underbrace {T_{i}1_{\{N=i\}}} _{=\,T_{N}1_{\{N=i\}}}].$

Снова используя доминируемую сходимость с доминирующей случайной величиной | Т _Н | ,

$\operatorname {E} [S_{N}]=\operatorname {E} \!{\biggl [}T_{N}\underbrace {\sum _{i=1}^{\infty }1_{\{N=i\}}} _{=\,1_{\{N\geq 1\}}}{\biggr ]}=\operatorname {E} [T_{N}].$

Если предположения ( 4 ) и ( 5 ) выполнены, то в силу линейности ожидания

$\operatorname {E} [T_{N}]=\operatorname {E} \!{\biggl [}\sum _{n=1}^{N}\operatorname {E} [X_{n}]{\biggr ]}=\operatorname {E} [X_{1}]\operatorname {E} \!{\biggl [}\underbrace {\sum _{n=1}^{N}1} _{=\,N}{\biggr ]}=\operatorname {E} [N]\operatorname {E} [X_{1}].$

Это завершает доказательство.

Дальнейшие обобщения

• Уравнение Вальда можно перенести в R ^д -значные случайные величины ( X _n ) _{n ∈ $\mathbb {N}$} применяя одномерную версию к каждому компоненту.
• Если ( X _n ) _{n ∈ $\mathbb {N}$} являются интегрируемыми по Бохнеру случайными величинами, принимающими значения в банаховом пространстве , то приведенное выше общее доказательство можно соответствующим образом скорректировать.

См. также

• Неравенство Лордена
• Мартингейл Вальда
• Формула Спитцера

Ссылки

• Вальд, Авраам (сентябрь 1944 г.). «О совокупных суммах случайных величин» . Анналы математической статистики . 15 (3): 283–296. дои : 10.1214/aoms/1177731235 . JSTOR   2236250 . МР   0010927 . Збл   0063.08122 .
• Вальд, Авраам (1945). «Некоторые обобщения теории кумулятивных сумм случайных величин» . Анналы математической статистики . 16 (3): 287–293. дои : 10.1214/aoms/1177731092 . JSTOR   2235707 . МР   0013852 . Збл   0063.08129 .
• Блэквелл, Д.; Гиршик, Массачусетс (1946). «О функциях последовательностей независимых случайных векторов с приложениями к проблеме «случайного блуждания» в k измерениях» . Энн. Математика. Статист . 17 (3): 310–317. дои : 10.1214/aoms/1177730943 .
• Чан, Хок Пэн; Фух, Ченг-Дер; Ху, Инчи (2006). «Задача многорукого бандита с отношениями старшинства». Временные ряды и связанные темы . Конспект лекций Института математической статистики - Серия монографий. Том. 52. С. 223–235. arXiv : math/0702819 . дои : 10.1214/074921706000001067 . ISBN  978-0-940600-68-3 . S2CID   18813099 .

Внешние ссылки

• «Тождество Вальда» , Математическая энциклопедия , EMS Press , 2001 [1994]