Цепное правило (вероятность)

Не путать с правилом цепочки в исчислении.

В теории вероятностей действует цепное правило. (также называемое общим правилом произведения ) описывает, как вычислить вероятность пересечения, не обязательно независимых , событий или совместного распределения соответственно случайных величин , используя условные вероятности . Это правило позволяет выразить совместную вероятность через только условные вероятности. Это правило особенно используется в контексте дискретных случайных процессов и в приложениях, например, при изучении байесовских сетей , которые описывают распределение вероятностей в терминах условных вероятностей.

Правило цепочки событий

Два события

На два мероприятия $A$ и $B$правило цепочки гласит, что

$\mathbb {P} (A\cap B)=\mathbb {P} (B\mid A)\mathbb {P} (A)$,

где $\mathbb {P} (B\mid A)$ обозначает вероятность условную $B$ данный $A$.

Пример

В урне А находится 1 черный шар и 2 белых шара, а в другой урне Б — 1 черный шар и 3 белых шара. Предположим, мы наугад выбираем урну, а затем выбираем из этой урны шар. Пусть событие $A$ выбирать первую урну, т.е. $\mathbb {P} (A)=\mathbb {P} ({\overline {A}})=1/2$, где ${\overline {A}}$ является дополнительным событием $A$. Пусть событие $B$ будет шанс, что мы выберем белый шар. Шанс выбрать белый шар, если мы выбрали первую урну, равен $\mathbb {P} (B|A)=2/3.$ Пересечение $A\cap B$ затем описывает выбор первой урны и белого шара из нее. Вероятность можно рассчитать по цепному правилу следующим образом:

$\mathbb {P} (A\cap B)=\mathbb {P} (B\mid A)\mathbb {P} (A)={\frac {2}{3}}\cdot {\frac {1}{2}}={\frac {1}{3}}.$

Конечно много событий

Для мероприятий $A_{1},\ldots ,A_{n}$ чье пересечение не имеет нулевой вероятности, гласит цепное правило

${\begin{aligned}\mathbb {P} \left(A_{1}\cap A_{2}\cap \ldots \cap A_{n}\right)&=\mathbb {P} \left(A_{n}\mid A_{1}\cap \ldots \cap A_{n-1}\right)\mathbb {P} \left(A_{1}\cap \ldots \cap A_{n-1}\right)\\&=\mathbb {P} \left(A_{n}\mid A_{1}\cap \ldots \cap A_{n-1}\right)\mathbb {P} \left(A_{n-1}\mid A_{1}\cap \ldots \cap A_{n-2}\right)\mathbb {P} \left(A_{1}\cap \ldots \cap A_{n-2}\right)\\&=\mathbb {P} \left(A_{n}\mid A_{1}\cap \ldots \cap A_{n-1}\right)\mathbb {P} \left(A_{n-1}\mid A_{1}\cap \ldots \cap A_{n-2}\right)\cdot \ldots \cdot \mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{1})\\&=\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\cdot \ldots \cdot \mathbb {P} (A_{n}\mid A_{1}\cap \dots \cap A_{n-1})\\&=\prod _{k=1}^{n}\mathbb {P} (A_{k}\mid A_{1}\cap \dots \cap A_{k-1})\\&=\prod _{k=1}^{n}\mathbb {P} \left(A_{k}\,{\Bigg |}\,\bigcap _{j=1}^{k-1}A_{j}\right).\end{aligned}}$

Пример 1

Для $n=4$, то есть четыре события, правило цепочки гласит:

${\begin{aligned}\mathbb {P} (A_{1}\cap A_{2}\cap A_{3}\cap A_{4})&=\mathbb {P} (A_{4}\mid A_{3}\cap A_{2}\cap A_{1})\mathbb {P} (A_{3}\cap A_{2}\cap A_{1})\\&=\mathbb {P} (A_{4}\mid A_{3}\cap A_{2}\cap A_{1})\mathbb {P} (A_{3}\mid A_{2}\cap A_{1})\mathbb {P} (A_{2}\cap A_{1})\\&=\mathbb {P} (A_{4}\mid A_{3}\cap A_{2}\cap A_{1})\mathbb {P} (A_{3}\mid A_{2}\cap A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{1})\end{aligned}}$.

Пример 2

Из колоды в 52 карты случайным образом вытягиваем 4 карты без замены. Какова вероятность того, что мы выбрали 4 туза?

Сначала мы устанавливаем ${\textstyle A_{n}:=\left\{{\text{draw an ace in the }}n^{\text{th}}{\text{ try}}\right\}}$. Очевидно, мы получаем следующие вероятности

$\mathbb {P} (A_{1})={\frac {4}{52}},\qquad \mathbb {P} (A_{2}\mid A_{1})={\frac {3}{51}},\qquad \mathbb {P} (A_{3}\mid A_{1}\cap A_{2})={\frac {2}{50}},\qquad \mathbb {P} (A_{4}\mid A_{1}\cap A_{2}\cap A_{3})={\frac {1}{49}}$.

Применяя правило цепочки,

$\mathbb {P} (A_{1}\cap A_{2}\cap A_{3}\cap A_{4})={\frac {4}{52}}\cdot {\frac {3}{51}}\cdot {\frac {2}{50}}\cdot {\frac {1}{49}}$.

Формулировка теоремы и доказательство

Позволять $(\Omega ,{\mathcal {A}},\mathbb {P} )$ быть вероятностным пространством. Напомним, что вероятность условная $A\in {\mathcal {A}}$ данный $B\in {\mathcal {A}}$ определяется как

${\begin{aligned}\mathbb {P} (A\mid B):={\begin{cases}{\frac {\mathbb {P} (A\cap B)}{\mathbb {P} (B)}},&\mathbb {P} (B)>0,\\0&\mathbb {P} (B)=0.\end{cases}}\end{aligned}}$

Тогда мы имеем следующую теорему.

Цепное правило — Пусть $(\Omega ,{\mathcal {A}},\mathbb {P} )$ быть вероятностным пространством. Позволять $A_{1},...,A_{n}\in {\mathcal {A}}$. Затем

${\begin{aligned}\mathbb {P} \left(A_{1}\cap A_{2}\cap \ldots \cap A_{n}\right)&=\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\cdot \ldots \cdot \mathbb {P} (A_{n}\mid A_{1}\cap \dots \cap A_{n-1})\\&=\mathbb {P} (A_{1})\prod _{j=2}^{n}\mathbb {P} (A_{j}\mid A_{1}\cap \dots \cap A_{j-1}).\end{aligned}}$

Доказательство

Формула немедленно следует из рекурсии

${\begin{aligned}(1)&&&\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})&=&\qquad \mathbb {P} (A_{1}\cap A_{2})\\(2)&&&\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})&=&\qquad \mathbb {P} (A_{1}\cap A_{2})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\\&&&&=&\qquad \mathbb {P} (A_{1}\cap A_{2}\cap A_{3}),\end{aligned}}$

где мы использовали определение условной вероятности на первом этапе.

Цепное правило для дискретных случайных величин

Две случайные величины

Для двух дискретных случайных величин $X,Y$, мы используем события $A:=\{X=x\}$и $B:=\{Y=y\}$в приведенном выше определении и найдите совместное распределение как

$\mathbb {P} (X=x,Y=y)=\mathbb {P} (X=x\mid Y=y)\mathbb {P} (Y=y),$

или

$\mathbb {P} _{(X,Y)}(x,y)=\mathbb {P} _{X\mid Y}(x\mid y)\mathbb {P} _{Y}(y),$

где $\mathbb {P} _{X}(x):=\mathbb {P} (X=x)$это вероятностей распределение $X$ и $\mathbb {P} _{X\mid Y}(x\mid y)$ условное распределение вероятностей $X$ данный $Y$.

Конечное число случайных величин

Позволять $X_{1},\ldots ,X_{n}$ быть случайными величинами и $x_{1},\dots ,x_{n}\in \mathbb {R}$. По определению условной вероятности,

$\mathbb {P} \left(X_{n}=x_{n},\ldots ,X_{1}=x_{1}\right)=\mathbb {P} \left(X_{n}=x_{n}|X_{n-1}=x_{n-1},\ldots ,X_{1}=x_{1}\right)\mathbb {P} \left(X_{n-1}=x_{n-1},\ldots ,X_{1}=x_{1}\right)$

и используя цепное правило, где мы устанавливаем $A_{k}:=\{X_{k}=x_{k}\}$, мы можем найти совместное распределение как

${\begin{aligned}\mathbb {P} \left(X_{1}=x_{1},\ldots X_{n}=x_{n}\right)&=\mathbb {P} \left(X_{1}=x_{1}\mid X_{2}=x_{2},\ldots ,X_{n}=x_{n}\right)\mathbb {P} \left(X_{2}=x_{2},\ldots ,X_{n}=x_{n}\right)\\&=\mathbb {P} (X_{1}=x_{1})\mathbb {P} (X_{2}=x_{2}\mid X_{1}=x_{1})\mathbb {P} (X_{3}=x_{3}\mid X_{1}=x_{1},X_{2}=x_{2})\cdot \ldots \\&\qquad \cdot \mathbb {P} (X_{n}=x_{n}\mid X_{1}=x_{1},\dots ,X_{n-1}=x_{n-1})\\\end{aligned}}$

Пример

Для $n=3$, т.е. учитывая три случайные величины. Тогда правило цепочки гласит:

${\begin{aligned}\mathbb {P} _{(X_{1},X_{2},X_{3})}(x_{1},x_{2},x_{3})&=\mathbb {P} (X_{1}=x_{1},X_{2}=x_{2},X_{3}=x_{3})\\&=\mathbb {P} (X_{3}=x_{3}\mid X_{2}=x_{2},X_{1}=x_{1})\mathbb {P} (X_{2}=x_{2},X_{1}=x_{1})\\&=\mathbb {P} (X_{3}=x_{3}\mid X_{2}=x_{2},X_{1}=x_{1})\mathbb {P} (X_{2}=x_{2}\mid X_{1}=x_{1})\mathbb {P} (X_{1}=x_{1})\\&=\mathbb {P} _{X_{3}\mid X_{2},X_{1}}(x_{3}\mid x_{2},x_{1})\mathbb {P} _{X_{2}\mid X_{1}}(x_{2}\mid x_{1})\mathbb {P} _{X_{1}}(x_{1}).\end{aligned}}$

Библиография

• Рене Л. Шиллинг (2021), Мера, интеграл, вероятность и процессы - вероятностный теоретический минимум (1-е изд.), Технический университет Дрездена, Германия, ISBN  979-8-5991-0488-9 {{citation}}: CS1 maint: отсутствует местоположение издателя ( ссылка )
• Уильям Феллер (1968), Введение в теорию вероятностей и ее приложения , том. Я (3-е изд.), Нью-Йорк / Лондон / Сидней: Wiley, ISBN  978-0-471-25708-0
• Рассел, Стюарт Дж .; Норвиг, Питер (2003), Искусственный интеллект: современный подход (2-е изд.), Аппер-Сэддл-Ривер, Нью-Джерси: Прентис-Холл, ISBN  0-13-790395-2 , с. 496.