Функция массы вероятности

График функции вероятностной массы. Все значения этой функции должны быть неотрицательными и в сумме давать 1.

В теории вероятности и статистике — функция массы вероятности (иногда называемая функцией вероятности или функцией частоты). ) — это функция, которая дает вероятность того, что дискретная случайная величина в точности равна некоторому значению. Иногда ее также называют дискретной функцией плотности вероятности . Функция массы вероятности часто является основным средством определения дискретного распределения вероятностей , и такие функции существуют как для скалярных , так и для многомерных случайных величин которых , область определения дискретна.

Функция массы вероятности отличается от функции плотности вероятности (PDF) тем, что последняя связана с непрерывными, а не дискретными случайными величинами. PDF должен быть проинтегрирован по интервалу, чтобы получить вероятность.

Значение случайной величины, имеющее наибольшую массу вероятности, называется модой .

Формальное определение

Функция массы вероятности представляет собой распределение вероятностей дискретной случайной величины и определяет возможные значения и связанные с ними вероятности. Это функция $p:\mathbb {R} \to [0,1]$ определяется

$p_{X}(x)=P(X=x)$

для $-\infty <x<\infty$, где $P$ является вероятностной мерой . $p_{X}(x)$ также можно упростить как $p(x)$.

Вероятности, связанные со всеми (гипотетическими) значениями, должны быть неотрицательными и в сумме достигать 1.

$$\sum _{x}p_{X}(x)=1$$

и

$$p_{X}(x)\geq 0.$$

Представление о вероятности как о массе помогает избежать ошибок, поскольку физическая масса сохраняется, как и общая вероятность для всех гипотетических результатов. $x$.

формулировка

Массовая функция вероятности дискретной случайной величины $X$можно рассматривать как частный случай двух более общих теоретико-мерных конструкций: распространение ​ ​ $X$ и плотности вероятности функция $X$по счетной мере . Ниже мы уточним это.

Предположим, что $(A,{\mathcal {A}},P)$это вероятностное пространство и это $(B,{\mathcal {B}})$ - это измеримое пространство, основная σ-алгебра которого дискретна, поэтому, в частности, содержит одноэлементные множества $B$. В этом случае случайная величина $X\colon A\to B$дискретна, если ее образ счетен. Мера продвижения вперед $X_{*}(P)$— называется распределением $X$ в данном контексте — это вероятностная мера $B$ ограничение которого на одноэлементные множества индуцирует функцию массы вероятности (как упоминалось в предыдущем разделе) $f_{X}\colon B\to \mathbb {R}$ с $f_{X}(b)=P(X^{-1}(b))=P(X=b)$ для каждого $b\in B$.

Теперь предположим, что $(B,{\mathcal {B}},\mu )$ – это измерительное пространство , снабженное счетной мерой $\mu$. Функция плотности вероятности $f$ из $X$ по счетной мере, если она существует, является производной Радона–Никодима от прямой меры $X$ (по счетной мере), поэтому $f=dX_{*}P/d\mu$ и $f$ это функция от $B$к неотрицательным действительным числам. Как следствие, для любого $b\in B$ у нас есть

$$P(X=b)=P(X^{-1}(b))=X_{*}(P)(b)=\int _{b}fd\mu =f(b),$$

демонстрируя это $f$ на самом деле является функцией вероятностной массы.

Когда существует естественный порядок среди потенциальных результатов $x$, может оказаться удобным присвоить им числовые значения (или n -кортежи в случае дискретной многомерной случайной величины ) и рассматривать также значения, не образу соответствующие $X$. То есть, $f_{X}$ может быть определен для всех действительных чисел и $f_{X}(x)=0$ для всех $x\notin X(S)$ как показано на рисунке.

Образ $X$ имеет счетное подмножество, на котором функция массы вероятности $f_{X}(x)$это один. Следовательно, функция массы вероятности равна нулю для всех значений, кроме счетного числа. $x$.

Разрыв функций массы вероятности связан с тем, что кумулятивная функция распределения дискретной случайной величины также является разрывной. Если $X$ является дискретной случайной величиной, то $P(X=x)=1$ означает, что случайное событие $(X=x)$достоверен (это верно в 100% случаев); Напротив, $P(X=x)=0$ означает, что случайное событие $(X=x)$всегда невозможно. Это утверждение неверно для непрерывной случайной величины. $X$, для которого $P(X=x)=0$ для любого возможного $x$. Дискретизация – это процесс преобразования непрерывной случайной величины в дискретную.

Примеры

Основные статьи: распределение Бернулли , биномиальное распределение и геометрическое распределение.

Конечный

Связано три основных распределения: распределение Бернулли , биномиальное распределение и геометрическое распределение .

• Распределение Бернулли: ber(p) используется для моделирования эксперимента только с двумя возможными результатами. Эти два результата часто кодируются как 1 и 0.
  $$p_{X}(x)={\begin{cases}p,&{\text{if }}x{\text{ is 1}}\\1-p,&{\text{if }}x{\text{ is 0}}\end{cases}}$$
  Примером распределения Бернулли является подбрасывание монеты. Предположим, что $S$ - это выборочное пространство всех результатов одного броска честной монеты, и $X$ случайная величина, определенная на $S$присвоение 0 категории «решка» и 1 категории «орел». Поскольку монета честная, функция массы вероятности равна
  $$p_{X}(x)={\begin{cases}{\frac {1}{2}},&x=0,\\{\frac {1}{2}},&x=1,\\0,&x\notin \{0,1\}.\end{cases}}$$
• Биномиальное распределение моделирует количество успехов, когда кто-то вытягивает n раз с заменой. Каждый розыгрыш или эксперимент независим и имеет два возможных результата. Соответствующая функция массы вероятности равна ${\textstyle {\binom {n}{k}}p^{k}(1-p)^{n-k}}$.

  

  Массовая функция вероятности игральной кости . Все числа на кубике имеют равные шансы оказаться сверху, когда кубик перестанет катиться.

  Примером биномиального распределения является вероятность выпадения ровно одной шестерки, если кто-то трижды бросит честную игральную кость.
• Геометрическое распределение описывает количество попыток, необходимых для достижения одного успеха. Его функция массы вероятности равна ${\textstyle p_{X}(k)=(1-p)^{k-1}p}$.
  Пример — подбрасывание монеты до тех пор, пока не выпадет первый «орёл». $p$ обозначает вероятность выпадения «орла», а $k$ обозначает количество необходимых бросков монеты.
  Другими распределениями, которые можно смоделировать с помощью функции массы вероятности, являются категориальное распределение (также известное как обобщенное распределение Бернулли) и полиномиальное распределение .
• Если дискретное распределение имеет две или более категории, одна из которых может возникнуть, независимо от того, имеют ли эти категории естественный порядок или нет, то при наличии только одной попытки (розыгрыша) это категориальное распределение.
• Примером многомерного дискретного распределения и его функции вероятностной массы является полиномиальное распределение . Здесь множественные случайные величины представляют собой количество успехов в каждой из категорий после заданного количества испытаний, а каждая ненулевая вероятностная масса дает вероятность определенной комбинации чисел успехов в различных категориях.

Бесконечный

Следующее экспоненциально убывающее распределение является примером распределения с бесконечным числом возможных результатов — все положительные целые числа:

$${\text{Pr}}(X=i)={\frac {1}{2^{i}}}\qquad {\text{for }}i=1,2,3,\dots$$

Несмотря на бесконечное количество возможных результатов, общая масса вероятности равна 1/2 + 1/4 + 1/8 + ⋯ = 1, что удовлетворяет требованию единичной общей вероятности для распределения вероятностей.

Многомерный случай

Основная статья: Совместное распределение вероятностей

Две или более дискретных случайных величин имеют совместную массовую функцию вероятности, которая дает вероятность каждой возможной комбинации реализаций случайных величин.

Дальнейшее чтение

• Джонсон, Нидерланды; Коц, С.; Кемп, А. (1993). Одномерные дискретные распределения (2-е изд.). Уайли. п. 36 . ISBN  0-471-54897-9 .