Кумулятивная функция распределения

Кумулятивная функция распределения для экспоненциального распределения

Кумулятивная функция распределения для нормального распределения

В теории вероятностей и статистике — кумулятивная функция распределения ( CDF ) вещественной случайной величины. $X$или просто распределения функция $X$, оцененный в $x$, – вероятность того, что $X$ примет значение меньше или равное $x$.

Каждое распределение вероятностей, поддерживаемое действительными числами, дискретными или «смешанными», а также непрерывными , однозначно идентифицируется непрерывной справа монотонно возрастающей функцией ( функцией càdlàg ). $F\colon \mathbb {R} \rightarrow [0,1]$ удовлетворяющий $\lim _{x\rightarrow -\infty }F(x)=0$ и $\lim _{x\rightarrow \infty }F(x)=1$.

В случае скалярного непрерывного распределения это дает площадь под функцией плотности вероятности от отрицательной бесконечности до $x$. Кумулятивные функции распределения также используются для определения распределения многомерных случайных величин .

Определение

Кумулятивная функция распределения действительной случайной величины $X$ это функция, заданная

$$F_{X}(x)=\operatorname {P} (X\leq x)$$ ( Уравнение 1 )

где правая часть представляет вероятность того, что случайная величина $X$ принимает значение меньше или равное $x$.

Вероятность того, что $X$ лежит в полузамкнутом интервале $(a,b]$, где $a<b$, поэтому

$$\operatorname {P} (a<X\leq b)=F_{X}(b)-F_{X}(a)$$ ( Уравнение 2 )

В приведенном выше определении знак «меньше или равно», «≤», является соглашением, а не общепринятым (например, в венгерской литературе используется «<»), но это различие важно для дискретных распределений. Правильное использование таблиц биномиального распределения и распределения Пуассона зависит от этого соглашения. Более того, важные формулы, такие как Поля Леви формула обращения для характеристической функции, также основаны на формулировке «меньше или равно».

Если рассматривать несколько случайных величин $X,Y,\ldots$ и т. д. соответствующие буквы используются в качестве нижних индексов, тогда как, если рассматривается только одна, нижний индекс обычно опускается. Традиционно используют заглавную букву $F$ для кумулятивной функции распределения, в отличие от строчной $f$ используется для функций плотности вероятности и функций массы вероятности . Это применимо при обсуждении общих распределений: некоторые конкретные распределения имеют свои собственные общепринятые обозначения, например, нормальное распределение использует $\Phi$ и $\phi$ вместо $F$ и $f$, соответственно.

Функция плотности вероятности непрерывной случайной величины может быть определена из кумулятивной функции распределения путем дифференцирования использование Фундаментальной теоремы исчисления ; т.е. данный $F(x)$, $$f(x)={\frac {dF(x)}{dx}}$$пока существует производная.

CDF непрерывной случайной величины $X$ может быть выражено как интеграл от его функции плотности вероятности $f_{X}$ следующее: $$F_{X}(x)=\int _{-\infty }^{x}f_{X}(t)\,dt.$$

В случае случайной величины $X$ который имеет распределение, имеющее дискретную составляющую со значением $b$, $$\operatorname {P} (X=b)=F_{X}(b)-\lim _{x\to b^{-}}F_{X}(x).$$

Если $F_{X}$ является непрерывным в $b$, это равно нулю и дискретная составляющая при $b$.

Характеристики

Сверху вниз: кумулятивная функция распределения дискретного распределения вероятностей, непрерывного распределения вероятностей и распределения, которое имеет как непрерывную, так и дискретную часть.

Пример кумулятивной функции распределения со счетным множеством разрывов.

Каждая кумулятивная функция распределения $F_{X}$ уменьшается не и непрерывной справа , что делает его функцией кадлага . Более того, $$\lim _{x\to -\infty }F_{X}(x)=0,\quad \lim _{x\to +\infty }F_{X}(x)=1.$$

Каждая функция с этими тремя свойствами представляет собой CDF, т. е. для каждой такой функции можно определить случайную величину , которая будет кумулятивной функцией распределения этой случайной величины.

Если $X$ является чисто дискретной случайной величиной , то она принимает значения $x_{1},x_{2},\ldots$ с вероятностью $p_{i}=p(x_{i})$и CDF $X$ будет разрывным в точках $x_{i}$: $$F_{X}(x)=\operatorname {P} (X\leq x)=\sum _{x_{i}\leq x}\operatorname {P} (X=x_{i})=\sum _{x_{i}\leq x}p(x_{i}).$$

Если ВПР $F_{X}$ действительной случайной величины $X$ является непрерывным , то $X$ — непрерывная случайная величина ; если кроме того $F_{X}$ , абсолютно непрерывна то существует интегрируемая по Лебегу функция $f_{X}(x)$ такой, что $$F_{X}(b)-F_{X}(a)=\operatorname {P} (a<X\leq b)=\int _{a}^{b}f_{X}(x)\,dx$$для всех действительных чисел $a$ и $b$. Функция $f_{X}$ равна производной ​ $F_{X}$ почти всюду , и она называется функцией плотности вероятности распределения $X$.

Если $X$ имеет конечную L1-норму , т. е. математическое ожидание $|X|$ конечно, то математическое ожидание задается интегралом Римана–Стилтьеса $$\mathbb {E} [X]=\int _{-\infty }^{\infty }tdF_{X}(t)$$и для любого $x\geq 0$,

График CDF с двумя красными прямоугольниками, иллюстрирующий $x(1-F_{X}(x))\leq \int _{x}^{\infty }tdF_{X}(t)$ и $xF_{X}(-x)\leq \int _{-\infty }^{-x}(-t)dF_{X}(t)$.

$${\begin{aligned}x(1-F_{X}(x))&\leq \int _{x}^{\infty }tdF_{X}(t)\\xF_{X}(-x)&\leq \int _{-\infty }^{-x}(-t)dF_{X}(t)\end{aligned}}$$как показано на схеме.

В частности, у нас есть $$\lim _{x\to -\infty }xF(x)=0,\quad \lim _{x\to +\infty }x(1-F(x))=0.$$

Примеры

В качестве примера предположим $X$ на равномерно распределено единичном интервале $[0,1]$.

Тогда CDF $X$ дается $$F_{X}(x)={\begin{cases}0&:\ x<0\\x&:\ 0\leq x\leq 1\\1&:\ x>1\end{cases}}$$

Предположим вместо этого, что $X$ принимает только дискретные значения 0 и 1 с равной вероятностью.

Тогда CDF $X$ дается $$F_{X}(x)={\begin{cases}0&:\ x<0\\1/2&:\ 0\leq x<1\\1&:\ x\geq 1\end{cases}}$$

Предполагать $X$ имеет экспоненциальное распределение . Тогда CDF $X$ дается $$F_{X}(x;\lambda )={\begin{cases}1-e^{-\lambda x}&x\geq 0,\\0&x<0.\end{cases}}$$

Здесь λ > 0 — параметр распределения, часто называемый параметром скорости.

Предполагать $X$ нормально распределен . Тогда CDF $X$ дается $$F(x;\mu ,\sigma )={\frac {1}{\sigma {\sqrt {2\pi }}}}\int _{-\infty }^{x}\exp \left(-{\frac {(t-\mu )^{2}}{2\sigma ^{2}}}\right)\,dt.$$

Здесь параметр $\mu$ среднее или ожидание распределения; и $\sigma$ это его стандартное отклонение.

Таблица CDF стандартного нормального распределения часто используется в статистических приложениях, где ее называют стандартной нормальной таблицей , единичной нормальной таблицей или Z-таблицей .

Предполагать $X$ имеет биномиальное распределение . Тогда CDF $X$ дается $$F(k;n,p)=\Pr(X\leq k)=\sum _{i=0}^{\lfloor k\rfloor }{n \choose i}p^{i}(1-p)^{n-i}$$

Здесь $p$ — вероятность успеха, а функция обозначает дискретное распределение вероятностей числа успехов в последовательности $n$ независимые эксперименты и $\lfloor k\rfloor$ это «пол» под $k$, т.е. наибольшее целое число, меньшее или равное $k$.

Производные функции

Дополнительная кумулятивная функция распределения (хвостовое распределение)

Иногда полезно изучить противоположный вопрос и спросить, как часто случайная величина находится выше определенного уровня. Это называется дополнительная кумулятивная функция распределения ( ccdf ) или просто распределение хвоста или превышение и определяется как $${\bar {F}}_{X}(x)=\operatorname {P} (X>x)=1-F_{X}(x).$$

Это имеет применение, например, при проверке статистических гипотез , потому что одностороннее значение p представляет собой вероятность наблюдения тестовой статистики, по крайней мере, столь же экстремальной, как и наблюдаемая. Таким образом, при условии, что тестовая статистика T имеет непрерывное распределение, одностороннее значение p просто задается ccdf: для наблюдаемого значения $t$ статистики теста $$p=\operatorname {P} (T\geq t)=\operatorname {P} (T>t)=1-F_{T}(t).$$

В анализе выживания ${\bar {F}}_{X}(x)$ называется функцией выживания и обозначается $S(x)$ часто используется термин «функция надежности» , тогда как в технике .

Характеристики

• Для неотрицательной непрерывной случайной величины, имеющей математическое ожидание, неравенство Маркова утверждает, что $${\bar {F}}_{X}(x)\leq {\frac {\operatorname {E} (X)}{x}}.$$
• Как $x\to \infty ,{\bar {F}}_{X}(x)\to 0$, и в самом деле ${\bar {F}}_{X}(x)=o(1/x)$ при условии, что $\operatorname {E} (X)$ конечно.
  Доказательство:
  Предполагая $X$ имеет функцию плотности $f_{X}$, для любого $c>0$ $$\operatorname {E} (X)=\int _{0}^{\infty }xf_{X}(x)\,dx\geq \int _{0}^{c}xf_{X}(x)\,dx+c\int _{c}^{\infty }f_{X}(x)\,dx$$ Затем, признав $${\bar {F}}_{X}(c)=\int _{c}^{\infty }f_{X}(x)\,dx$$ и перестановка терминов, $$0\leq c{\bar {F}}_{X}(c)\leq \operatorname {E} (X)-\int _{0}^{c}xf_{X}(x)\,dx\to 0{\text{ as }}c\to \infty$$ как заявлено.
• Для случайной величины, имеющей математическое ожидание, $$\operatorname {E} (X)=\int _{0}^{\infty }{\bar {F}}_{X}(x)\,dx-\int _{-\infty }^{0}F_{X}(x)\,dx$$ а для неотрицательной случайной величины второй член равен 0.
  Если случайная величина может принимать только неотрицательные целые значения, это эквивалентно $$\operatorname {E} (X)=\sum _{n=0}^{\infty }{\bar {F}}_{X}(n).$$

Свернутое кумулятивное распределение

Пример свернутого кумулятивного распределения для функции нормального распределения с ожидаемым значением 0 и стандартным отклонением 1.

Хотя график кумулятивного распределения $F$ часто имеет S-образную форму, альтернативной иллюстрацией является свернутое кумулятивное распределение или горный график , который сгибает верхнюю половину графика, то есть

$F_{\text{fold}}(x)=F(x)1_{\{F(x)\leq 0.5\}}+(1-F(x))1_{\{F(x)>0.5\}}$

где $1_{\{A\}}$ обозначает индикаторную функцию , а второе слагаемое — функцию выживаемости , таким образом используются две шкалы: одна для подъема, другая для спада. Эта форма иллюстрации подчеркивает медиану , дисперсию (в частности, среднее абсолютное отклонение от медианы). ) и асимметрия распределения или эмпирических результатов.

Обратная функция распределения (функция квантиля)

Основная статья: Квантильная функция

Если CDF F строго возрастающая и непрерывная, то $F^{-1}(p),p\in [0,1],$ это уникальное действительное число $x$ такой, что $F(x)=p$. Это определяет обратную функцию распределения или функцию квантиля .

Некоторые распределения не имеют уникального обратного (например, если $f_{X}(x)=0$ для всех $a<x<b$, вызывая $F_{X}$ быть постоянным). В этом случае можно использовать обобщенную обратную функцию распределения , которая определяется как

$F^{-1}(p)=\inf\{x\in \mathbb {R} :F(x)\geq p\},\quad \forall p\in [0,1].$

• Пример 1. Медиана равна $F^{-1}(0.5)$.
• Пример 2: Поместите $\tau =F^{-1}(0.95)$. Затем мы позвоним $\tau$ 95-й процентиль.

Некоторые полезные свойства обратной функции распределения (которые также сохраняются в определении обобщенной обратной функции распределения):

1. $F^{-1}$ не убывает
2. $F^{-1}(F(x))\leq x$
3. $F(F^{-1}(p))\geq p$
4. $F^{-1}(p)\leq x$ тогда и только тогда, когда $p\leq F(x)$
5. Если $Y$ имеет $U[0,1]$ распространение тогда $F^{-1}(Y)$ распространяется как $F$. Это используется при генерации случайных чисел с использованием метода выборки обратного преобразования .
6. Если $\{X_{\alpha }\}$ представляет собой совокупность независимых $F$-распределенные случайные величины определены в одном и том же выборочном пространстве, то существуют случайные величины $Y_{\alpha }$ такой, что $Y_{\alpha }$ распространяется как $U[0,1]$ и $F^{-1}(Y_{\alpha })=X_{\alpha }$ с вероятностью 1 для всех $\alpha$.

Обратный CDF можно использовать для перевода результатов, полученных для равномерного распределения, в другие распределения.

Эмпирическая функция распределения

Эмпирическая функция распределения — это оценка кумулятивной функции распределения, которая сформировала точки в выборке. Оно сходится с вероятностью 1 к этому основному распределению. Существует ряд результатов для количественной оценки скорости сходимости эмпирической функции распределения к базовой кумулятивной функции распределения.

Многомерный случай

Определение двух случайных величин

При одновременной работе с более чем одной случайной величиной совместную кумулятивную функцию распределения также можно определить . Например, для пары случайных величин $X,Y$, совместный CDF $F_{XY}$ дается

$$F_{X,Y}(x,y)=\operatorname {P} (X\leq x,Y\leq y)$$ ( Уравнение 3 )

где правая часть представляет вероятность того, что случайная величина $X$ принимает значение меньше или равное $x$ и это $Y$ принимает значение меньше или равное $y$.

Пример совместной кумулятивной функции распределения:

Для двух непрерывных переменных X и Y : $$\Pr(a<X<b{\text{ and }}c<Y<d)=\int _{a}^{b}\int _{c}^{d}f(x,y)\,dy\,dx;$$

Для двух дискретных случайных величин полезно создать таблицу вероятностей и определить кумулятивную вероятность для каждого потенциального диапазона X и Y , и вот пример:

учитывая совместную функцию массы вероятности в табличной форме, определите совместную кумулятивную функцию распределения.

	Y = 2	Д = 4	Д = 6	Д = 8
Х = 1	0	0.1	0	0.1
Х = 3	0	0	0.2	0
Х = 5	0.3	0	0	0.15
Х = 7	0	0	0.15	0

Решение: используя приведенную таблицу вероятностей для каждого потенциального диапазона X и Y , можно построить совместную кумулятивную функцию распределения в табличной форме:

	Д < 2	Y ≤ 2	Y ≤ 4	Y ≤ 6	Y ≤ 8
Х < 1	0	0	0	0	0
Х ≤ 1	0	0	0.1	0.1	0.2
Х ≤ 3	0	0	0.1	0.3	0.4
Х ≤ 5	0	0.3	0.4	0.6	0.85
Х ≤ 7	0	0.3	0.4	0.75	1

Определение для более чем двух случайных величин

Для $N$ случайные величины $X_{1},\ldots ,X_{N}$, совместный CDF $F_{X_{1},\ldots ,X_{N}}$ дается

$$F_{X_{1},\ldots ,X_{N}}(x_{1},\ldots ,x_{N})=\operatorname {P} (X_{1}\leq x_{1},\ldots ,X_{N}\leq x_{N})$$ ( Уравнение 4 )

Интерпретация $N$ случайные величины как случайный вектор $\mathbf {X} =(X_{1},\ldots ,X_{N})^{T}$ дает более короткое обозначение: $$F_{\mathbf {X} }(\mathbf {x} )=\operatorname {P} (X_{1}\leq x_{1},\ldots ,X_{N}\leq x_{N})$$

Характеристики

Каждый многомерный CDF – это:

1. Монотонно неубывающая для каждой из своих переменных,
2. Непрерывен справа по каждой из своих переменных,
3. $0\leq F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})\leq 1,$
4. $$\lim _{x_{1},\ldots ,x_{n}\rightarrow +\infty }F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})=1{\text{ and }}\lim _{x_{i}\rightarrow -\infty }F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})=0,{\text{for all }}i.$$

Не каждая функция, удовлетворяющая четырем вышеперечисленным свойствам, является многомерной CDF, в отличие от одномерного случая. Например, пусть $F(x,y)=0$ для $x<0$ или $x+y<1$ или $y<0$ и пусть $F(x,y)=1$ в противном случае. Легко видеть, что указанные выше условия выполняются, и тем не менее $F$ не является CDF, поскольку если бы это было так, то ${\textstyle \operatorname {P} \left({\frac {1}{3}}<X\leq 1,{\frac {1}{3}}<Y\leq 1\right)=-1}$ как объяснено ниже.

Вероятность того, что точка принадлежит гиперпрямоугольнику, аналогична одномерному случаю: $$F_{X_{1},X_{2}}(a,c)+F_{X_{1},X_{2}}(b,d)-F_{X_{1},X_{2}}(a,d)-F_{X_{1},X_{2}}(b,c)=\operatorname {P} (a<X_{1}\leq b,c<X_{2}\leq d)=\int ...$$

Сложный случай

Сложная случайная величина

Обобщение кумулятивной функции распределения от вещественных случайных величин к комплексным неочевидно, поскольку выражения вида $P(Z\leq 1+2i)$ не имеет смысла. Однако выражения вида $P(\Re {(Z)}\leq 1,\Im {(Z)}\leq 3)$ имеет смысл. Поэтому мы определяем кумулятивное распределение комплексных случайных величин через совместное распределение их действительной и мнимой частей: $$F_{Z}(z)=F_{\Re {(Z)},\Im {(Z)}}(\Re {(z)},\Im {(z)})=P(\Re {(Z)}\leq \Re {(z)},\Im {(Z)}\leq \Im {(z)}).$$

Комплексный случайный вектор

Обобщение уравнения 4 дает $$F_{\mathbf {Z} }(\mathbf {z} )=F_{\Re {(Z_{1})},\Im {(Z_{1})},\ldots ,\Re {(Z_{n})},\Im {(Z_{n})}}(\Re {(z_{1})},\Im {(z_{1})},\ldots ,\Re {(z_{n})},\Im {(z_{n})})=\operatorname {P} (\Re {(Z_{1})}\leq \Re {(z_{1})},\Im {(Z_{1})}\leq \Im {(z_{1})},\ldots ,\Re {(Z_{n})}\leq \Re {(z_{n})},\Im {(Z_{n})}\leq \Im {(z_{n})})$$как определение CDS комплексного случайного вектора $\mathbf {Z} =(Z_{1},\ldots ,Z_{N})^{T}$.

Использование в статистическом анализе

Концепция кумулятивной функции распределения явно проявляется в статистическом анализе двумя (похожими) способами. Кумулятивный частотный анализ – это анализ частоты появления значений явления меньше эталонного значения. Эмпирическая функция распределения представляет собой формальную прямую оценку кумулятивной функции распределения, для которой можно вывести простые статистические свойства и которая может лечь в основу различных проверок статистических гипотез . Такие тесты позволяют оценить, имеются ли доказательства против выборки данных, полученных из данного распределения, или доказательства против двух выборок данных, полученных из одного и того же (неизвестного) распределения населения.

Тесты Колмогорова–Смирнова и тесты Койпера.

Тест Колмогорова-Смирнова основан на кумулятивных функциях распределения и может использоваться для проверки того, различны ли два эмпирических распределения или отличается ли эмпирическое распределение от идеального распределения. Близко связанный тест Койпера полезен, если область распределения циклична, как в случае дней недели. Например, тест Койпера можно использовать, чтобы увидеть, меняется ли количество торнадо в течение года или меняются ли продажи продукта в зависимости от дня недели или дня месяца.

См. также

• Описательная статистика
• Распределительная арматура
• Огив (статистика)
• Модифицированное полунормальное распределение с PDF-файлом на $(0,\infty )$ дается как $f(x)={\frac {2\beta ^{\frac {\alpha }{2}}x^{\alpha -1}\exp(-\beta x^{2}+\gamma x)}{\Psi {\left({\frac {\alpha }{2}},{\frac {\gamma }{\sqrt {\beta }}}\right)}}}$, где $\Psi (\alpha ,z)={}_{1}\Psi _{1}\left({\begin{matrix}\left(\alpha ,{\frac {1}{2}}\right)\\(1,0)\end{matrix}};z\right)$ обозначает Пси-функцию Фокса–Райта .

Внешние ссылки

• СМИ, связанные с функциями совокупного распределения, на Викискладе?