Распределение Лапласа

Лаплас

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	$\mu$ местоположение ( реальное ) $b>0$ масштаб (реальный)
Поддерживать	$\mathbb {R}$
PDF	${\frac {1}{2b}}\exp \left(-{\frac {|x-\mu |}{b}}\right)$
CDF	${\begin{cases}{\frac {1}{2}}\exp \left({\frac {x-\mu }{b}}\right)&{\text{if }}x\leq \mu \\[8pt]1-{\frac {1}{2}}\exp \left(-{\frac {x-\mu }{b}}\right)&{\text{if }}x\geq \mu \end{cases}}$
Квантиль	${\begin{cases}\mu +b\ln \left(2F\right)&{\text{if }}F\leq {\frac {1}{2}}\\[8pt]\mu -b\ln \left(2-2F\right)&{\text{if }}F\geq {\frac {1}{2}}\end{cases}}$
Иметь в виду	$\mu$
медиана	$\mu$
Режим	$\mu$
Дисперсия	$2b^{2}$
БЕЗУМНЫЙ	$b$
асимметрия	$0$
Избыточный эксцесс	$3$
Энтропия	$\log(2be)$
МГФ	${\frac {\exp(\mu t)}{1-b^{2}t^{2}}}{\text{ for }}|t|<1/b$
CF	${\frac {\exp(\mu it)}{1+b^{2}t^{2}}}$
Ожидаемый дефицит	${\begin{cases}\mu +b\left({\frac {p}{1-p}}\right)(1-\ln(2p))&,p<.5\\\mu +b\left(1-\ln \left(2(1-p)\right)\right)&,p\geq .5\end{cases}}$

В теории вероятностей и статистике распределение Лапласа — это непрерывное распределение вероятностей, названное в честь Пьера-Симона Лапласа . Его также иногда называют двойным экспоненциальным распределением , поскольку его можно рассматривать как два экспоненциальных распределения (с дополнительным параметром местоположения), соединенных вместе по оси абсцисс , хотя этот термин также иногда используется для обозначения распределения Гамбеля . Разница между двумя независимыми одинаково распределенными экспоненциальными случайными величинами определяется распределением Лапласа, как и броуновское движение, оцениваемое в экспоненциально распределенное случайное время. . Приращения движения Лапласа или дисперсионный гамма-процесс , оцениваемые во временной шкале, также имеют распределение Лапласа.

Определения

плотности

Случайная величина имеет $\operatorname {Laplace} (\mu ,b)$ распределение, если его функция плотности вероятности равна

$f(x\mid \mu ,b)={\frac {1}{2b}}\exp \left(-{\frac {|x-\mu |}{b}}\right),$

где $\mu$ является параметром местоположения , а $b>0$, который иногда называют «разнообразием», является параметром масштаба . Если $\mu =0$ и $b=1$, положительная полулиния представляет собой в точности экспоненциальное распределение, масштабированное на 1/2.

Функция плотности вероятности распределения Лапласа также напоминает нормальное распределение ; однако, тогда как нормальное распределение выражается в виде квадрата разницы от среднего значения $\mu$, плотность Лапласа выражается через абсолютное отличие от среднего значения. Следовательно, распределение Лапласа имеет более толстые хвосты, чем нормальное распределение. Это частный случай обобщенного нормального распределения и гиперболического распределения . Непрерывные симметричные распределения, которые имеют экспоненциальные хвосты, такие как распределение Лапласа, но которые имеют функции плотности вероятности, дифференцируемые в режиме, включают логистическое распределение , гиперболическое секансное распределение и распределение Чамперноуна .

распределения

Распределение Лапласа легко интегрировать (если различать два симметричных случая) благодаря использованию функции абсолютного значения . Его кумулятивная функция распределения выглядит следующим образом:

${\begin{aligned}F(x)&=\int _{-\infty }^{x}\!\!f(u)\,\mathrm {d} u={\begin{cases}{\frac {1}{2}}\exp \left({\frac {x-\mu }{b}}\right)&{\mbox{if }}x<\mu \\1-{\frac {1}{2}}\exp \left(-{\frac {x-\mu }{b}}\right)&{\mbox{if }}x\geq \mu \end{cases}}\\&={\tfrac {1}{2}}+{\tfrac {1}{2}}\operatorname {sgn}(x-\mu )\left(1-\exp \left(-{\frac {|x-\mu |}{b}}\right)\right).\end{aligned}}$

Обратная кумулятивная функция распределения определяется выражением

$F^{-1}(p)=\mu -b\,\operatorname {sgn}(p-0.5)\,\ln(1-2|p-0.5|).$

Свойства

Моменты

$\mu _{r}'={\bigg (}{\frac {1}{2}}{\bigg )}\sum _{k=0}^{r}{\bigg [}{\frac {r!}{(r-k)!}}b^{k}\mu ^{(r-k)}\{1+(-1)^{k}\}{\bigg ]}.$

Связанные дистрибутивы

• Если $X\sim {\textrm {Laplace}}(\mu ,b)$ затем $kX+c\sim {\textrm {Laplace}}(k\mu +c,|k|b)$.
• Если $X\sim {\textrm {Laplace}}(0,1)$ затем $bX\sim {\textrm {Laplace}}(0,b)$.
• Если $X\sim {\textrm {Laplace}}(0,b)$ затем $\left|X\right|\sim {\textrm {Exponential}}\left(b^{-1}\right)$ ( экспоненциальное распределение ).
• Если $X,Y\sim {\textrm {Exponential}}(\lambda )$ затем $X-Y\sim {\textrm {Laplace}}\left(0,\lambda ^{-1}\right)$．
• Если $X\sim {\textrm {Laplace}}(\mu ,b)$ затем $\left|X-\mu \right|\sim {\textrm {Exponential}}(b^{-1})$.
• Если $X\sim {\textrm {Laplace}}(\mu ,b)$ затем $X\sim {\textrm {EPD}}(\mu ,b,1)$ ( экспоненциальное распределение мощности ).
• Если $X_{1},...,X_{4}\sim {\textrm {N}}(0,1)$ ( нормальное распределение ), тогда $X_{1}X_{2}-X_{3}X_{4}\sim {\textrm {Laplace}}(0,1)$ и $(X_{1}^{2}-X_{2}^{2}+X_{3}^{2}-X_{4}^{2})/2\sim {\textrm {Laplace}}(0,1)$.
• Если $X_{i}\sim {\textrm {Laplace}}(\mu ,b)$ затем ${\frac {\displaystyle 2}{b}}\sum _{i=1}^{n}|X_{i}-\mu |\sim \chi ^{2}(2n)$ ( распределение хи-квадрат ).
• Если $X,Y\sim {\textrm {Laplace}}(\mu ,b)$ затем ${\tfrac {|X-\mu |}{|Y-\mu |}}\sim \operatorname {F} (2,2)$. ( F-распределение )
• Если $X,Y\sim {\textrm {U}}(0,1)$ ( равномерное распределение ), тогда $\log(X/Y)\sim {\textrm {Laplace}}(0,1)$.
• Если $X\sim {\textrm {Exponential}}(\lambda )$ и $Y\sim {\textrm {Bernoulli}}(0.5)$ ( распределение Бернулли ) независимо от $X$, затем $X(2Y-1)\sim {\textrm {Laplace}}\left(0,\lambda ^{-1}\right)$.
• Если $X\sim {\textrm {Exponential}}(\lambda )$ и $Y\sim {\textrm {Exponential}}(\nu )$ независимый от $X$, затем $\lambda X-\nu Y\sim {\textrm {Laplace}}(0,1)$．
• Если $X$ имеет распределение Радемахера и $Y\sim {\textrm {Exponential}}(\lambda )$ затем $XY\sim {\textrm {Laplace}}(0,1/\lambda )$.
• Если $V\sim {\textrm {Exponential}}(1)$ и $Z\sim N(0,1)$ независимый от $V$, затем $X=\mu +b{\sqrt {2V}}Z\sim \mathrm {Laplace} (\mu ,b)$.
• Если $X\sim {\textrm {GeometricStable}}(2,0,\lambda ,0)$ ( геометрическое устойчивое распределение ), тогда $X\sim {\textrm {Laplace}}(0,\lambda )$.
• Распределение Лапласа является предельным случаем гиперболического распределения .
• Если $X|Y\sim {\textrm {N}}(\mu ,Y^{2})$ с $Y\sim {\textrm {Rayleigh}}(b)$ ( распределение Рэлея ) тогда $X\sim {\textrm {Laplace}}(\mu ,b)$. Обратите внимание, что если $Y\sim {\textrm {Rayleigh}}(b)$, затем $Y^{2}\sim {\textrm {Gamma}}(1,2b^{2})$ с ${\textrm {E}}(Y^{2})=2b^{2}$, что, в свою очередь, равно экспоненциальному распределению ${\textrm {Exp}}(1/(2b^{2}))$.
• Учитывая целое число $n\geq 1$, если $X_{i},Y_{i}\sim \Gamma \left({\frac {1}{n}},b\right)$ ( гамма-распределение , используя $k,\theta$ характеристика), то $\sum _{i=1}^{n}\left({\frac {\mu }{n}}+X_{i}-Y_{i}\right)\sim {\textrm {Laplace}}(\mu ,b)$ ( бесконечная делимость )
• Если X имеет распределение Лапласа, то Y = e ^Х имеет логарифмическое распределение Лапласа; и наоборот, если X имеет логарифмическое распределение Лапласа, то его логарифм имеет распределение Лапласа.

Вероятность того, что один Лаплас больше другого

Позволять $X,Y$ быть независимыми случайными величинами Лапласа: $X\sim {\textrm {Laplace}}(\mu _{X},b_{X})$ и $Y\sim {\textrm {Laplace}}(\mu _{Y},b_{Y})$, и мы хотим вычислить $P(X>Y)$.

Вероятность $P(X>Y)$ может быть уменьшено (используя свойства ниже) до $P(\mu +bZ_{1}>Z_{2})$, где $Z_{1},Z_{2}\sim {\textrm {Laplace}}(0,1)$. Эта вероятность равна

$P(\mu +bZ_{1}>Z_{2})={\begin{cases}{\frac {b^{2}e^{\mu /b}-e^{\mu }}{2(b^{2}-1)}},&{\text{when }}\mu <0\\1-{\frac {b^{2}e^{-\mu /b}-e^{-\mu }}{2(b^{2}-1)}},&{\text{when }}\mu >0\\\end{cases}}$

Когда $b=1$, оба выражения заменяются их пределом как $b\to 1$:

$P(\mu +Z_{1}>Z_{2})={\begin{cases}e^{\mu }{\frac {(2-\mu )}{4}},&{\text{when }}\mu <0\\1-e^{-\mu }{\frac {(2+\mu )}{4}},&{\text{when }}\mu >0\\\end{cases}}$

Чтобы вычислить случай для $\mu >0$, Обратите внимание, что $P(\mu +Z_{1}>Z_{2})=1-P(\mu +Z_{1}<Z_{2})=1-P(-\mu -Z_{1}>-Z_{2})=1-P(-\mu +Z_{1}>Z_{2})$

с $Z\sim -Z$ когда $Z\sim {\textrm {Laplace}}(0,1)$

с

Случайную величину Лапласа можно представить как разность двух независимых и одинаково распределенных ( iid ) экспоненциальных случайных величин. Один из способов показать это — использовать подход характеристических функций . Для любого набора независимых непрерывных случайных величин, для любой линейной комбинации этих переменных, его характеристическая функция (которая однозначно определяет распределение) может быть получена путем умножения соответствующих характеристических функций.

Рассмотрим две случайные величины iid $X,Y\sim {\textrm {Exponential}}(\lambda )$. Характеристические функции для $X,-Y$ являются

${\frac {\lambda }{-it+\lambda }},\quad {\frac {\lambda }{it+\lambda }}$

соответственно. При умножении этих характеристических функций (эквивалентных характеристической функции суммы случайных величин $X+(-Y)$), результат

${\frac {\lambda ^{2}}{(-it+\lambda )(it+\lambda )}}={\frac {\lambda ^{2}}{t^{2}+\lambda ^{2}}}.$

Это то же самое, что характеристическая функция для $Z\sim {\textrm {Laplace}}(0,1/\lambda )$, что

${\frac {1}{1+{\frac {t^{2}}{\lambda ^{2}}}}}.$

Распределения Саргана

Распределения Саргана — это система распределений, основным членом которой является распределение Лапласа. А $p$Распределение Саргана четвертого порядка имеет плотность

$f_{p}(x)={\tfrac {1}{2}}\exp(-\alpha |x|){\frac {\displaystyle 1+\sum _{j=1}^{p}\beta _{j}\alpha ^{j}|x|^{j}}{\displaystyle 1+\sum _{j=1}^{p}j!\beta _{j}}},$

для параметров $\alpha \geq 0,\beta _{j}\geq 0$. Результаты распределения Лапласа для $p=0$.

Статистический

Данный $n$ независимые и одинаково распределенные выборки $x_{1},x_{2},...,x_{n}$, максимального правдоподобия (MLE) оценка $\mu$ — выборочная медиана ,

${\hat {\mu }}=\mathrm {med} (x).$

MLE-оценщик $b$ среднее абсолютное отклонение от медианы,

${\hat {b}}={\frac {1}{n}}\sum _{i=1}^{n}|x_{i}-{\hat {\mu }}|.$

выявление связи между распределением Лапласа и наименьшими абсолютными отклонениями .Поправку на небольшие выборки можно внести следующим образом:

${\hat {b}}^{*}={\hat {b}}\cdot n/(n-2)$

(см.: экспоненциальное распределение#Оценка параметров ).

Возникновение и применение

Распределение Лапласа использовалось при распознавании речи для моделирования априорных значений ДПФ . коэффициентов и сжатие изображений JPEG для моделирования коэффициентов переменного тока. генерируется DCT .

• Добавление шума, полученного из распределения Лапласа, с параметром масштабирования, соответствующим чувствительности функции, к выходным данным запроса к статистической базе данных, является наиболее распространенным способом обеспечения дифференциальной конфиденциальности в статистических базах данных.

Распределение Лапласа соответствует максимальному количеству осадков за один день.

• В регрессионном анализе оценка наименьшего абсолютного отклонения возникает как оценка максимального правдоподобия, если ошибки имеют распределение Лапласа.
• Лассо байесовскую можно рассматривать как регрессию с лапласианским априором коэффициентов.
• В гидрологии распределение Лапласа применяется к экстремальным явлениям, таким как годовое максимальное количество осадков за один день и речной сток. Синее изображение, сделанное с помощью CumFreq , иллюстрирует пример аппроксимации распределения Лапласа к ранжированному ежегодному максимальному количеству осадков за один день, демонстрируя также 90% доверительный интервал, основанный на биномиальном распределении . Данные об осадках представлены в виде координат на графике в рамках кумулятивного частотного анализа .
• Распределение Лапласа находит применение в финансах. Например, С.Г. Коу разработал модель цен финансовых инструментов, включающую распределение Лапласа (в некоторых случаях асимметричное распределение Лапласа ) для решения проблем асимметрии , эксцесса и волатильности , которые часто возникают при использовании нормального распределения для ценообразования на эти инструменты.

Распределение Лапласа, являющееся составным или двойным распределением, применимо в ситуациях, когда более низкие значения возникают при других внешних условиях, чем более высокие, поэтому они следуют разной схеме.

Генерация случайной переменной

Дополнительная информация: Генерация неоднородных случайных величин.

Учитывая случайную величину $U$ получено из равномерного распределения в интервале $\left(-1/2,1/2\right)$, случайная величина

$X=\mu -b\,\operatorname {sgn}(U)\,\ln(1-2|U|)$

имеет распределение Лапласа с параметрами $\mu$ и $b$. Это следует из приведенной выше обратной кумулятивной функции распределения.

А ${\textrm {Laplace}}(0,b)$ переменная также может быть сгенерирована как разница двух iid ${\textrm {Exponential}}(1/b)$ случайные переменные. Эквивалентно, ${\textrm {Laplace}}(0,1)$ также может быть сгенерирован как логарифм отношения двух iid одинаковых случайных величин .

История

Это распределение часто называют «первым законом ошибок Лапласа». Он опубликовал его в 1774 году, смоделировав частоту ошибки как экспоненциальную функцию ее величины, если ее знак игнорировался. Лаплас позже заменил эту модель своим «вторым законом ошибок», основанным на нормальном распределении, после открытия центральной предельной теоремы .

Кейнс опубликовал в 1911 году статью, основанную на своей более ранней диссертации, в которой показал, что распределение Лапласа минимизирует абсолютное отклонение от медианы.

См. также

• Обобщенное нормальное распределение # Симметричная версия
• Многомерное распределение Лапласа
• Мера Бесова — обобщение распределения Лапласа на функциональные пространства.
• Распределение Коши , также называемое «распределением Лоренца», т.е. преобразование Фурье уравнения Лапласа.
• Характеристическая функция (теория вероятностей)

Внешние ссылки

• «Распределение Лапласа» , Математическая энциклопедия , EMS Press , 2001 [1994]