Распределение Пирсона

Диаграмма системы Пирсона, показывающая распределения типов I, III, VI, V и IV с точки зрения β ₁ (квадратичная асимметрия) и β ₂ (традиционный эксцесс)

Распределение Пирсона представляет собой семейство непрерывных распределений вероятностей . Впервые она была опубликована Карлом Пирсоном в 1895 году и впоследствии расширена им в 1901 и 1916 годах в серии статей по биостатистике .

История

Система Пирсона изначально была разработана для моделирования заметно искаженных наблюдений. В то время было хорошо известно, как настроить теоретическую модель так, чтобы она соответствовала первым двум кумулянтам или моментам наблюдаемых данных: любое распределение вероятностей можно напрямую расширить, чтобы сформировать семейство в масштабе местоположения . За исключением патологических случаев, семейство в масштабе местоположения может быть построено так, чтобы оно сколь угодно хорошо соответствовало наблюдаемому среднему значению (первый кумулянт) и дисперсии (второй кумулянт). Однако не было известно, как построить распределения вероятностей, в которых асимметрия (стандартизованный третий кумулянт) и эксцесс (стандартизованный четвертый кумулянт) могли бы регулироваться одинаково свободно. Эта необходимость стала очевидной при попытке подогнать известные теоретические модели к наблюдаемым данным, которые демонстрировали асимметрию. Примеры Пирсона включают данные о выживаемости, которые обычно асимметричны.

В своей оригинальной статье Пирсон (1895, стр. 360) выделил четыре типа распределений (с номерами от I до IV) в дополнение к нормальному распределению (которое первоначально было известно как тип V). Классификация зависела от того, поддерживались ли распределения на ограниченном интервале, на полупрямой или на всей действительной линии ; и были ли они потенциально перекошенными или обязательно симметричными. Вторая статья (Пирсон, 1901) исправила два упущения: она переопределила распределение типа V (первоначально только нормальное распределение , но теперь распределение обратного гамма-распределения ) и ввела распределение типа VI. Вместе первые две статьи охватывают пять основных типов системы Пирсона (I, III, IV, V и VI). В третьей статье Пирсон (1916) представил дополнительные частные случаи и подтипы (с VII по XII).

Ринд (1909, стр. 430–432) разработал простой способ визуализации пространства параметров системы Пирсона, который впоследствии был принят Пирсоном (1916, табл. 1 и стр. 430 и след., 448 и далее). Типы Пирсона характеризуются двумя величинами, обычно называемыми β ₁ и β ₂ . Первый — это квадрат асимметрии : β ₁ = γ ₁ , где γ ₁ — асимметрия, или третий стандартизированный момент . Второй — традиционный эксцесс , или четвертый стандартизированный момент: β ₂ = γ ₂ + 3. (Современные методы определяют эксцесс γ ₂ в терминах кумулянтов, а не моментов, так что для нормального распределения мы имеем γ ₂ = 0 и β ₂ = 3. Здесь мы следуем историческому прецеденту и используем β ₂ .) Диаграмма справа показывает, какому типу Пирсона _{данное конкретное распределение (обозначаемое точкой (β 1} , β ₂ принадлежит )).

Многие из асимметричных и/или немезокуртических распределений , знакомых нам сегодня, были еще неизвестны в начале 1890-х годов. То, что сейчас известно как бета-распределение, использовалось Томасом Байесом в качестве апостериорного распределения параметра распределения Бернулли в его работе 1763 года по обратной вероятности . Бета-распределение получило известность благодаря своему членству в системе Пирсона и до 1940-х годов было известно как распределение Пирсона типа I. (Распределение Пирсона типа II является частным случаем типа I, но обычно больше не выделяется.) Гамма-распределение возникло из работ Пирсона (Пирсон 1893, стр. 331; Пирсон 1895, стр. 357, 360, 373–376). и было известно как распределение Пирсона типа III, прежде чем оно получило свое современное название в 1930-х и 1940-х годах. В статье Пирсона 1895 года было представлено распределение типа IV, которое содержит Стьюдента t -распределение как особый случай, Уильямом Сили Госсетом на несколько лет предшествовавшее последующему использованию . В его статье 1901 года были представлены обратное гамма-распределение (тип V) и бета-распределение простых чисел (тип VI).

Определение

Пирсона Плотность p определяется как любое допустимое решение дифференциального уравнения (ср. Pearson 1895, стр. 381).

${\frac {p'(x)}{p(x)}}+{\frac {a+(x-\mu )}{b_{0}+b_{1}(x-\mu )+b_{2}(x-\mu )^{2}}}=0.\qquad (1)$

с:

${\begin{aligned}b_{0}&={\frac {4\beta _{2}-3\beta _{1}}{10\beta _{2}-12\beta _{1}-18}}\mu _{2},\\[5pt]a=b_{1}&={\sqrt {\mu _{2}}}{\sqrt {\beta _{1}}}{\frac {\beta _{2}+3}{10\beta _{2}-12\beta _{1}-18}},\\[5pt]b_{2}&={\frac {2\beta _{2}-3\beta _{1}-6}{10\beta _{2}-12\beta _{1}-18}}.\end{aligned}}$

По мнению Орда, Пирсон разработал основную форму уравнения (1) на основе, во-первых, формулы для производной логарифма функции плотности нормального распределения (которая дает линейную функцию) и, во-вторых, рекуррентного соотношения для значений в функции массы вероятности гипергеометрического распределения (которая дает линейно-квадратическую структуру).

В уравнении (1) параметр a определяет стационарную точку и, следовательно, при некоторых условиях режим распределения, поскольку

$p'(\mu -a)=0$

следует непосредственно из дифференциального уравнения.

Поскольку мы имеем дело с линейным дифференциальным уравнением первого порядка с переменными коэффициентами , то его решение несложно:

$p(x)\propto \exp \left(-\int {\frac {x+a}{b_{2}x^{2}+b_{1}x+b_{0}}}\,dx\right).$

Интеграл в этом решении значительно упрощается, если рассматривать некоторые частные случаи подынтегрального выражения. Пирсон (1895, с. 367) выделил два основных случая, определяемых знаком дискриминанта ( а значит, и числом вещественных корней ) квадратичной функции

$f(x)=b_{2}x^{2}+b_{1}x+b_{0}.\qquad (2)$

Отдельные виды распространения

1,

Пирсона

Если дискриминант квадратичной функции (2) отрицателен ( $b_{1}^{2}-4b_{2}b_{0}<0$), оно не имеет настоящих корней. Затем определите

${\begin{aligned}y&=x+{\frac {b_{1}}{2b_{2}}},\\[5pt]\alpha &={\frac {\sqrt {4b_{2}b_{0}-b_{1}^{2}}}{2b_{2}}}.\end{aligned}}$

Заметим, что α — вполне определенное действительное число и α ≠ 0 , поскольку по предположению $4b_{2}b_{0}-b_{1}^{2}>0$ и, следовательно, b ₂ ≠ 0 . Применяя эти замены, квадратичная функция (2) преобразуется в

$f(x)=b_{2}(y^{2}+\alpha ^{2}).$

Отсутствие действительных корней очевидно из этой формулировки, поскольку α ² обязательно положительный.

Теперь выразим решение дифференциального уравнения (1) как функцию y :

$p(y)\propto \exp \left(-{\frac {1}{b_{2}}}\int {\frac {y-{\frac {b_{1}}{2b_{2}}}+a}{y^{2}+\alpha ^{2}}}\,dy\right).$

Пирсон (1895, стр. 362) назвал это «тригонометрическим случаем», потому что интеграл

$\int {\frac {y-{\frac {2b_{2}a-b_{1}}{2b_{2}}}}{y^{2}+\alpha ^{2}}}\,dy={\frac {1}{2}}\ln(y^{2}+\alpha ^{2})-{\frac {2b_{2}a-b_{1}}{2b_{2}\alpha }}\arctan \left({\frac {y}{\alpha }}\right)+C_{0}$

включает обратную тригонометрическую функцию арктана. Затем

$p(y)\propto \exp \left[-{\frac {1}{2b_{2}}}\ln \left(1+{\frac {y^{2}}{\alpha ^{2}}}\right)-{\frac {\ln \alpha }{b_{2}}}+{\frac {2b_{2}a-b_{1}}{2b_{2}^{2}\alpha }}\arctan \left({\frac {y}{\alpha }}\right)+C_{1}\right].$

Наконец, позвольте

${\begin{aligned}m&={\frac {1}{2b_{2}}},\\[5pt]\nu &=-{\frac {2b_{2}a-b_{1}}{2b_{2}^{2}\alpha }}.\end{aligned}}$

Применяя эти замены, получаем параметрическую функцию:

$p(y)\propto \left[1+{\frac {y^{2}}{\alpha ^{2}}}\right]^{-m}\exp \left[-\nu \arctan \left({\frac {y}{\alpha }}\right)\right].$

Эта ненормированная плотность имеет поддержку на всей вещественной прямой . Это зависит от параметра масштаба α > 0 и параметров формы m > 1/2 и ν . Один параметр был потерян, когда мы решили найти решение дифференциального уравнения (1) как функцию y, а не x . Поэтому мы вновь вводим четвертый параметр, а именно параметр местоположения λ . Таким образом, мы получили плотность распределения Пирсона типа IV :

$p(x)={\frac {\left|{\frac {\operatorname {\Gamma } \left(m+{\frac {\nu }{2}}i\right)}{\Gamma (m)}}\right|^{2}}{\alpha \operatorname {\mathrm {B} } \left(m-{\frac {1}{2}},{\frac {1}{2}}\right)}}\left[1+\left({\frac {x-\lambda }{\alpha }}\right)^{2}\right]^{-m}\exp \left[-\nu \arctan \left({\frac {x-\lambda }{\alpha }}\right)\right].$

Нормализующая константа включает в себя комплексную гамма-функцию (Γ) и бета-функцию (B).Обратите внимание, что параметр местоположения λ здесь не совпадает с исходным параметром местоположения, введенным в общую формулировку, а связан через

$\lambda =\lambda _{original}+{\frac {\alpha \nu }{2(m-1)}}.$

Пирсона

График плотности Пирсона типа VII с λ = 0, σ = 1 и: γ ₂ = ∞ (красный); γ ₂ = 4 (синий); и γ ₂ = 0 (черный)

Параметр формы ν распределения Пирсона типа IV контролирует его асимметрию . Если мы зафиксируем его значение равным нулю, мы получим симметричное трехпараметрическое семейство. Этот особый случай известен как распределение Пирсона типа VII (ср. Pearson 1916, стр. 450). Его плотность

$p(x)={\frac {1}{\alpha \operatorname {\mathrm {B} } \left(m-{\frac {1}{2}},{\frac {1}{2}}\right)}}\left[1+\left({\frac {x-\lambda }{\alpha }}\right)^{2}\right]^{-m},$

где B — бета-функция .

Альтернативная параметризация (и небольшая специализация) распределения типа VII получается, если положить

$\alpha =\sigma {\sqrt {2m-3}},$

для чего требуется m > 3/2. Это влечет за собой незначительную потерю общности, но гарантирует, что дисперсия распределения существует и равна σ. ² . Теперь параметр m контролирует только эксцесс распределения. Если m приближается к бесконечности, поскольку λ и σ остаются постоянными, нормальное распределение возникает как особый случай:

${\begin{aligned}&\lim _{m\to \infty }{\frac {1}{\sigma {\sqrt {2m-3}}\,\operatorname {\mathrm {B} } \left(m-{\frac {1}{2}},{\frac {1}{2}}\right)}}\left[1+\left({\frac {x-\lambda }{\sigma {\sqrt {2m-3}}}}\right)^{2}\right]^{-m}\\[5pt]={}&{\frac {1}{\sigma {\sqrt {2}}\,\operatorname {\Gamma } \left({\frac {1}{2}}\right)}}\cdot \lim _{m\to \infty }{\frac {\Gamma (m)}{\operatorname {\Gamma } \left(m-{\frac {1}{2}}\right){\sqrt {m-{\frac {3}{2}}}}}}\cdot \lim _{m\to \infty }\left[1+{\frac {\left({\frac {x-\lambda }{\sigma }}\right)^{2}}{2m-3}}\right]^{-m}\\[5pt]={}&{\frac {1}{\sigma {\sqrt {2\pi }}}}\cdot 1\cdot \exp \left[-{\frac {1}{2}}\left({\frac {x-\lambda }{\sigma }}\right)^{2}\right].\end{aligned}}$

Это плотность нормального распределения со средним значением λ и стандартным отклонением σ .

Удобно потребовать, чтобы m > 5/2, и положить

$m={\frac {5}{2}}+{\frac {3}{\gamma _{2}}}.$

Это еще одна специализация, и она гарантирует существование первых четырех моментов распределения. Более конкретно, распределение Пирсона типа VII, параметризованное в терминах (λ, σ, γ ₂ ), имеет среднее значение λ , стандартное отклонение σ , равную асимметрию, нулю, и положительный избыточный эксцесс γ ₂ .

Стьюдента t -распределение

Распределение Пирсона типа VII эквивалентно нестандартизованному Стьюдента t -распределению с параметрами ν > 0, µ, σ. ² путем применения следующих замен к исходной параметризации:

${\begin{aligned}\lambda &=\mu ,\\[5pt]\alpha &={\sqrt {\nu \sigma ^{2}}},\\[5pt]m&={\frac {\nu +1}{2}},\end{aligned}}$

Обратите внимание, что ограничение m > 1/2 выполнено.

Результирующая плотность

$p(x\mid \mu ,\sigma ^{2},\nu )={\frac {1}{{\sqrt {\nu \sigma ^{2}}}\,\operatorname {\mathrm {B} } \left({\frac {\nu }{2}},{\frac {1}{2}}\right)}}\left(1+{\frac {1}{\nu }}{\frac {(x-\mu )^{2}}{\sigma ^{2}}}\right)^{-{\frac {\nu +1}{2}}},$

-распределения Стьюдента которую легко узнать как плотность t .

Это означает, что распределение Пирсона типа VII включает в себя стандартное Стьюдента t -распределение , а также стандартное распределение Коши . -распределение Стьюдента В частности, стандартное t возникает как подслучай, когда µ = 0 и σ ² = 1, что эквивалентно следующим заменам:

${\begin{aligned}\lambda &=0,\\[5pt]\alpha &={\sqrt {\nu }},\\[5pt]m&={\frac {\nu +1}{2}},\end{aligned}}$

Плотность этого ограниченного однопараметрического семейства представляет собой стандартный t Стьюдента :

$p(x)={\frac {1}{{\sqrt {\nu }}\,\operatorname {\mathrm {B} } \left({\frac {\nu }{2}},{\frac {1}{2}}\right)}}\left(1+{\frac {x^{2}}{\nu }}\right)^{-{\frac {\nu +1}{2}}},$

неотрицательный

Если квадратичная функция (2) имеет неотрицательный дискриминант ( $b_{1}^{2}-4b_{2}b_{0}\geq 0$ , он имеет действительные корни 1 _: и 2 ₎ (не обязательно разные)

${\begin{aligned}a_{1}&={\frac {-b_{1}-{\sqrt {b_{1}^{2}-4b_{2}b_{0}}}}{2b_{2}}},\\[5pt]a_{2}&={\frac {-b_{1}+{\sqrt {b_{1}^{2}-4b_{2}b_{0}}}}{2b_{2}}}.\end{aligned}}$

При наличии действительных корней квадратичная функция (2) может быть записана в виде

$f(x)=b_{2}(x-a_{1})(x-a_{2}),$

и поэтому решение дифференциального уравнения есть

$p(x)\propto \exp \left(-{\frac {1}{b_{2}}}\int {\frac {x-a}{(x-a_{1})(x-a_{2})}}\,dx\right).$

Пирсон (1895, стр. 362) назвал это «логарифмическим случаем», потому что интеграл

$\int {\frac {x-a}{(x-a_{1})(x-a_{2})}}\,dx={\frac {(a_{1}-a)\ln(x-a_{1})-(a_{2}-a)\ln(x-a_{2})}{a_{1}-a_{2}}}+C$

включает только функцию логарифма , а не функцию арктанса, как в предыдущем случае.

Используя замену

$\nu ={\frac {1}{b_{2}(a_{1}-a_{2})}},$

получим следующее решение дифференциального уравнения (1):

$p(x)\propto (x-a_{1})^{-\nu (a_{1}-a)}(x-a_{2})^{\nu (a_{2}-a)}.$

Поскольку эта плотность известна только с точностью до скрытой константы пропорциональности, эту константу можно изменить и записать плотность следующим образом:

$p(x)\propto \left(1-{\frac {x}{a_{1}}}\right)^{-\nu (a_{1}-a)}\left(1-{\frac {x}{a_{2}}}\right)^{\nu (a_{2}-a)}.$

Пирсона

Распределение Пирсона типа I (обобщение бета-распределения ) возникает, когда корни квадратного уравнения (2) имеют противоположные знаки, т. е. $a_{1}<0<a_{2}$. Тогда решение p поддерживается на интервале $(a_{1},a_{2})$. Примените замену

$x=a_{1}+y(a_{2}-a_{1}),$

где $0<y<1$, что дает решение в терминах y , поддерживаемое на интервале (0, 1):

$p(y)\propto \left({\frac {a_{1}-a_{2}}{a_{1}}}y\right)^{(-a_{1}+a)\nu }\left({\frac {a_{2}-a_{1}}{a_{2}}}(1-y)\right)^{(a_{2}-a)\nu }.$

Можно определить:

${\begin{aligned}m_{1}&={\frac {a-a_{1}}{b_{2}(a_{1}-a_{2})}},\\[5pt]m_{2}&={\frac {a-a_{2}}{b_{2}(a_{2}-a_{1})}}.\end{aligned}}$

Перегруппировав константы и параметры, это упрощается до:

$p(y)\propto y^{m_{1}}(1-y)^{m_{2}},$

Таким образом ${\frac {x-\lambda -a_{1}}{a_{2}-a_{1}}}$ следует за $\mathrm {B} (m_{1}+1,m_{2}+1)$ с $\lambda =\mu _{1}-(a_{2}-a_{1}){\frac {m_{1}+1}{m_{1}+m_{2}+2}}-a_{1}$. Оказывается, что m ₁ , m ₂ > −1 необходимо и достаточно для того, чтобы p была правильной функцией плотности вероятности.

Пирсона

Распределение Пирсона типа II является частным случаем семейства Пирсона типа I, ограниченным симметричными распределениями.

Для кривой Пирсона II типа:

$y=y_{0}\left(1-{\frac {x^{2}}{a^{2}}}\right)^{m},$

где

$x=\sum d^{2}/2-(n^{3}-n)/12.$

По оси ординат y находится частота $\sum d^{2}$. Распределение Пирсона типа II используется при расчете таблицы значимых коэффициентов корреляции для коэффициента ранговой корреляции Спирмена , когда количество элементов в серии меньше 100 (или 30, в зависимости от некоторых источников). После этого распределение имитирует стандартное t-распределение Стьюдента . В таблице значений определенные значения используются в качестве констант в предыдущем уравнении:

${\begin{aligned}m&={\frac {5\beta _{2}-9}{2(3-\beta _{2})}},\\[5pt]a^{2}&={\frac {2\mu _{2}\beta _{2}}{3-\beta _{2}}},\\[5pt]y_{0}&={\frac {N[\Gamma (2m+2)]}{a[2^{2m+1}][\Gamma (m+1)]}}.\end{aligned}}$

Используемые моменты x равны

${\begin{aligned}\mu _{2}&=(n-1)[(n^{2}+n)/12]^{2},\\[5pt]\beta _{2}&={\frac {3(25n^{4}-13n^{3}-73n^{2}+37n+72)}{25n(n+1)^{2}(n-1)}}.\end{aligned}}$

Пирсона

Определение

$\lambda =\mu _{1}+{\frac {b_{0}}{b_{1}}}-(m+1)b_{1},$

$b_{0}+b_{1}(x-\lambda )$ является $\operatorname {Gamma} (m+1,b_{1}^{2})$. Распределение Пирсона типа III представляет собой гамма-распределение или распределение хи-квадрат .

Пирсона

Определение новых параметров:

${\begin{aligned}C_{1}&={\frac {b_{1}}{2b_{2}}},\\\lambda &=\mu _{1}-{\frac {a-C_{1}}{1-2b_{2}}},\end{aligned}}$

$x-\lambda$ следует за $\operatorname {InverseGamma} ({\frac {1}{b_{2}}}-1,{\frac {a-C_{1}}{b_{2}}})$. Распределение Пирсона типа V является обратным гамма-распределением .

Пирсона

Определение

$\lambda =\mu _{1}+(a_{2}-a_{1}){\frac {m_{2}+1}{m_{2}+m_{1}+2}}-a_{2},$

${\frac {x-\lambda -a_{2}}{a_{2}-a_{1}}}$ следует за $\beta ^{\prime }(m_{2}+1,-m_{2}-m_{1}-1)$. Распределение Пирсона типа VI представляет собой бета-распределение простых чисел или F -распределение .

Связь с другими дистрибутивами

Семейство Пирсонов включает, среди прочего, следующие распределения:

• Бета-распределение (тип I)
• Бета-простое распределение (тип VI)
• Распределение Коши (тип IV)
• Распределение хи-квадрат (тип III)
• Непрерывное равномерное распределение (предел типа I)
• Экспоненциальное распределение (тип III)
• Гамма-распределение (тип III)
• F -распределение (тип VI)
• Распределение обратного хи-квадрата (тип V)
• Inverse-gamma distribution (type V)
• Нормальное распределение (предел типа I, III, IV, V или VI)
• Стьюдента t -распределение (тип VII, который является неасимметричным подтипом типа IV)

Альтернативой системе распределений Пирсона с целью подбора распределений к данным являются распределения с параметрами квантилей (QPD) и металогические распределения . QPD и металоги могут обеспечить большую гибкость формы и границ, чем система Пирсона. Вместо подбора моментов QPD обычно соответствуют эмпирическим CDF или другим данным с помощью линейного метода наименьших квадратов .

Примерами современных альтернатив диаграмме Пирсона-асимметрия-экскурсия являются: (i) https://github.com/SchildCode/PearsonPlot и (ii) «график Каллена и Фрея» в статистическом приложении R.

Приложения

Эти модели используются на финансовых рынках, поскольку их можно параметризовать таким образом, чтобы это имело интуитивное значение для рыночных трейдеров. В настоящее время используется ряд моделей, которые отражают стохастический характер волатильности ставок, акций и т. д. и это семейство распределений может оказаться одним из наиболее важных.

В Соединенных Штатах Log-Pearson III является распределением по умолчанию для анализа частоты наводнений.

Недавно были разработаны альтернативы распределениям Пирсона, которые более гибкие и их легче адаптировать к данным. См. дистрибутивы металогов .

Источники

Первоисточники

• Пирсон, Карл (1893). «Вклад в математическую теорию эволюции [аннотация]» . Труды Королевского общества . 54 (326–330): 329–333. дои : 10.1098/rspl.1893.0079 . JSTOR   115538 .

• Пирсон, Карл (1895). «Вклад в математическую теорию эволюции, II: Асимметрия в однородном материале» (PDF) . Философские труды Королевского общества . 186 : 343–414. Бибкод : 1895RSPTA.186..343P . дои : 10.1098/rsta.1895.0010 . JSTOR   90649 .

• Пирсон, Карл (1901). «Математический вклад в теорию эволюции, X: Дополнение к мемуарам о асимметрии» . Философские труды Королевского общества А. 197 (287–299): 443–459. Бибкод : 1901RSPTA.197..443P . дои : 10.1098/rsta.1901.0023 . JSTOR   90841 .

• Пирсон, Карл (1916). «Математический вклад в теорию эволюции, XIX: Второе приложение к мемуарам о асимметрии» . Философские труды Королевского общества А. 216 (538–548): 429–457. Бибкод : 1916RSPTA.216..429P . дои : 10.1098/rsta.1916.0009 . JSTOR   91092 .

• Ринд, А. (июль – октябрь 1909 г.). «Таблицы для облегчения расчета вероятных ошибок главных констант асимметричных распределений частот» . Биометрика . 7 (1/2): 127–147. дои : 10.1093/biomet/7.1-2.127 . JSTOR   2345367 .

Вторичные источники

• Милтон Абрамовиц и Ирен А. Стегун (1964). Справочник по математическим функциям с формулами, графиками и математическими таблицами . Национальное бюро стандартов .
• Эрик В. Вайсштейн и др. Распределение Пирсона III типа . Из МатМира .

Ссылки

• Элдертон, сэр В.П., Джонсон, Н.Л. (1969) Системы частотных кривых . Издательство Кембриджского университета.
• Орд Дж.К. (1972) Семейства частотных распределений . Гриффин, Лондон.