кумулятивный

В теории вероятностей и статистике кумулянты представляют собой κ _n распределения вероятностей набор величин, которые обеспечивают альтернативу моментам распределения . Любые два распределения вероятностей, моменты которых идентичны, будут также иметь одинаковые кумулянты, и наоборот.

Первый кумулянт – это среднее значение , второй кумулянт – это дисперсия , а третий кумулянт – то же самое, что и третий центральный момент . Но кумулянты четвертого и более высоких порядков не равны центральным моментам. В некоторых случаях теоретическое рассмотрение задач с использованием кумулянтов проще, чем с использованием моментов. В частности, когда две или более случайных величин статистически независимы , кумулянт n -го порядка их суммы равен сумме их кумулянтов n -го порядка. Кроме того, кумулянты третьего и более высокого порядка нормального распределения равны нулю, и это единственное распределение, обладающее этим свойством.

Так же, как и для моментов, где совместные моменты используются для наборов случайных величин, можно определить совместные кумулянты .

Определение

Кумулянты случайной величины X определяются с помощью производящей кумулянт функции K ( t ) , которая является натуральным логарифмом производящей момент функции : $$K(t)=\log \operatorname {E} \left[e^{tX}\right].$$

Кумулянты κ _n получаются в степенной ряд разложением производящей функции кумулянта : $$K(t)=\sum _{n=1}^{\infty }\kappa _{n}{\frac {t^{n}}{n!}}=\kappa _{1}{\frac {t}{1!}}+\kappa _{2}{\frac {t^{2}}{2!}}+\kappa _{3}{\frac {t^{3}}{3!}}+\cdots =\mu t+\sigma ^{2}{\frac {t^{2}}{2}}+\cdots .$$

Это разложение представляет собой ряд Маклорена , поэтому n- й кумулянт можно получить, продифференцировав приведенное выше разложение n раз и присвоив результат нулю: $$\kappa _{n}=K^{(n)}(0).$$

Если функция, производящая момент, не существует, кумулянты можно определить с точки зрения взаимосвязи между кумулянтами и моментами, которые обсуждаются позже.

Альтернативное определение кумулянтной производящей функции

Некоторые писатели предпочитают определять кумулянтную производящую функцию как натуральный логарифм характеристической функции , которую иногда еще называют второй характеристической функцией , $$H(t)=\log \operatorname {E} \left[e^{itX}\right]=\sum _{n=1}^{\infty }\kappa _{n}{\frac {(it)^{n}}{n!}}=\mu it-\sigma ^{2}{\frac {t^{2}}{2}}+\cdots$$

Преимущество H ( t ) — в некотором смысле функции K ( t ), вычисляемой для чисто мнимых аргументов — состоит в том, что E[ e ^ИТХ ] корректно определен для всех действительных значений t, даже если E[ e ^Техас ] не определено четко для всех реальных значений t , что может произойти, когда существует «слишком большая» вероятность того, что X имеет большую величину. Хотя функция H ( t ) будет четко определена, она, тем не менее, будет имитировать K ( t ) с точки зрения длины ее ряда Маклорена , который не может выходить за пределы (или, редко, даже до) линейного порядка по аргументу t , и, в частности, количество четко определенных кумулянтов не изменится. Тем не менее, даже если H ( t ) не имеет длинного ряда Маклорена, его можно использовать непосредственно при анализе и, в частности, добавлении случайных величин. Как распределение Коши (также называемое лоренцевым), так и, в более общем плане, стабильные распределения (связанные с распределением Леви) являются примерами распределений, для которых разложение производящих функций в степенной ряд имеет лишь конечное число четко определенных членов.

Некоторые основные свойства

The ${\textstyle n}$накопительный тыс. ${\textstyle \kappa _{n}(X)}$ (распределения) случайной величины ${\textstyle X}$ обладает следующими свойствами:

• Если ${\textstyle n>1}$ и ${\textstyle c}$ является постоянным (т.е. не случайным), то ${\textstyle \kappa _{n}(X+c)=\kappa _{n}(X),}$ т.е. кумулянт является инвариантом трансляции . (Если ${\textstyle n=1}$ тогда у нас есть ${\textstyle \kappa _{1}(X+c)=\kappa _{1}(X)+c.)}$
• Если ${\textstyle c}$ является постоянным (т.е. не случайным), то ${\textstyle \kappa _{n}(cX)=c^{n}\kappa _{n}(X),}$ то есть ${\textstyle n}$кумулянт однороден по степени ${\textstyle n}$.
• Если случайные величины ${\textstyle X_{1},\ldots ,X_{m}}$ тогда независимы $$\kappa _{n}(X_{1}+\cdots +X_{m})=\kappa _{n}(X_{1})+\cdots +\kappa _{n}(X_{m})\,.$$ То есть кумулянт накопительный — отсюда и название.

Кумулятивное свойство быстро вытекает из рассмотрения генерирующей кумулянт функции: $${\begin{aligned}K_{X_{1}+\cdots +X_{m}}(t)&=\log \operatorname {E} \left[e^{t(X_{1}+\cdots +X_{m})}\right]\\[5pt]&=\log \left(\operatorname {E} \left[e^{tX_{1}}\right]\cdots \operatorname {E} \left[e^{tX_{m}}\right]\right)\\[5pt]&=\log \operatorname {E} \left[e^{tX_{1}}\right]+\cdots +\log \operatorname {E} \left[e^{tX_{m}}\right]\\[5pt]&=K_{X_{1}}(t)+\cdots +K_{X_{m}}(t),\end{aligned}}$$так что каждый кумулянт суммы независимых случайных величин является суммой соответствующих кумулянтов слагаемых . То есть, когда слагаемые статистически независимы, среднее значение суммы является суммой средних, дисперсия суммы представляет собой сумму дисперсий, третий кумулянт (который оказывается третьим центральным моментом) суммы — сумма третьих кумулянтов и так далее для каждого порядка кумулянта.

Распределение с заданными кумулянтами κ _n можно аппроксимировать рядом Эджворта .

Первые несколько кумулянтов как функции моментов

Все высшие кумулянты являются полиномиальными функциями центральных моментов с целыми коэффициентами, но только в степенях 2 и 3 кумулянты являются фактически центральными моментами.

• ${\textstyle \kappa _{1}(X)=\operatorname {E} (X)={}}$иметь в виду
• ${\textstyle \kappa _{2}(X)=\operatorname {var} (X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{2}{\big )}={}}$дисперсия, или второй центральный момент.
• ${\textstyle \kappa _{3}(X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{3}{\big )}={}}$третий центральный момент.
• ${\textstyle \kappa _{4}(X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{4}{\big )}-3\left(\operatorname {E} {\big (}(X-\operatorname {E} (X))^{2}{\big )}\right)^{2}={}}$четвертый центральный момент минус трехкратный квадрат второго центрального момента. Таким образом, это первый случай, когда кумулянты не являются просто моментами или центральными моментами. Центральные моменты степени более 3 лишены кумулятивного свойства.
• ${\textstyle \kappa _{5}(X)=\operatorname {E} {\big (}(X-\operatorname {E} (X))^{5}{\big )}-10\operatorname {E} {\big (}(X-\operatorname {E} (X))^{3}{\big )}\operatorname {E} {\big (}(X-\operatorname {E} (X))^{2}{\big )}.}$

Кумулянты некоторых дискретных распределений вероятностей

• Постоянные случайные величины X = µ . Кумулянтная производящая функция равна K ( t ) = µt . Первый кумулянт равен κ ₁ = K ′(0) = µ , а остальные кумулянты равны нулю, κ ₂ = κ ₃ = κ ₄ = ⋅⋅⋅ = 0 .
• Распределения Бернулли (количество успехов в одном испытании с вероятностью p успеха ). Кумулянтная производящая функция равна K ( t ) = log(1 − p + p e ^т ) . Первыми кумулянтами являются κ ₁ = K '(0) = p и κ ₂ = K'' (0) = p ·(1 − p ) . Кумулянты удовлетворяют рекурсивной формуле $$\kappa _{n+1}=p(1-p){\frac {d\kappa _{n}}{dp}}.$$
• Геометрические распределения , (количество неудач перед одним успехом с вероятностью p успеха в каждом испытании). Кумулянтная производящая функция равна K ( t ) = log( p / (1 + ( p − 1)e ^т )) . Первые кумулянты: κ ₁ = K′ (0) = p ⁻¹ − 1 и κ ₂ = K′′ (0) = κ ₁ p ⁻¹ . Подставив p = ( µ + 1) ⁻¹ дает K ( t ) = −log(1 + µ (1−e ^т )) и κ ₁ знак равно μ .
• Распределения Пуассона . Кумулянтная производящая функция равна K ( t ) = µ (e ^т − 1) . Все кумулянты равны параметру: κ ₁ = κ ₂ = κ ₃ = ... = µ .
• Биномиальные распределения (количество успехов в n независимых испытаниях с вероятностью p успеха в каждом испытании). Частный случай n = 1 представляет собой распределение Бернулли. Каждый кумулянт всего в n раз превышает соответствующий кумулянт соответствующего распределения Бернулли. Кумулянтная производящая функция равна K ( t ) = n log(1 − p + p e ^т ) . Первыми кумулянтами являются κ ₁ = K′ (0) = np и κ ₂ = K′′ (0) = κ ₁ (1 − p ) . Подставив p = µ· n ⁻¹ дает K '( t ) = ((μ ⁻¹ − п ⁻¹ )·и ^{− т} + н ⁻¹ ) ⁻¹ и κ ₁ = μ . Предельный случай n ⁻¹ = 0 — распределение Пуассона.
• Отрицательные биномиальные распределения (количество неудач перед r успехами с вероятностью p успеха в каждом испытании). Частный случай r = 1 представляет собой геометрическое распределение. Каждый кумулянт всего в r раз больше соответствующего кумулянта соответствующего геометрического распределения. Производная кумулянтной производящей функции равна K ′( t ) = r ·((1 − p ) ⁻¹ ·и ^{− т} −1) ⁻¹ . Первые кумулянты — это κ ₁ = K ′(0) = r ·( p ⁻¹ −1) и κ ₂ = K "(0) = κ ₁ · p ⁻¹ . Подставив p = (μ · r ⁻¹ +1) ⁻¹ дает K ′( t ) = (( µ ⁻¹ + р ⁻¹ ) и ^{− т} − р ⁻¹ ) ⁻¹ и κ ₁ = μ . Сравнение этих формул с формулами биномиального распределения объясняет название «отрицательное биномиальное распределение». Предельный случай r ⁻¹ = 0 — распределение Пуассона.

Введение отношения дисперсии к среднему значению $$\varepsilon =\mu ^{-1}\sigma ^{2}=\kappa _{1}^{-1}\kappa _{2},$$приведенные выше распределения вероятностей получают единую формулу для производной кумулянтной производящей функции: $$K'(t)=(1+(e^{-t}-1)\varepsilon )^{-1}\mu$$

Вторая производная $$K''(t)=(\varepsilon -(\varepsilon -1)e^{t})^{-2}\mu \varepsilon e^{t}$$подтверждение того, что первый кумулянт равен κ ₁ = K′ (0) = µ , а второй кумулянт равен κ ₂ = K′′ (0) = µε .

Постоянные случайные величины X = µ имеют ε = 0 .

Биномиальные распределения имеют ε = 1 − p , так что 0 < ε < 1 .

Распределения Пуассона имеют ε = 1 .

Отрицательные биномиальные распределения имеют ε = p ⁻¹ так что ε > 1 .

Обратите внимание на аналогию с классификацией конических сечений по эксцентриситету : окружности ε = 0 , эллипсы 0 < ε < 1 , параболы ε = 1 , гиперболы ε > 1 .

Кумулянты некоторых непрерывных распределений вероятностей

• Для нормального распределения с ожидаемым значением µ и дисперсией σ ² кумулянтная производящая функция равна K ( t ) = µt + σ ² т ² /2 . Первая и вторая производные кумулянтной производящей функции равны K ′( t ) = µ + σ. ² · t и K »( t ) = σ ² . Кумулянтами являются κ ₁ = µ , κ ₂ = σ ² , и κ ₃ знак равно κ ₄ знак равно ⋅⋅⋅ знак равно 0 . Особый случай σ ² = 0 — постоянная случайная величина X = µ .
• Кумулянтами равномерного распределения на интервале [−1, 0] являются κ _n = B _n / n , где B _n — n- е число Бернулли .
• Кумулянтами экспоненциального распределения с параметром скорости λ являются κ _n = λ ^{− п} ( п − 1)! .

Некоторые свойства кумулянтной производящей функции

Кумулянтная производящая функция K ( t ) , если она существует, бесконечно дифференцируема , выпукла и проходит через начало координат. Его первая производная монотонно изменяется в открытом интервале от нижней до верхней точки носителя распределения вероятностей, а вторая производная строго положительна везде, где она определена, за исключением вырожденного распределения одной точечной массы. Кумулянт-генерирующая функция существует тогда и только тогда, когда хвосты распределения мажорируются экспоненциальным затуханием , то есть ( см. обозначение Big O ) $${\begin{aligned}&\exists c>0,\,\,F(x)=O(e^{cx}),x\to -\infty ;{\text{ and}}\\[4pt]&\exists d>0,\,\,1-F(x)=O(e^{-dx}),x\to +\infty ;\end{aligned}}$$где ${\textstyle F}$ – кумулятивная функция распределения . Кумулянт-порождающая функция будет иметь вертикальную асимптоту (ы) в отрицательной супремуме такого c , если такой супремум существует, и в супремуме такого d , если такой супремум существует, в противном случае она будет определена для всех действительных чисел.

Если носитель случайной величины X имеет конечные верхние или нижние границы, то ее кумулянт-производящая функция y = K ( t ) , если она существует, приближается к асимптоте (s), наклон которой равен верхней или нижней границе носителя, $${\begin{aligned}y&=(t+1)\inf \operatorname {supp} X-\mu (X),{\text{ and}}\\[5pt]y&=(t-1)\sup \operatorname {supp} X+\mu (X),\end{aligned}}$$соответственно, всюду лежащую выше обеих этих линий. ( Интегралы $$\int _{-\infty }^{0}\left[t\inf \operatorname {supp} X-K'(t)\right]\,dt,\qquad \int _{\infty }^{0}\left[t\inf \operatorname {supp} X-K'(t)\right]\,dt$$дают y -перехваты этих асимптот, поскольку K (0) = 0. )

Для сдвига распределения на c , ${\textstyle K_{X+c}(t)=K_{X}(t)+ct.}$ Для вырожденной точечной массы в точке c кумулянтная производящая функция представляет собой прямую линию ${\textstyle K_{c}(t)=ct}$и, в более общем плане, ${\textstyle K_{X+Y}=K_{X}+K_{Y}}$ тогда и только тогда, когда X и Y независимы и их кумулянтные производящие функции существуют; ( субнезависимость и существование вторых моментов, достаточных для того, чтобы подразумевать независимость. )

Естественное экспоненциальное семейство распределения может быть реализовано путем сдвига или перевода K ( t ) и корректировки его по вертикали так, чтобы оно всегда проходило через начало координат: если f - PDF-файл с кумулянтной производящей функцией ${\textstyle K(t)=\log M(t),}$ и ${\textstyle f|\theta }$ является его естественным экспоненциальным семейством, то ${\textstyle f(x\mid \theta )={\frac {1}{M(\theta )}}e^{\theta x}f(x),}$ и ${\textstyle K(t\mid \theta )=K(t+\theta )-K(\theta ).}$

Если K ( t ) конечен для диапазона Re _, ( t ) < , _то t1 < _t1 0 < t2 _< то K ( t ) аналитичен и бесконечно дифференцируем для t1 _t2 <Re( t ) < t2 _если . Более того, при t вещественном и t ₁ < t < t ₂ K ( t ) строго выпукло, а K ′( t ) строго возрастает.

Дополнительные свойства кумулянтов

Отрицательный результат

Учитывая результаты для кумулянтов нормального распределения , можно было бы надеяться найти семейства распределений, для которых κ _m = κ _{m +1} = ⋯ = 0 для некоторого m > 3 , причем кумулянты низшего порядка (порядки от 3 до m − 1 ) не равны нулю. Таких раздач нет. Основной результат здесь заключается в том, что кумулянтная производящая функция не может быть полиномом конечного порядка степени больше 2.

Кумулянты и моменты

определяется Производящая функция момента выражением: $$M(t)=1+\sum _{n=1}^{\infty }{\frac {\mu '_{n}t^{n}}{n!}}=\exp \left(\sum _{n=1}^{\infty }{\frac {\kappa _{n}t^{n}}{n!}}\right)=\exp(K(t)).$$

Таким образом, кумулянтная производящая функция представляет собой логарифм производящей функции момента. $$K(t)=\log M(t).$$

Первый кумулянт — это ожидаемое значение ; второй и третий кумулянты — это соответственно второй и третий центральные моменты (второй центральный момент — это дисперсия ); но высшие кумулянты не являются ни моментами, ни центральными моментами, а скорее более сложными полиномиальными функциями моментов.

Моменты можно восстановить через кумулянты, вычислив n -ю производную ${\textstyle \exp(K(t))}$ в ⁠ $t=0$⁠ , $$\mu '_{n}=M^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}\exp(K(t))}{\mathrm {d} t^{n}}}\right|_{t=0}.$$

Аналогично, кумулянты могут быть восстановлены через моменты, оценивая n-ю производную от ${\textstyle \log M(t)}$ в ⁠ $t=0$⁠ , $$\kappa _{n}=K^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}\log M(t)}{\mathrm {d} t^{n}}}\right|_{t=0}.$$

Явное выражение для n- го момента через первые n кумулянтов и наоборот можно получить, используя формулу Фаа ди Бруно для высших производных сложных функций. В общем, у нас есть $$\mu '_{n}=\sum _{k=1}^{n}B_{n,k}(\kappa _{1},\ldots ,\kappa _{n-k+1})$$$$\kappa _{n}=\sum _{k=1}^{n}(-1)^{k-1}(k-1)!B_{n,k}(\mu '_{1},\ldots ,\mu '_{n-k+1}),$$где ${\textstyle B_{n,k}}$ являются неполными (или частичными) полиномами Белла .

Аналогичным образом, если среднее значение определяется выражением ${\textstyle \mu }$, производящая функция центрального момента определяется выражением $$C(t)=\operatorname {E} [e^{t(x-\mu )}]=e^{-\mu t}M(t)=\exp(K(t)-\mu t),$$а n- й центральный момент получается через кумулянты как $$\mu _{n}=C^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t^{n}}}\exp(K(t)-\mu t)\right|_{t=0}=\sum _{k=1}^{n}B_{n,k}(0,\kappa _{2},\ldots ,\kappa _{n-k+1}).$$

Кроме того, для n > 1 -й кумулянт n в терминах центральных моментов равен $${\begin{aligned}\kappa _{n}&=K^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t^{n}}}(\log C(t)+\mu t)\right|_{t=0}\\[4pt]&=\sum _{k=1}^{n}(-1)^{k-1}(k-1)!B_{n,k}(0,\mu _{2},\ldots ,\mu _{n-k+1}).\end{aligned}}$$

′ n- µ й момент n является _{полиномом} n - й степени от первых n кумулянтов. Первые несколько выражений:

$${\begin{aligned}\mu '_{1}={}&\kappa _{1}\\[5pt]\mu '_{2}={}&\kappa _{2}+\kappa _{1}^{2}\\[5pt]\mu '_{3}={}&\kappa _{3}+3\kappa _{2}\kappa _{1}+\kappa _{1}^{3}\\[5pt]\mu '_{4}={}&\kappa _{4}+4\kappa _{3}\kappa _{1}+3\kappa _{2}^{2}+6\kappa _{2}\kappa _{1}^{2}+\kappa _{1}^{4}\\[5pt]\mu '_{5}={}&\kappa _{5}+5\kappa _{4}\kappa _{1}+10\kappa _{3}\kappa _{2}+10\kappa _{3}\kappa _{1}^{2}+15\kappa _{2}^{2}\kappa _{1}+10\kappa _{2}\kappa _{1}^{3}+\kappa _{1}^{5}\\[5pt]\mu '_{6}={}&\kappa _{6}+6\kappa _{5}\kappa _{1}+15\kappa _{4}\kappa _{2}+15\kappa _{4}\kappa _{1}^{2}+10\kappa _{3}^{2}+60\kappa _{3}\kappa _{2}\kappa _{1}+20\kappa _{3}\kappa _{1}^{3}\\&{}+15\kappa _{2}^{3}+45\kappa _{2}^{2}\kappa _{1}^{2}+15\kappa _{2}\kappa _{1}^{4}+\kappa _{1}^{6}.\end{aligned}}$$

«Штрих» отличает моменты µ ′ _n от центральных моментов µ _n . Чтобы выразить центральные моменты как функции кумулянтов, просто исключите из этих полиномов все члены, в которых κ ₁ фигурирует как множитель: $${\begin{aligned}\mu _{1}&=0\\[4pt]\mu _{2}&=\kappa _{2}\\[4pt]\mu _{3}&=\kappa _{3}\\[4pt]\mu _{4}&=\kappa _{4}+3\kappa _{2}^{2}\\[4pt]\mu _{5}&=\kappa _{5}+10\kappa _{3}\kappa _{2}\\[4pt]\mu _{6}&=\kappa _{6}+15\kappa _{4}\kappa _{2}+10\kappa _{3}^{2}+15\kappa _{2}^{3}.\end{aligned}}$$

Аналогично, n- й кумулянт κ _n является полиномом n -й степени от первых n нецентральных моментов. Первые несколько выражений: $${\begin{aligned}\kappa _{1}={}&\mu '_{1}\\[4pt]\kappa _{2}={}&\mu '_{2}-{\mu '_{1}}^{2}\\[4pt]\kappa _{3}={}&\mu '_{3}-3\mu '_{2}\mu '_{1}+2{\mu '_{1}}^{3}\\[4pt]\kappa _{4}={}&\mu '_{4}-4\mu '_{3}\mu '_{1}-3{\mu '_{2}}^{2}+12\mu '_{2}{\mu '_{1}}^{2}-6{\mu '_{1}}^{4}\\[4pt]\kappa _{5}={}&\mu '_{5}-5\mu '_{4}\mu '_{1}-10\mu '_{3}\mu '_{2}+20\mu '_{3}{\mu '_{1}}^{2}+30{\mu '_{2}}^{2}\mu '_{1}-60\mu '_{2}{\mu '_{1}}^{3}+24{\mu '_{1}}^{5}\\[4pt]\kappa _{6}={}&\mu '_{6}-6\mu '_{5}\mu '_{1}-15\mu '_{4}\mu '_{2}+30\mu '_{4}{\mu '_{1}}^{2}-10{\mu '_{3}}^{2}+120\mu '_{3}\mu '_{2}\mu '_{1}\\&{}-120\mu '_{3}{\mu '_{1}}^{3}+30{\mu '_{2}}^{3}-270{\mu '_{2}}^{2}{\mu '_{1}}^{2}+360\mu '_{2}{\mu '_{1}}^{4}-120{\mu '_{1}}^{6}\,.\end{aligned}}$$

В общем, кумулянт является определителем матрицы: $$\kappa _{l}=(-1)^{l+1}\left|{\begin{array}{cccccccc}\mu '_{1}&1&0&0&0&0&\ldots &0\\\mu '_{2}&\mu '_{1}&1&0&0&0&\ldots &0\\\mu '_{3}&\mu '_{2}&\left({\begin{array}{l}2\\1\end{array}}\right)\mu '_{1}&1&0&0&\ldots &0\\\mu '_{4}&\mu '_{3}&\left({\begin{array}{l}3\\1\end{array}}\right)\mu '_{2}&\left({\begin{array}{l}3\\2\end{array}}\right)\mu '_{1}&1&0&\ldots &0\\\mu '_{5}&\mu '_{4}&\left({\begin{array}{l}4\\1\end{array}}\right)\mu '_{3}&\left({\begin{array}{l}4\\2\end{array}}\right)\mu '_{2}&\left({\begin{array}{c}4\\3\end{array}}\right)\mu '_{1}&1&\ldots &0\\\vdots &\vdots &\vdots &\vdots &\vdots &\ddots &\ddots &\vdots \\\mu '_{l-1}&\mu '_{l-2}&\ldots &\ldots &\ldots &\ldots &\ddots &1\\\mu '_{l}&\mu '_{l-1}&\ldots &\ldots &\ldots &\ldots &\ldots &\left({\begin{array}{l}l-1\\l-2\end{array}}\right)\mu '_{1}\end{array}}\right|$$

Чтобы выразить кумулянты κ _n для n > 1 как функции центральных моментов, исключите из этих многочленов все члены, в которых µ' ₁ появляется как множитель: $$\kappa _{2}=\mu _{2}\,$$$$\kappa _{3}=\mu _{3}\,$$$$\kappa _{4}=\mu _{4}-3{\mu _{2}}^{2}\,$$$$\kappa _{5}=\mu _{5}-10\mu _{3}\mu _{2}\,$$$$\kappa _{6}=\mu _{6}-15\mu _{4}\mu _{2}-10{\mu _{3}}^{2}+30{\mu _{2}}^{3}\,.$$

Чтобы выразить кумулянты κ _n для n > 2 как функции стандартизованных центральных моментов µ″ _n , также положим µ' ₂ =1 в полиномах: $$\kappa _{3}=\mu ''_{3}\,$$$$\kappa _{4}=\mu ''_{4}-3\,$$$$\kappa _{5}=\mu ''_{5}-10\mu ''_{3}\,$$$$\kappa _{6}=\mu ''_{6}-15\mu ''_{4}-10{\mu ''_{3}}^{2}+30\,.$$

Кумулянты могут быть связаны с моментами путем дифференцирования отношения log M ( t ) = K ( t ) относительно t , давая M' ( t ) = K' ( t ) M ( t ) , которое удобно не содержит экспонент или логарифмы. Приравнивая коэффициент при t ^{п -1} / ( n −1)! в левой и правой частях и использование µ′ ₀ = 1 дает следующие формулы для n ≥ 1 : $${\begin{aligned}\mu '_{1}={}&\kappa _{1}\\[1pt]\mu '_{2}={}&\kappa _{1}\mu '_{1}+\kappa _{2}\\[1pt]\mu '_{3}={}&\kappa _{1}\mu '_{2}+2\kappa _{2}\mu '_{1}+\kappa _{3}\\[1pt]\mu '_{4}={}&\kappa _{1}\mu '_{3}+3\kappa _{2}\mu '_{2}+3\kappa _{3}\mu '_{1}+\kappa _{4}\\[1pt]\mu '_{5}={}&\kappa _{1}\mu '_{4}+4\kappa _{2}\mu '_{3}+6\kappa _{3}\mu '_{2}+4\kappa _{4}\mu '_{1}+\kappa _{5}\\[1pt]\mu '_{6}={}&\kappa _{1}\mu '_{5}+5\kappa _{2}\mu '_{4}+10\kappa _{3}\mu '_{3}+10\kappa _{4}\mu '_{2}+5\kappa _{5}\mu '_{1}+\kappa _{6}\\[1pt]\mu '_{n}={}&\sum _{m=1}^{n-1}{n-1 \choose m-1}\kappa _{m}\mu '_{n-m}+\kappa _{n}\,.\end{aligned}}$$Они позволяют либо ${\textstyle \kappa _{n}}$ или ${\textstyle \mu '_{n}}$ быть вычислено из другого, используя знание кумулянтов и моментов низшего порядка. Соответствующие формулы для центральных моментов ${\textstyle \mu _{n}}$ для ${\textstyle n\geq 2}$ формируются из этих формул путем задания ${\textstyle \mu '_{1}=\kappa _{1}=0}$ и замена каждого ${\textstyle \mu '_{n}}$ с ${\textstyle \mu _{n}}$ для ${\textstyle n\geq 2}$: $${\begin{aligned}\mu _{2}={}&\kappa _{2}\\[1pt]\mu _{3}={}&\kappa _{3}\\[1pt]\mu _{n}={}&\sum _{m=2}^{n-2}{n-1 \choose m-1}\kappa _{m}\mu _{n-m}+\kappa _{n}\,.\end{aligned}}$$

Кумулянты и множества-разделы

Эти полиномы имеют замечательную комбинаторную интерпретацию: коэффициенты учитывают определенные разбиения множеств . Общий вид этих полиномов: $$\mu '_{n}=\sum _{\pi \,\in \,\Pi }\prod _{B\,\in \,\pi }\kappa _{|B|}$$где

• π пробегает список всех разделов набора размера n ;
• « B ∈ π » означает, что B является одним из «блоков», на которые разбито множество; и
• | Б | размер множества B. —

Таким образом, каждый моном представляет собой константу, умноженную на произведение кумулянтов, в котором сумма индексов равна n (например, в слагаемом κ ₃ κ ₂ ² κ ₁ , сумма индексов равна 3 + 2 + 2 + 1 = 8; это появляется в многочлене, который выражает 8-й момент как функцию первых восьми кумулянтов). часть целого числа n Каждому члену соответствует . Коэффициент в каждом члене — это количество разделов набора из n членов, которые схлопываются в этот раздел целого числа n, когда члены набора становятся неразличимыми.

Кумулянты и комбинаторика

Дальнейшую связь между кумулянтами и комбинаторикой можно найти в работе Джан-Карло Рота , где связи с теорией инвариантов , симметричными функциями и биномиальными последовательностями изучаются с помощью теневого исчисления .

Совместные кумулянты

Совместный кумулянт κ нескольких случайных величин X ₁ , ..., X _n определяется как коэффициент κ _1,...,1 ( X ₁ , ..., X _n ) в ряду Маклорена многомерного кумулянта, порождающего функцию, см. раздел 3.1 в, $$G(t_{1},\dots ,t_{n})=\log \mathrm {E} (\mathrm {e} ^{\sum _{j=1}^{n}t_{j}X_{j}})=\sum _{k_{1},\ldots ,k_{n}}\kappa _{k_{1},\ldots ,k_{n}}{\frac {t_{1}^{k_{1}}\cdots t_{n}^{k_{n}}}{k_{1}!\cdots k_{n}!}}\,.$$Обратите внимание, что $$\kappa _{k_{1},\dots ,k_{n}}=\left.\left({\frac {\mathrm {d} }{\mathrm {d} t_{1}}}\right)^{k_{1}}\cdots \left({\frac {\mathrm {d} }{\mathrm {d} t_{n}}}\right)^{k_{n}}G(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,,$$и, в частности $$\kappa (X_{1},\ldots ,X_{n})=\left.{\frac {\mathrm {d} ^{n}}{\mathrm {d} t_{1}\cdots \mathrm {d} t_{n}}}G(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,.$$Как и в случае с одной переменной, производящую функцию и кумулянт вместо этого можно определить через $$H(t_{1},\dots ,t_{n})=\log \mathrm {E} (\mathrm {e} ^{\sum _{j=1}^{n}it_{j}X_{j}})=\sum _{k_{1},\ldots ,k_{n}}\kappa _{k_{1},\ldots ,k_{n}}i^{k_{1}+\cdots +k_{n}}{\frac {t_{1}^{k_{1}}\cdots t_{n}^{k_{n}}}{k_{1}!\cdots k_{n}!}}\,,$$в этом случае $$\kappa _{k_{1},\dots ,k_{n}}=(-i)^{k_{1}+\cdots +k_{n}}\left.\left({\frac {\mathrm {d} }{\mathrm {d} t_{1}}}\right)^{k_{1}}\cdots \left({\frac {\mathrm {d} }{\mathrm {d} t_{n}}}\right)^{k_{n}}H(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,,$$и $$\kappa (X_{1},\ldots ,X_{n})=\left.(-i)^{n}{\frac {\mathrm {d} ^{n}}{\mathrm {d} t_{1}\cdots \mathrm {d} t_{n}}}H(t_{1},\dots ,t_{n})\right|_{t_{1}=\dots =t_{n}=0}\,.$$

Повторяющиеся случайные величины и связь между коэффициентами κ _{k 1 , ..., k n}

Обратите внимание, что ${\textstyle \kappa _{k_{1},\dots ,k_{n}}(X_{1},\ldots ,X_{n})}$ также можно записать как $$\kappa _{k_{1},\dots ,k_{n}}=\left.{\frac {\mathrm {d} ^{k_{1}}}{\mathrm {d} t_{1,1}\cdots \mathrm {d} t_{1,k_{1}}}}\cdots {\frac {\mathrm {d} ^{k_{n}}}{\mathrm {d} t_{n,1}\cdots \mathrm {d} t_{n,k_{n}}}}G\left(\sum _{j=1}^{k_{1}}t_{1,j},\dots ,\sum _{j=1}^{k_{n}}t_{n,j}\right)\right|_{t_{i,j}=0},$$из чего мы делаем вывод, что $$\kappa _{k_{1},\dots ,k_{n}}(X_{1},\ldots ,X_{n})=\kappa _{1,\ldots ,1}(\underbrace {X_{1},\dots ,X_{1}} _{k_{1}},\ldots ,\underbrace {X_{n},\dots ,X_{n}} _{k_{n}}).$$Например $$\kappa _{2,0,1}(X,Y,Z)=\kappa (X,X,Z),\,$$и $$\kappa _{0,0,n,0}(X,Y,Z,T)=\kappa _{n}(Z)=\kappa (\underbrace {Z,\dots ,Z} _{n}).\,$$В частности, последнее равенство показывает, что кумулянты одной случайной величины являются совместными кумулянтами нескольких копий этой случайной величины.

Отношения со смешанными моментами

Совместная совокупная или случайная величина может быть выражена как альтернативная сумма произведений их смешанных моментов , см. уравнение (3.2.7) в: $$\kappa (X_{1},\dots ,X_{n})=\sum _{\pi }(|\pi |-1)!(-1)^{|\pi |-1}\prod _{B\in \pi }E\left(\prod _{i\in B}X_{i}\right)$$где π проходит через список всех разделов {1, ..., n } ; где B пробегает список всех блоков разбиения π ; и где | π | — количество частей в разделе.

Например, $$\kappa (X)=\operatorname {E} (X),$$ожидаемое значение ${\textstyle X}$, $$\kappa (X,Y)=\operatorname {E} (XY)-\operatorname {E} (X)\operatorname {E} (Y),$$это ковариация ​ ${\textstyle X}$ и ${\textstyle Y}$, и $$\kappa (X,Y,Z)=\operatorname {E} (XYZ)-\operatorname {E} (XY)\operatorname {E} (Z)-\operatorname {E} (XZ)\operatorname {E} (Y)-\operatorname {E} (YZ)\operatorname {E} (X)+2\operatorname {E} (X)\operatorname {E} (Y)\operatorname {E} (Z).\,$$

Для случайных величин с нулевым средним значением ${\textstyle X_{1},\ldots ,X_{n}}$, любой смешанный момент вида ${\textstyle \prod _{B\in \pi }E\left(\prod _{i\in B}X_{i}\right)}$ исчезает, если ${\textstyle \pi }$ является разделом ${\textstyle \{1,\ldots ,n\}}$ который содержит синглтон ${\textstyle B=\{k\}}$.Следовательно, выражение их совместного кумулянта через смешанные моменты упрощается.Например, если X,Y,Z,W — случайные величины с нулевым средним, мы имеем $$\kappa (X,Y,Z)=\operatorname {E} (XYZ).\,$$$$\kappa (X,Y,Z,W)=\operatorname {E} (XYZW)-\operatorname {E} (XY)\operatorname {E} (ZW)-\operatorname {E} (XZ)\operatorname {E} (YW)-\operatorname {E} (XW)\operatorname {E} (YZ).\,$$

В более общем смысле любой коэффициент ряда Маклорена также можно выразить через смешанные моменты, хотя кратких формул не существует.Действительно, как отмечалось выше, его можно записать как совместный кумулянт, соответствующим образом повторив случайные величины, а затем применить приведенную выше формулу, чтобы выразить его через смешанные моменты. Например $$\kappa _{201}(X,Y,Z)=\kappa (X,X,Z)=\operatorname {E} (X^{2}Z)-2\operatorname {E} (XZ)\operatorname {E} (X)-\operatorname {E} (X^{2})\operatorname {E} (Z)+2\operatorname {E} (X)^{2}\operatorname {E} (Z).\,$$

Если некоторые случайные величины не зависят от всех остальных, то любой кумулянт, включающий две (или более) независимых случайных величин, равен нулю.

Комбинаторный смысл выражения смешанных моментов через кумулянты легче понять, чем смысл кумулянтов через смешанные моменты, см. уравнение (3.2.6) в: $$\operatorname {E} (X_{1}\cdots X_{n})=\sum _{\pi }\prod _{B\in \pi }\kappa (X_{i}:i\in B).$$

Например: $$\operatorname {E} (XYZ)=\kappa (X,Y,Z)+\kappa (X,Y)\kappa (Z)+\kappa (X,Z)\kappa (Y)+\kappa (Y,Z)\kappa (X)+\kappa (X)\kappa (Y)\kappa (Z).\,$$

Дополнительные свойства

Еще одним важным свойством совместных кумулянтов является полилинейность: $$\kappa (X+Y,Z_{1},Z_{2},\dots )=\kappa (X,Z_{1},Z_{2},\ldots )+\kappa (Y,Z_{1},Z_{2},\ldots ).\,$$

Точно так же, как второй кумулянт является дисперсией, совместный кумулянт всего двух случайных величин является ковариацией . Знакомая личность $$\operatorname {var} (X+Y)=\operatorname {var} (X)+2\operatorname {cov} (X,Y)+\operatorname {var} (Y)\,$$обобщается на кумулянты: $$\kappa _{n}(X+Y)=\sum _{j=0}^{n}{n \choose j}\kappa (\,\underbrace {X,\dots ,X} _{j},\underbrace {Y,\dots ,Y} _{n-j}\,).\,$$

Условные кумулянты и закон полной кумулянтов

Основная статья: закон полной кумулятивности

Закон полного ожидания и закон полной дисперсии естественным образом обобщаются на условные кумулянты. Случай n = 3 , выраженный на языке (центральных) моментов, а не на языке кумулянтов, говорит $$\mu _{3}(X)=\operatorname {E} (\mu _{3}(X\mid Y))+\mu _{3}(\operatorname {E} (X\mid Y))+3\operatorname {cov} (\operatorname {E} (X\mid Y),\operatorname {var} (X\mid Y)).$$

В общем, $$\kappa (X_{1},\dots ,X_{n})=\sum _{\pi }\kappa (\kappa (X_{\pi _{1}}\mid Y),\dots ,\kappa (X_{\pi _{b}}\mid Y))$$где

• сумма ведется по всем разбиениям   π набора {1, ..., n } индексов, и
• π ₁ , ..., π _b — все «блоки» разбиения π ; выражение κ ( X _{π m} ) указывает на то, что совместный кумулянт случайных величин, индексы которых находятся в этом блоке разбиения.

Условные кумулянты и условное ожидание

Для определенных настроек можно установить производную идентичность между условным кумулянтом и условным ожиданием. Например, предположим, что Y = X + Z , где Z — стандартная нормаль, не зависящая от X , тогда для любого X выполняется соотношение $$\kappa _{n+1}(X\mid Y=y)={\frac {\mathrm {d} ^{n}}{\mathrm {d} y^{n}}}\operatorname {E} (X\mid Y=y),\,n\in \mathbb {N} ,\,y\in \mathbb {R} .$$Результаты также могут быть отправлены в экспоненциальное семейство.

Отношение к статистической физике

В статистической физике многие экстенсивные величины , то есть величины, пропорциональные объему или размеру данной системы, связаны с кумулянтами случайных величин. Глубокая связь заключается в том, что в большой системе такую ​​обширную величину, как энергия или количество частиц, можно рассматривать как сумму (скажем) энергии, связанной с рядом почти независимых областей. Тот факт, что кумулянты этих почти независимых случайных величин (почти) складываются, делает разумным, что следует ожидать, что большие количества будут связаны с кумулянтами.

Система, находящаяся в равновесии с тепловой ванной при температуре T, имеет колеблющуюся внутреннюю энергию E , которую можно считать случайной величиной, полученной из распределения ${\textstyle E\sim p(E)}$. Статистическая сумма системы равна $$Z(\beta )=\langle \exp(-\beta E)\rangle ,$$где β = 1/( kT ) , k — постоянная Больцмана и обозначение ${\textstyle \langle A\rangle }$ был использован, а не ${\textstyle \operatorname {E} [A]}$ для среднего значения, чтобы избежать путаницы с энергией, E . Следовательно, первый и второй кумулянты для энергии E дают среднюю энергию и теплоемкость. $${\begin{aligned}\langle E\rangle _{c}&={\frac {\partial \log Z}{\partial (-\beta )}}=\langle E\rangle \\[6pt]\langle E^{2}\rangle _{c}&={\frac {\partial \langle E\rangle _{c}}{\partial (-\beta )}}=kT^{2}{\frac {\partial \langle E\rangle }{\partial T}}=kT^{2}C\end{aligned}}$$

выраженная Свободная энергия Гельмгольца, через $$F(\beta )=-\beta ^{-1}\log Z(\beta )\,$$далее связывает термодинамические величины с кумулянтной производящей функцией энергии. Термодинамические свойства, являющиеся производными свободной энергии, такие как ее внутренняя энергия , энтропия и удельная теплоемкость, могут быть легко выражены через эти кумулянты. Другая свободная энергия может быть функцией других переменных, таких как магнитное поле или химический потенциал. ${\textstyle \mu }$, например $$\Omega =-\beta ^{-1}\log(\langle \exp(-\beta E-\beta \mu N)\rangle ),\,$$где N — количество частиц и ${\textstyle \Omega }$ это великий потенциал. что различные производные этой свободной энергии могут быть записаны через совместные кумулянты E и N. Опять же, тесная связь между определением свободной энергии и производящей функцией кумулянта подразумевает ,

История

Историю кумулянтов обсуждает Андерс Хальд .

Кумулянты были впервые введены Торвальдом Н. Тиле в 1889 году, который назвал их полуинвариантами . Впервые они были названы кумулянтами в статье Рональда Фишера и Джона Уишарта в 1932 году . Нейман публично напомнил Фишеру о работе Тиле, который также отмечает ранее опубликованные цитаты Тиле, доведенные до сведения Фишера. Стивен Стиглер сказал что название «кумулянт» было предложено Фишеру в письме от Гарольда Хотеллинга . В статье, опубликованной в 1929 году, Фишер назвал их кумулятивными моментными функциями .

Статистическая сумма в статистической физике была введена Джозайей Уиллардом Гиббсом в 1901 году. Свободную энергию часто называют свободной энергией Гиббса. В статистической механике кумулянты также известны как функции Урселла, относящиеся к публикации 1927 года.

Кумулянты в обобщенных условиях

Формальные кумулянты

В более общем смысле, кумулянты последовательности { m _n : n = 1, 2, 3, ... } , не обязательно моменты любого распределения вероятностей, по определению являются $$1+\sum _{n=1}^{\infty }{\frac {m_{n}t^{n}}{n!}}=\exp \left(\sum _{n=1}^{\infty }{\frac {\kappa _{n}t^{n}}{n!}}\right),$$где значения κ _n для n = 1, 2, 3, ... находятся формально, т. е. только с помощью алгебры, без учета вопросов о сходимости какого-либо ряда. Все трудности «проблемы о кумулянтах» отсутствуют при формальной работе. Самый простой пример: второй кумулянт распределения вероятностей всегда должен быть неотрицательным и равен нулю, только если все старшие кумулянты равны нулю. На формальные кумулянты такие ограничения не распространяются.

Номера звонков

В комбинаторике число n- е Белла — это количество разделов множества размера n . Все кумулянты последовательности чисел Белла равны 1 . Числа Белла — это моменты распределения Пуассона с ожидаемым значением 1 .

Кумулянты полиномиальной последовательности биномиального типа

Для любой последовательности { κ _n : n = 1, 2, 3, ... } скаляров нулевой характеристики, рассматриваемой как в поле формальные кумулянты, существует соответствующая последовательность { µ ′ : n = 1, 2, 3, ... } формальных моментов, заданных полиномами выше. Для этих полиномов постройте полиномиальную последовательность следующим образом. Из полинома $${\begin{aligned}\mu '_{6}={}&\kappa _{6}+6\kappa _{5}\kappa _{1}+15\kappa _{4}\kappa _{2}+15\kappa _{4}\kappa _{1}^{2}+10\kappa _{3}^{2}+60\kappa _{3}\kappa _{2}\kappa _{1}+20\kappa _{3}\kappa _{1}^{3}\\&{}+15\kappa _{2}^{3}+45\kappa _{2}^{2}\kappa _{1}^{2}+15\kappa _{2}\kappa _{1}^{4}+\kappa _{1}^{6}\end{aligned}}$$создайте новый полином из них плюс одну дополнительную переменную x : $${\begin{aligned}p_{6}(x)={}&\kappa _{6}\,x+(6\kappa _{5}\kappa _{1}+15\kappa _{4}\kappa _{2}+10\kappa _{3}^{2})\,x^{2}+(15\kappa _{4}\kappa _{1}^{2}+60\kappa _{3}\kappa _{2}\kappa _{1}+15\kappa _{2}^{3})\,x^{3}\\&{}+(45\kappa _{2}^{2}\kappa _{1}^{2})\,x^{4}+(15\kappa _{2}\kappa _{1}^{4})\,x^{5}+(\kappa _{1}^{6})\,x^{6},\end{aligned}}$$а затем обобщить закономерность. Закономерность такова, что количество блоков в вышеупомянутых разделах является показателем степени x . Каждый коэффициент представляет собой полином от кумулянтов; это полиномы Белла , названные в честь Эрика Темпла Белла .

Эта последовательность полиномов имеет биномиальный тип . Фактически других последовательностей биномиального типа не существует; каждая полиномиальная последовательность биномиального типа полностью определяется своей последовательностью формальных кумулянтов.

Бесплатные кумулянты

В приведенной выше формуле момент-кумулянта\ $$\operatorname {E} (X_{1}\cdots X_{n})=\sum _{\pi }\prod _{B\,\in \,\pi }\kappa (X_{i}:i\in B)$$для совместных кумулянтов суммируется по всем разделам набора { 1, ..., n } . Если вместо этого суммировать только по непересекающимся разбиениям , то, решив эти формулы для ${\textstyle \kappa }$ с точки зрения моментов получаются свободные кумулянты, а не обычные кумулянты, рассмотренные выше. Эти свободные кумулянты были введены Роландом Спайхером и играют центральную роль в теории свободных вероятностей . В этой теории вместо того, чтобы рассматривать независимость , случайных величин определенных в терминах тензорных произведений алгебр случайных величин, вместо этого рассматривается свободная независимость случайных величин, определенная в терминах свободных произведений алгебр.

Обычные кумулянты степени выше 2 нормального распределения равны нулю. Свободные . кумулянты степени выше 2 полукругового распределения Вигнера равны нулю Это один из аспектов, в котором роль распределения Вигнера в свободной теории вероятностей аналогична роли нормального распределения в традиционной теории вероятностей.

См. также

• Энтропийное значение под угрозой
• Кумулянтная производящая функция из мультимножества
• Расширение Корниша – Фишера
• Расширение Эджворта
• Поликей
• k-статистика с минимальной дисперсией , несмещенная оценка кумулянта
• Функция Урселла
• Тензор полного разброса позиций как применение кумулянтов для анализа электронной волновой функции в квантовой химии .

Внешние ссылки

• Вайсштейн, Эрик В. «Кумулянт» . Математический мир .
• кумулянт о самых ранних известных употреблениях некоторых математических слов