Центральная предельная теорема

В теории вероятностей центральная предельная теорема ( ЦПТ ) утверждает, что при соответствующих условиях распределение нормализованной версии выборочного среднего сходится к стандартному нормальному распределению . Это справедливо даже в том случае, если сами исходные переменные не имеют нормального распределения . Существует несколько версий CLT, каждая из которых применяется в контексте различных условий.

Теорема является ключевой концепцией теории вероятностей, поскольку она подразумевает, что вероятностные и статистические методы, работающие для нормальных распределений, могут быть применимы ко многим проблемам, связанным с другими типами распределений.

Эта теорема претерпела множество изменений в ходе формального развития теории вероятностей. Предыдущие версии теоремы датируются 1811 годом, но в своей современной общей форме этот фундаментальный результат теории вероятностей был точно сформулирован еще в 1920 году: тем самым служа мостом между классической и современной теорией вероятностей.

Элементарная форма теоремы гласит следующее. Позволять $X_{1},X_{2},\dots ,X_{n}$ обозначают случайную выборку $n$ независимые наблюдения среди населения с общим ожидаемым значением (среднее) $\mu$ и конечная дисперсия $\sigma ^{2}$, и пусть ${\bar {X}}_{n}$ обозначают выборочное среднее значение этой выборки (которая сама по себе является случайной величиной ). Тогда предел как $n\to \infty$ распределения ​ $({\bar {X}}_{n}-\mu )/\sigma _{{\bar {X}}_{n}},$ где $\sigma _{{\bar {X}}_{n}}=\sigma /{\sqrt {n}},$ является стандартным нормальным распределением.

Другими словами, предположим, что получена большая выборка наблюдений , причем каждое наблюдение производится случайным образом таким образом, что не зависит от значений других наблюдений, и что вычисляется среднее ( среднее арифметическое ) наблюдаемых значений. Если эта процедура выполняется много раз, в результате чего получается набор наблюдаемых средних значений, центральная предельная теорема гласит, что если размер выборки был достаточно большим, распределение вероятностей этих средних значений будет близко приближаться к нормальному распределению.

Центральная предельная теорема имеет несколько вариантов. В своей общей форме случайные величины должны быть независимыми и одинаково распределенными (iid). Это требование можно ослабить; сходимость среднего значения к нормальному распределению происходит также для неидентичных распределений или для ненезависимых наблюдений, если они соответствуют определенным условиям.

Самая ранняя версия этой теоремы о том, что нормальное распределение может использоваться как приближение к биномиальному распределению , — это теорема Муавра-Лапласа .

Независимые последовательности

Какой бы ни была форма распределения населения, выборочное распределение стремится к гауссову, а его дисперсия определяется центральной предельной теоремой.

Классический CLT

Позволять $\{X_{1},\ldots ,X_{n}}\$ быть последовательностью случайных величин iid, имеющих распределение с ожидаемым значением , заданным формулой $\mu$ и конечная дисперсия, определяемая формулой $\sigma ^{2}.$ Предположим, нас интересует выборочное среднее

$${\bar {X}}_{n}\equiv {\frac {X_{1}+\cdots +X_{n}}{n}}.$$

По закону больших чисел выборочное среднее почти наверняка сходится (а значит, сходится и по вероятности ) к ожидаемому значению. $\mu$ как $n\to \infty .$

Классическая центральная предельная теорема описывает размер и форму распределения стохастических флуктуаций вокруг детерминированного числа. $\mu$ во время этого сближения. Точнее, там говорится, что, как $n$ становится больше, распределение разницы между средним значением выборки ${\bar {X}}_{n}$ и его предел $\mu ,$ при умножении на коэффициент ${\sqrt {n}}$ - то есть, ${\sqrt {n}}({\bar {X}}_{n}-\mu )$ — приближается к нормальному распределению со средним значением $0$ и дисперсия $\sigma ^{2}.$ Для достаточно большого $n,$ распространение ${\bar {X}}_{n}$ становится сколь угодно близким к нормальному распределению со средним значением $\mu$ и дисперсия $\sigma ^{2}/n.$

Полезность теоремы состоит в том, что распределение ${\sqrt {n}}({\bar {X}}_{n}-\mu )$ приближается к нормальности независимо от формы распределения индивидуума $X_{i}.$ Формально теорему можно сформулировать следующим образом:

CLT Линдеберга – Леви — Предположим, $X_{1},X_{2},X_{3}\ldots$ представляет собой последовательность iid случайных величин с $\operatorname {E} [X_{i}]=\mu$ и $\operatorname {Var} [X_{i}]=\sigma ^{2}<\infty .$ Тогда, как $n$ приближается к бесконечности, случайные величины ${\sqrt {n}}({\bar {X}}_{n}-\mu )$ сходятся по распределению к нормальному ${\mathcal {N}}(0,\sigma ^{2})$:

$${\sqrt {n}}\left({\bar {X}}_{n}-\mu \right)\mathrel {\overset {d}{\longrightarrow }} {\mathcal {N}}\left(0,\sigma ^{2}\right).$$

В случае $\sigma >0,$ сходимость распределения означает, что кумулятивные функции распределения ${\sqrt {n}}({\bar {X}}_{n}-\mu )$ сходятся поточечно к CDF ${\mathcal {N}}(0,\sigma ^{2})$ распределение: для каждого действительного числа $z,$

$$\lim _{n\to \infty }\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]=\lim _{n\to \infty }\mathbb {P} \left[{\frac {{\sqrt {n}}({\bar {X}}_{n}-\mu )}{\sigma }}\leq {\frac {z}{\sigma }}\right]=\Phi \left({\frac {z}{\sigma }}\right),$$

где $\Phi (z)$ стандартный нормальный CDF, оцениваемый в $z.$ Сходимость равномерная по $z$ в том смысле, что

$$\lim _{n\to \infty }\;\sup _{z\in \mathbb {R} }\;\left|\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]-\Phi \left({\frac {z}{\sigma }}\right)\right|=0~,$$

где $\sup$ обозначает наименьшую верхнюю границу (или верхнюю границу ) набора.

Ляпунов ЦЛТ

В этом варианте центральной предельной теоремы случайные величины ${\textstyle X_{i}}$ должны быть независимыми, но не обязательно одинаково распределенными. Теорема также требует, чтобы случайные величины ${\textstyle \left|X_{i}\right|}$ иметь моменты некоторого порядка ${\textstyle (2+\delta )}$, и что скорость роста этих моментов ограничена условием Ляпунова, приведенным ниже.

Ляпунов ЦЛТ - Предполагать ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$ представляет собой последовательность независимых случайных величин, каждая из которых имеет конечное ожидаемое значение ${\textstyle \mu _{i}}$ и дисперсия ${\textstyle \sigma _{i}^{2}}$. Определять

$$s_{n}^{2}=\sum _{i=1}^{n}\sigma _{i}^{2}.$$

Если для некоторых ${\textstyle \delta >0}$, состояние Ляпунова

$$\lim _{n\to \infty }\;{\frac {1}{s_{n}^{2+\delta }}}\,\sum _{i=1}^{n}\operatorname {E} \left[\left|X_{i}-\mu _{i}\right|^{2+\delta }\right]=0$$

удовлетворено, то сумма ${\textstyle {\frac {X_{i}-\mu _{i}}{s_{n}}}}$ сходится по распределению к стандартной нормальной случайной величине, так как ${\textstyle n}$ уходит в бесконечность:

$${\frac {1}{s_{n}}}\,\sum _{i=1}^{n}\left(X_{i}-\mu _{i}\right)\mathrel {\overset {d}{\longrightarrow }} {\mathcal {N}}(0,1).$$

На практике обычно проще всего проверить условие Ляпунова при ${\textstyle \delta =1}$.

Если последовательность случайных величин удовлетворяет условию Ляпунова, то она удовлетворяет и условию Линдеберга. Обратный вывод, однако, не имеет места.

Линдеберг CLT

Основная статья: Состояние Линдеберга

В той же постановке и с теми же обозначениями, что и выше, условие Ляпунова можно заменить следующим, более слабым (от Линдеберга в 1920 г.).

Предположим, что для каждого ${\textstyle \varepsilon >0}$

$$\lim _{n\to \infty }{\frac {1}{s_{n}^{2}}}\sum _{i=1}^{n}\operatorname {E} \left[(X_{i}-\mu _{i})^{2}\cdot \mathbf {1} _{\left\{\left|X_{i}-\mu _{i}\right|>\varepsilon s_{n}\right\}}\right]=0$$

где ${\textstyle \mathbf {1} _{\{\ldots \}}}$ – индикаторная функция . Тогда распределение нормированных сумм

$${\frac {1}{s_{n}}}\sum _{i=1}^{n}\left(X_{i}-\mu _{i}\right)$$

сходится к стандартному нормальному распределению ${\textstyle {\mathcal {N}}(0,1)}$.

Многомерный CLT

Доказательства, использующие характеристические функции, могут быть распространены на случаи, когда каждый отдельный ${\textstyle \mathbf {X} _{i}}$ является случайным вектором в ${\textstyle \mathbb {R} ^{k}}$, со средним вектором ${\textstyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} _{i}]}$ и ковариационная матрица ${\textstyle \mathbf {\Sigma } }$ (среди компонент вектора), причем эти случайные векторы независимы и одинаково распределены. Многомерная центральная предельная теорема утверждает, что при масштабировании суммы сходятся к многомерному нормальному распределению . Суммирование этих векторов производится покомпонентно.

Для $i=1,2,3,\ldots ,$ позволять

$$\mathbf {X} _{i}={\begin{bmatrix}X_{i}^{(1)}\\\vdots \\X_{i}^{(k)}\end{bmatrix}}$$

быть независимыми случайными векторами. Сумма случайных векторов $\mathbf {X} _{1},\ldots ,\mathbf {X} _{n}$ является

$$\sum _{i=1}^{n}\mathbf {X} _{i}={\begin{bmatrix}X_{1}^{(1)}\\\vdots \\X_{1}^{(k)}\end{bmatrix}}+{\begin{bmatrix}X_{2}^{(1)}\\\vdots \\X_{2}^{(k)}\end{bmatrix}}+\cdots +{\begin{bmatrix}X_{n}^{(1)}\\\vdots \\X_{n}^{(k)}\end{bmatrix}}={\begin{bmatrix}\sum _{i=1}^{n}X_{i}^{(1)}\\\vdots \\\sum _{i=1}^{n}X_{i}^{(k)}\end{bmatrix}}$$

и их среднее значение

$$\mathbf {{\bar {X}}_{n}} ={\begin{bmatrix}{\bar {X}}_{i}^{(1)}\\\vdots \\{\bar {X}}_{i}^{(k)}\end{bmatrix}}={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {X} _{i}.$$

Поэтому,

$${\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}\left[\mathbf {X} _{i}-\operatorname {E} \left(\mathbf {X} _{i}\right)\right]={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}(\mathbf {X} _{i}-{\boldsymbol {\mu }})={\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right).$$

Многомерная центральная предельная теорема утверждает, что

$${\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right)\mathrel {\overset {d}{\longrightarrow }} {\mathcal {N}}_{k}(0,{\boldsymbol {\Sigma }}),$$

где ковариационная матрица ${\boldsymbol {\Sigma }}$ равно

$${\boldsymbol {\Sigma }}={\begin{bmatrix}{\operatorname {Var} \left(X_{1}^{(1)}\right)}&\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(k)}\right)\\\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(1)}\right)&\operatorname {Var} \left(X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(k)}\right)\\\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(1)}\right)&\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(2)}\right)&\operatorname {Var} \left(X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(k)}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(1)}\right)&\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(3)}\right)&\cdots &\operatorname {Var} \left(X_{1}^{(k)}\right)\\\end{bmatrix}}~.$$

Многомерную центральную предельную теорему можно доказать с помощью теоремы Крамера – Вольда .

Скорость сходимости определяется следующим результатом типа Берри – Эссеена :

Теорема - Позволять $X_{1},\dots ,X_{n},\dots$ быть независимым $\mathbb {R} ^{d}$-значные случайные векторы, каждый из которых имеет нулевое среднее значение. Писать $S=\sum _{i=1}^{n}X_{i}$ и предположим $\Sigma =\operatorname {Cov} [S]$ является обратимым. Позволять $Z\sim {\mathcal {N}}(0,\Sigma )$ быть $d$-мерный гауссиан с тем же средним значением и той же ковариационной матрицей, что и $S$. Тогда для всех выпуклых множеств $U\subseteq \mathbb {R} ^{d}$,

$$\left|\mathbb {P} [S\in U]-\mathbb {P} [Z\in U]\right|\leq C\,d^{1/4}\gamma ~,$$

где $C$ это универсальная константа, $\gamma =\sum _{i=1}^{n}\operatorname {E} \left[\left\|\Sigma ^{-1/2}X_{i}\right\|_{2}^{3}\right]$, и $\|\cdot \|_{2}$ обозначает евклидову норму на $\mathbb {R} ^{d}$.

Неизвестно, является ли фактор ${\textstyle d^{1/4}}$ необходимо.

центральная

Обобщенная центральная предельная теорема (GCLT) была результатом усилий нескольких математиков ( Бернштейна , Линдеберга , Леви , Феллера , Колмогорова и других) в период с 1920 по 1937 год. Первое полное доказательство GCLT было опубликовано в 1937 году Полем Леви на французском языке. Англоязычная версия полного доказательства GCLT доступна в переводе книги Гнеденко и Колмогорова 1954 года.

Заявление GCLT следующее:

Невырожденная случайная величина Z является α -стабильной для некоторого 0 < α ≤ 2 тогда и только тогда, когда существует независимая, одинаково распределенная последовательность случайных величин X ₁ , X ₂ , X ₃ , ... и констант a _n > 0, bn _ℝ ∈ с

а _п ( Икс ₁ + … + Икс _п ) - б _п → Z .

Здесь → означает, что последовательность сумм случайных величин сходится по распределению; т. е. соответствующие распределения удовлетворяют F _n ( y ) → F ( y ) во всех точках непрерывности F.

Другими словами, если суммы независимых, одинаково распределенных случайных величин сходятся по распределению к некоторому Z , то Z должно быть стабильным распределением .

Зависимые процессы

CLT при слабой зависимости

Полезным обобщением последовательности независимых, одинаково распределенных случайных величин является случайный процесс смешивания в дискретном времени; «Смешивание» означает, грубо говоря, что случайные величины, находящиеся далеко друг от друга во времени, почти независимы. Несколько видов смешивания используются в эргодической теории и теории вероятностей. См. особенно сильное смешивание (также называемое α-смешиванием), определяемое формулой ${\textstyle \alpha (n)\to 0}$ где ${\textstyle \alpha (n)}$ – так называемый коэффициент сильного смешивания .

Упрощенная формулировка центральной предельной теоремы при сильном перемешивании такова:

Теорема . Предположим, что ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$ является стационарным и $\alpha$-смешивание с ${\textstyle \alpha _{n}=O\left(n^{-5}\right)}$ и это ${\textstyle \operatorname {E} [X_{n}]=0}$ и ${\textstyle \operatorname {E} [X_{n}^{12}]<\infty }$. Обозначим ${\textstyle S_{n}=X_{1}+\cdots +X_{n}}$, то предел

$$\sigma ^{2}=\lim _{n\rightarrow \infty }{\frac {\operatorname {E} \left(S_{n}^{2}\right)}{n}}$$

существует, и если ${\textstyle \sigma \neq 0}$ затем ${\textstyle {\frac {S_{n}}{\sigma {\sqrt {n}}}}}$ сходится по распределению к ${\textstyle {\mathcal {N}}(0,1)}$.

Фактически,

$$\sigma ^{2}=\operatorname {E} \left(X_{1}^{2}\right)+2\sum _{k=1}^{\infty }\operatorname {E} \left(X_{1}X_{1+k}\right),$$

где ряд сходится абсолютно.

Предположение ${\textstyle \sigma \neq 0}$ нельзя опустить, поскольку асимптотическая нормальность не выполняется для ${\textstyle X_{n}=Y_{n}-Y_{n-1}}$ где ${\textstyle Y_{n}}$ являются еще одной стационарной последовательностью .

Существует более сильная версия теоремы: предположение ${\textstyle \operatorname {E} \left[X_{n}^{12}\right]<\infty }$ заменяется на ${\textstyle \operatorname {E} \left[{\left|X_{n}\right|}^{2+\delta }\right]<\infty }$, и предположение ${\textstyle \alpha _{n}=O\left(n^{-5}\right)}$ заменяется на

$$\sum _{n}\alpha _{n}^{\frac {\delta }{2(2+\delta )}}<\infty .$$

Существование таких ${\textstyle \delta >0}$ обеспечивает заключение. Энциклопедическое изложение предельных теорем в условиях смешивания см. ( Bradley 2007 ).

Разница по Мартингейлу CLT

Основная статья: Центральная предельная теорема Мартингейла

Теорема . Пусть мартингал ${\textstyle M_{n}}$ удовлетворить

• ${\frac {1}{n}}\sum _{k=1}^{n}\operatorname {E} \left[\left(M_{k}-M_{k-1}\right)^{2}\mid M_{1},\dots ,M_{k-1}\right]\to 1$ по вероятности при n → ∞ ,
• для каждого ε > 0 , ${\frac {1}{n}}\sum _{k=1}^{n}{\operatorname {E} \left[\left(M_{k}-M_{k-1}\right)^{2}\mathbf {1} \left[|M_{k}-M_{k-1}|>\varepsilon {\sqrt {n}}\right]\right]}\to 0$ при n → ∞ ,

затем ${\textstyle {\frac {M_{n}}{\sqrt {n}}}}$ сходится по распределению к ${\textstyle {\mathcal {N}}(0,1)}$ как ${\textstyle n\to \infty }$.

Замечания

Доказательство классической CLT

Центральная предельная теорема имеет доказательство с использованием характеристических функций . Это похоже на доказательство (слабого) закона больших чисел .

Предполагать ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$ являются независимыми и одинаково распределенными случайными величинами, каждая со средним значением ${\textstyle \mu }$ и конечная дисперсия ${\textstyle \sigma ^{2}}$. Сумма ${\textstyle X_{1}+\cdots +X_{n}}$ имеет в виду ${\textstyle n\mu }$ и дисперсия ${\textstyle n\sigma ^{2}}$. Рассмотрим случайную величину

$$Z_{n}={\frac {X_{1}+\cdots +X_{n}-n\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {X_{i}-\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {1}{\sqrt {n}}}Y_{i},$$

где на последнем шаге мы определили новые случайные величины ${\textstyle Y_{i}={\frac {X_{i}-\mu }{\sigma }}}$, каждый с нулевым средним значением и единичной дисперсией ( ${\textstyle \operatorname {var} (Y)=1}$). Характеристическая функция ​ ${\textstyle Z_{n}}$ дается

$$\varphi _{Z_{n}}\!(t)=\varphi _{\sum _{i=1}^{n}{{\frac {1}{\sqrt {n}}}Y_{i}}}\!(t)\ =\ \varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\varphi _{Y_{2}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\cdots \varphi _{Y_{n}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\ =\ \left[\varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\right]^{n},$$

где на последнем шаге мы использовали тот факт, что все ${\textstyle Y_{i}}$ распределены одинаково. Характеристическая функция ${\textstyle Y_{1}}$ по теореме Тейлора ,

$$\varphi _{Y_{1}}\!\left({\frac {t}{\sqrt {n}}}\right)=1-{\frac {t^{2}}{2n}}+o\!\left({\frac {t^{2}}{n}}\right),\quad \left({\frac {t}{\sqrt {n}}}\right)\to 0$$

где ${\textstyle o(t^{2}/n)}$ является « маленьким обозначением » для некоторой функции ${\textstyle t}$ который стремится к нулю быстрее, чем ${\textstyle t^{2}/n}$. По пределу показательной функции ( ${\textstyle e^{x}=\lim _{n\to \infty }\left(1+{\frac {x}{n}}\right)^{n}}$), характеристическая функция $Z_{n}$ равно

$$\varphi _{Z_{n}}(t)=\left(1-{\frac {t^{2}}{2n}}+o\left({\frac {t^{2}}{n}}\right)\right)^{n}\rightarrow e^{-{\frac {1}{2}}t^{2}},\quad n\to \infty .$$

Все члены высшего порядка исчезают в пределе ${\textstyle n\to \infty }$. Правая часть равна характеристической функции стандартного нормального распределения. ${\textstyle {\mathcal {N}}(0,1)}$, что согласно теореме Леви о непрерывности означает , что распределение ${\textstyle Z_{n}}$ подойдет ${\textstyle {\mathcal {N}}(0,1)}$ как ${\textstyle n\to \infty }$. Таким образом, среднее выборочное

$${\bar {X}}_{n}={\frac {X_{1}+\cdots +X_{n}}{n}}$$

таков, что

$${\frac {\sqrt {n}}{\sigma }}({\bar {X}}_{n}-\mu )=Z_{n}$$

сходится к нормальному распределению ${\textstyle {\mathcal {N}}(0,1)}$, откуда следует центральная предельная теорема.

Сходимость к пределу

Центральная предельная теорема дает только асимптотическое распределение . В качестве приближения для конечного числа наблюдений оно обеспечивает разумное приближение только тогда, когда оно близко к пику нормального распределения; чтобы дойти до хвостов, требуется очень большое количество наблюдений.

Сходимость в центральной предельной теореме равномерна, поскольку предельная кумулятивная функция распределения непрерывна. Если третий центральный момент ${\textstyle \operatorname {E} \left[(X_{1}-\mu )^{3}\right]}$ существует и конечна, то скорость сходимости не менее порядка ${\textstyle 1/{\sqrt {n}}}$ (см. теорему Берри–Эссеена ). метод Штейна может использоваться не только для доказательства центральной предельной теоремы, но и для оценки скорости сходимости выбранных метрик.

Сходимость к нормальному распределению монотонна в том смысле, энтропия что ${\textstyle Z_{n}}$ возрастает монотонно до нормального распределения.

Центральная предельная теорема применима, в частности, к суммам независимых и одинаково распределенных дискретных случайных величин . Сумма дискретных случайных величин по-прежнему остается дискретной случайной величиной , так что мы сталкиваемся с последовательностью дискретных случайных величин, чья кумулятивная функция распределения вероятностей сходится к кумулятивной функции распределения вероятностей, соответствующей непрерывной переменной (а именно, функции нормального распределения ) . Это означает, что если мы построим гистограмму реализаций суммы n независимых одинаковых дискретных переменных, то кусочно-линейная кривая, соединяющая центры верхних граней прямоугольников, образующих гистограмму, сходится к кривой Гаусса при n приближении к бесконечности; это соотношение известно как теорема Муавра – Лапласа . В статье о биномиальном распределении подробно описано такое применение центральной предельной теоремы в простом случае, когда дискретная переменная принимает только два возможных значения.

Распространенные заблуждения

Исследования показали, что центральная предельная теорема подвержена нескольким распространенным, но серьезным заблуждениям, некоторые из которых встречаются в широко используемых учебниках. К ним относятся:

• Ошибочное убеждение, что теорема применима к случайной выборке любой переменной, а не к средним значениям (или суммам) iid случайных величин, извлеченных из совокупности путем повторной выборки. То есть теорема предполагает, что случайная выборка создает выборочное распределение, сформированное из различных значений средних (или сумм) таких случайных величин.
• Ошибочное убеждение, что теорема гарантирует, что случайная выборка приводит к возникновению нормального распределения для достаточно больших выборок любой случайной величины, независимо от распределения населения. В действительности такая выборка асимптотически воспроизводит свойства популяции, что является интуитивным результатом, подкрепленным теоремой Гливенко-Кантелли .
• Ошибочное убеждение, что эта теорема приводит к хорошему приближению нормального распределения для размеров выборки, превышающих 30, позволяющие делать надежные выводы независимо от характера популяции. На самом деле это эмпирическое правило не имеет веского обоснования и может привести к серьезно ошибочным выводам. См. Z-тест, чтобы узнать, где выполняется приближение.

с законом

Закон больших чисел , а также центральная предельная теорема являются частичным решением общей проблемы: «Каково предельное поведение Sn _при стремлении n к бесконечности?» В математическом анализе асимптотические ряды являются одним из самых популярных инструментов, используемых для решения таких вопросов.

Предположим, что у нас есть асимптотическое разложение ${\textstyle f(n)}$:

$$f(n)=a_{1}\varphi _{1}(n)+a_{2}\varphi _{2}(n)+O{\big (}\varphi _{3}(n){\big )}\qquad (n\to \infty ).$$

Разделив обе части на φ ₁ ( n ) и приняв предел, получим , ₁ коэффициент члена высшего порядка в разложении, который представляет скорость, с которой f ( n ) изменяется в своем ведущем члене.

$$\lim _{n\to \infty }{\frac {f(n)}{\varphi _{1}(n)}}=a_{1}.$$

Неформально можно сказать: « f ( n ) растет примерно как a ₁ φ1 _n ( ) » . Взяв разницу между f ( n ) и ее аппроксимацией, а затем разделив ее на следующий член разложения, мы придем к более уточненному утверждению о f ( n ) :

$$\lim _{n\to \infty }{\frac {f(n)-a_{1}\varphi _{1}(n)}{\varphi _{2}(n)}}=a_{2}.$$

Здесь можно сказать, что разница между функцией и ее аппроксимацией растет примерно как a ₂ φ ₂ ( n ) . Идея состоит в том, что деление функции на соответствующие нормализующие функции и рассмотрение предельного поведения результата может многое рассказать нам о предельном поведении самой исходной функции.

Неформально, нечто подобное происходит, когда сумма независимых _Sn одинаково распределенных случайных величин X ₁ , ..., X _n исследуется в классической теории вероятностей. Если каждое X _i имеет конечное среднее µ , то по закону больших чисел S _п / п → μ . Если, кроме того, каждый X _i имеет конечную дисперсию σ ² , то по центральной предельной теореме

$${\frac {S_{n}-n\mu }{\sqrt {n}}}\to \xi ,$$

где ξ распределена как N (0, σ ² ) . Это дает значения первых двух констант в неформальном разложении

$$S_{n}\approx \mu n+\xi {\sqrt {n}}.$$

В случае, когда X _i не имеет конечного среднего значения или дисперсии, сходимость сдвинутой и масштабированной суммы также может происходить с различными коэффициентами центрирования и масштабирования:

$${\frac {S_{n}-a_{n}}{b_{n}}}\rightarrow \Xi ,$$

или неофициально

$$S_{n}\approx a_{n}+\Xi b_{n}.$$

Распределения Ξ , которые могут возникнуть таким образом, называются устойчивыми . Очевидно, что нормальное распределение стабильно, но существуют и другие стабильные распределения, такие как распределение Коши , для которых среднее значение или дисперсия не определены. Масштабный коэффициент b _n может быть пропорционален n ^с , для любого c ≥ 1/2 ​ ​ ; его также можно умножить на медленно меняющуюся n функцию .

Закон повторного логарифма определяет то, что происходит «между» законом больших чисел и центральной предельной теоремой. В частности, там говорится, что нормализующая функция √ n log log n , промежуточная по размеру между n закона больших чисел и √ n центральной предельной теоремы, обеспечивает нетривиальное предельное поведение.

Альтернативные утверждения теоремы

Функции плотности

Плотность . суммы двух или более независимых переменных представляет собой свертку их плотностей (если эти плотности существуют) Таким образом, центральную предельную теорему можно интерпретировать как утверждение о свойствах функций плотности при свертке: свертка ряда функций плотности стремится к нормальной плотности по мере неограниченного увеличения числа функций плотности. Эти теоремы требуют более сильных гипотез, чем формы центральной предельной теоремы, приведенные выше. Теоремы этого типа часто называют локальными предельными теоремами. См. Петрова для конкретной локальной предельной теоремы для сумм независимых и одинаково распределенных случайных величин .

Характеристические функции

Поскольку характеристическая функция свертки является произведением характеристических функций участвующих плотностей, центральная предельная теорема имеет еще одну формулировку: произведение характеристических функций ряда функций плотности становится близким к характеристической функции нормальной плотности. поскольку число функций плотности неограниченно увеличивается в условиях, изложенных выше. В частности, к аргументу характеристической функции необходимо применить соответствующий масштабный коэффициент.

Эквивалентное утверждение можно сделать и о преобразованиях Фурье , поскольку характеристическая функция по сути является преобразованием Фурье.

Вычисление дисперсии

Пусть S _n — сумма n случайных величин. Многие центральные предельные теоремы обеспечивают такие условия, что Sn _/ n √ Var( S _n ) сходится по распределению к N (0,1) (нормальному распределению со средним значением 0, дисперсией 1) при → ∞ . В некоторых случаях можно найти постоянную σ ² и функция f(n) такая, что S _n /(σ √ n⋅f ( n ) ) сходится по распределению к N (0,1) при n → ∞ .

Лемма - Предполагать $X_{1},X_{2},\dots$ представляет собой последовательность вещественных и строго стационарных случайных величин с $\operatorname {E} (X_{i})=0$ для всех $i$, $g:[0,1]\to \mathbb {R}$, и $S_{n}=\sum _{i=1}^{n}g\left({\tfrac {i}{n}}\right)X_{i}$. Построить

$$\sigma ^{2}=\operatorname {E} (X_{1}^{2})+2\sum _{i=1}^{\infty }\operatorname {E} (X_{1}X_{1+i})$$

1. Если $\sum _{i=1}^{\infty }\operatorname {E} (X_{1}X_{1+i})$ абсолютно сходится, $\left|\int _{0}^{1}g(x)g'(x)\,dx\right|<\infty$, и $0<\int _{0}^{1}(g(x))^{2}dx<\infty$ затем $\mathrm {Var} (S_{n})/(n\gamma _{n})\to \sigma ^{2}$ как $n\to \infty$ где $\gamma _{n}={\frac {1}{n}}\sum _{i=1}^{n}\left(g\left({\tfrac {i}{n}}\right)\right)^{2}$.
2. Если вдобавок $\sigma >0$ и $S_{n}/{\sqrt {\mathrm {Var} (S_{n})}}$ сходится по распределению к ${\mathcal {N}}(0,1)$ как $n\to \infty$ затем $S_{n}/(\sigma {\sqrt {n\gamma _{n}}})$ также сходится по распределению к ${\mathcal {N}}(0,1)$ как $n\to \infty$.

Расширения

Произведения

Логарифм произведения — это просто сумма логарифмов множителей. Следовательно, когда логарифм произведения случайных величин, принимающих только положительные значения, приближается к нормальному распределению, само произведение приближается к логнормальному распределению . Многие физические величины (особенно масса или длина, которые зависят от масштаба и не могут быть отрицательными) являются продуктами различных случайных факторов, поэтому они подчиняются логарифмически нормальному распределению. Эту мультипликативную версию центральной предельной теоремы иногда называют законом Жибрата .

В то время как центральная предельная теорема для сумм случайных величин требует условия конечной дисперсии, соответствующая теорема для произведений требует соответствующего условия интегрируемости функции плотности с квадратом.

За пределами классических рамок

Асимптотическая нормальность, то есть сходимость к нормальному распределению после соответствующего сдвига и изменения масштаба, представляет собой явление гораздо более общее, чем рассмотренная выше классическая модель, а именно суммы независимых случайных величин (или векторов). Время от времени открываются новые рамки; на данный момент не существует единой объединяющей структуры.

Выпуклое тело

Теорема . Существует последовательность ε _n ↓ 0 , для которой выполнено следующее. Пусть n ≥ 1 и случайные величины X ₁ , ..., X _n имеют логарифмически вогнутую плотность соединений f такую, что f ( x ₁ , ..., x _n ) = f (| x ₁ |, .. ., | x _n |) для всех x ₁ , ..., x _n и E( X ²
_k ) = 1 для всех k = 1, ..., n . Тогда распределение

$${\frac {X_{1}+\cdots +X_{n}}{\sqrt {n}}}$$

-близок ε _n к ${\textstyle {\mathcal {N}}(0,1)}$ в общем вариационном расстоянии .

Эти два ε _n -близких распределения имеют плотности (фактически логарифмически вогнутые плотности), таким образом, общее дисперсионное расстояние между ними представляет собой интеграл от абсолютного значения разности плотностей. Сходимость в общей вариации сильнее, чем слабая.

Важным примером логарифмически вогнутой плотности является функция, постоянная внутри данного выпуклого тела и исчезающая снаружи; оно соответствует равномерному распределению на выпуклом теле, что объясняет термин «центральная предельная теорема для выпуклых тел».

Другой пример: f ( x ₁ , ..., x _n ) = const · exp(−(| x ₁ | ^а + ⋯ + | х _п | ^а ) ^б ), где α > 1 и αβ > 1 . Если β = 1, то f ( x ₁ , ..., x _n ) разлагается на const · exp (−| x ₁ | ^а ) … exp(−| x _n | ^а ), что означает, что X ₁ , ..., X _n независимы. Однако в целом они зависимы.

Условие f ( x ₁ , ..., x _n ) = f (| x ₁ |, ..., | x _n |) гарантирует, что X ₁ , ..., x _n имеют нулевое среднее и некоррелированы ; тем не менее, они не обязательно должны быть независимыми или даже попарно независимыми . Кстати, попарная независимость не может заменить независимость в классической центральной предельной теореме.

Вот результат типа Берри-Эссеена .

Теорема . Пусть X ₁ , ..., X _n удовлетворяют условиям предыдущей теоремы, тогда

$$\left|\mathbb {P} \left(a\leq {\frac {X_{1}+\cdots +X_{n}}{\sqrt {n}}}\leq b\right)-{\frac {1}{\sqrt {2\pi }}}\int _{a}^{b}e^{-{\frac {1}{2}}t^{2}}\,dt\right|\leq {\frac {C}{n}}$$

для всех a < b ; здесь C — универсальная (абсолютная) константа . Более того, для любых c ₁ , ..., c _n ∈ R таких, что c ²
₁ + ⋯ + с ²
_п = 1 ,

$$\left|\mathbb {P} \left(a\leq c_{1}X_{1}+\cdots +c_{n}X_{n}\leq b\right)-{\frac {1}{\sqrt {2\pi }}}\int _{a}^{b}e^{-{\frac {1}{2}}t^{2}}\,dt\right|\leq C\left(c_{1}^{4}+\dots +c_{n}^{4}\right).$$

Распределение X ₁ + ⋯ + X _n / √ n не обязательно должно быть приблизительно нормальным (на самом деле оно может быть равномерным). Однако распределение c ₁ X ₁ + ⋯ + c _n X _n близко к ${\textstyle {\mathcal {N}}(0,1)}$ (в общем расстоянии вариации) для большинства векторов ( c ₁ , ..., c _n ) по равномерному распределению на сфере c ²
₁ + ⋯ + с ²
_п = 1 .

Лакунарный тригонометрический ряд

Теорема ( Салем – Зигмунд ) — Пусть U — случайная величина, распределенная равномерно на (0,2π) , и X _k = r _k cos( n _k U + a _k ) , где

• nk _такое удовлетворяют условию лакунарности: существует q > 1 , что + _{nk 1} ≥ qnk _k всех для ,
• r _k таковы, что
  $$r_{1}^{2}+r_{2}^{2}+\cdots =\infty \quad {\text{ and }}\quad {\frac {r_{k}^{2}}{r_{1}^{2}+\cdots +r_{k}^{2}}}\to 0,$$
• 0 ≤ а _k < 2π .

Затем

$${\frac {X_{1}+\cdots +X_{k}}{\sqrt {r_{1}^{2}+\cdots +r_{k}^{2}}}}$$

сходится по распределению к ${\textstyle {\mathcal {N}}{\big (}0,{\frac {1}{2}}{\big )}}$.

Гауссовы многогранники

Теорема . Пусть A ₁ , ..., An _— независимые случайные точки на плоскости R. ² каждый из которых имеет двумерное стандартное нормальное распределение. Пусть Kn _— выпуклая оболочка этих точек, а Xn _— площадь Kn _. Тогда

$${\frac {X_{n}-\operatorname {E} (X_{n})}{\sqrt {\operatorname {Var} (X_{n})}}}$$

сходится по распределению к ${\textstyle {\mathcal {N}}(0,1)}$ поскольку n стремится к бесконечности.

То же самое справедливо и для всех размерностей, больших 2.

Многогранник . K _n называется гауссовским случайным многогранником

Аналогичный результат справедлив для количества вершин (гауссова многогранника), количества ребер и, фактически, граней всех измерений.

Линейные функции ортогональных матриц

Линейная функция матрицы M — это линейная комбинация ее элементов (с заданными коэффициентами), M ↦ tr( AM ) , где A — матрица коэффициентов; см. Трассировка (линейная алгебра)#Внутренний продукт .

Говорят, что случайная ортогональная матрица распределена равномерно, если ее распределение является нормализованной мерой Хаара на ортогональной группе O( n , R ) ; см. Матрица вращения#Равномерные матрицы случайного вращения .

Теорема . Пусть M — случайная ортогональная матрица размера n × n, распределенная равномерно, а A — фиксированная матрица размера n × n такая, что tr( AA *) = n , и пусть X = tr( AM ) . Затем распределение X близко к ${\textstyle {\mathcal {N}}(0,1)}$ в метрике полной вариации до 2 √ 3 / п - 1 .

Подпоследовательности

Теорема . Пусть случайные величины X ₁ , X ₂ , ... ∈ L ₂ (Ω) таковы, что X _n → 0 слабо в L ₂ (Ω) и X
_n → 1 слабо в L ₁ (Ω) . Тогда существуют целые числа n ₁ < n ₂ < ⋯ такие, что

$${\frac {X_{n_{1}}+\cdots +X_{n_{k}}}{\sqrt {k}}}$$

сходится по распределению к ${\textstyle {\mathcal {N}}(0,1)}$ поскольку k стремится к бесконечности.

Случайное блуждание по кристаллической решетке

Центральная предельная теорема может быть установлена ​​для простого случайного блуждания по кристаллической решетке (бесконечнократного абелева накрывающего графа над конечным графом) и используется для проектирования кристаллических структур.

Приложения и примеры

Простой пример центральной предельной теоремы — бросок множества одинаковых несмещенных игральных костей. Распределение суммы (или среднего) выпавших чисел будет хорошо аппроксимироваться нормальным распределением. Поскольку реальные величины часто представляют собой сбалансированную сумму многих ненаблюдаемых случайных событий, центральная предельная теорема также частично объясняет преобладание нормального распределения вероятностей. большой выборки Это также оправдывает приближение статистики к нормальному распределению в контролируемых экспериментах.

Сравнение функций плотности вероятности p ( k ) для суммы n справедливых 6-гранных игральных костей, чтобы показать их сходимость к нормальному распределению с увеличением n в соответствии с центральной предельной теоремой. На правом нижнем графике сглаженные профили предыдущих графиков масштабируются, накладываются и сравниваются с нормальным распределением (черная кривая).

Этот рисунок демонстрирует центральную предельную теорему. Выборочные средние значения генерируются с помощью генератора случайных чисел, который извлекает числа от 0 до 100 из равномерного распределения вероятностей. Он показывает, что увеличение размера выборки приводит к тому, что 500 измеренных средних значений выборки более точно распределяются относительно среднего значения генеральной совокупности (в данном случае 50). Он также сравнивает наблюдаемые распределения с распределениями, которые можно было бы ожидать для нормализованного распределения Гаусса, и показывает значения хи-квадрат , которые количественно определяют степень соответствия (подбор является хорошим, если приведенное значение хи-квадрат меньше или приблизительно равен единице). Входными данными для нормализованной функции Гаусса является среднее значение выборочных средних (~50) и среднее стандартное отклонение выборки, деленное на квадратный корень из размера выборки (~28,87/ √ n ), которое называется стандартным отклонением среднего значения ( поскольку речь идет о распространении выборочных средств).

Еще одно моделирование с использованием биномиального распределения. Были сгенерированы случайные 0 и 1, а затем их средние значения рассчитаны для размеров выборки от 1 до 2048. Обратите внимание, что по мере увеличения размера выборки хвосты становятся тоньше, а распределение становится более концентрированным вокруг среднего значения.

Регрессия

Регрессионный анализ , и в частности обычный метод наименьших квадратов , определяет, что зависимая переменная зависит в соответствии с некоторой функцией от одной или нескольких независимых переменных с аддитивной ошибкой . Различные типы статистических выводов по регрессии предполагают, что член ошибки имеет нормальное распределение. Это предположение можно оправдать, если предположить, что член ошибки на самом деле представляет собой сумму многих независимых членов ошибки; даже если отдельные члены ошибок не распределены нормально, согласно центральной предельной теореме их сумма может быть хорошо аппроксимирована нормальным распределением.

Другие иллюстрации

Основная статья: Иллюстрация центральной предельной теоремы

Учитывая ее важность для статистики, доступен ряд статей и компьютерных пакетов, демонстрирующих сходимость, связанную с центральной предельной теоремой.

История

Голландский математик Хенк Теймс пишет:

Центральная предельная теорема имеет интересную историю. Первая версия этой теоремы была постулирована математиком французского происхождения Абрахамом де Муавром , который в замечательной статье, опубликованной в 1733 году, использовал нормальное распределение для аппроксимации распределения числа орлов в результате многих подбрасываний честной монеты. Это открытие намного опередило свое время и было почти забыто, пока знаменитый французский математик Пьер-Симон Лаплас не спас его от безвестности в своей монументальной работе «Аналитическая теория вероятностей» , опубликованной в 1812 году. Лаплас расширил открытие Де Муавра, аппроксимировав биномиальное уравнение. распределение с нормальным распределением. Но, как и в случае с Муавром, открытие Лапласа в его время не привлекло особого внимания. Лишь в конце девятнадцатого века важность центральной предельной теоремы была осознана, когда в 1901 году русский математик Александр Ляпунов определил ее в общих чертах и ​​точно доказал, как она работает математически. В настоящее время центральная предельная теорема считается неофициальным правителем теории вероятностей.

Сэр Фрэнсис Гальтон так описал центральную предельную теорему:

Я едва ли знаю что-либо, столь же способное поразить воображение, как чудесная форма космического порядка, выраженная «Законом частоты ошибок». Закон был бы персонифицирован греками и обожествлен, если бы они знали о нем. Оно царит безмятежно и в полном самоуничижении, среди самой дикой неразберихи. Чем огромнее толпа и чем больше кажущаяся анархия, тем совершеннее ее власть. Это высший закон Неразумия. Всякий раз, когда большая выборка хаотических элементов берется в руки и распределяется по порядку их величины, оказывается, что неожиданная и самая красивая форма регулярности все это время скрывалась.

Фактический термин «центральная предельная теорема» (по-немецки: «zentraler Grenzwertsatz») впервые был использован Джорджем Полиа в 1920 году в названии статьи. Пойа назвал эту теорему «центральной» из-за ее важности в теории вероятностей. По мнению Ле Кама, французская школа вероятности интерпретирует слово «центральный» в том смысле, что «оно описывает поведение центра распределения, а не его хвостов». Аннотация к статье Пойа « О центральной предельной теореме исчисления вероятностей и проблеме моментов ». в 1920 переводится следующим образом.

Возникновение гауссовой плотности вероятности 1 = e ^{− х 2} в повторяющихся экспериментах, в ошибках измерений, приводящих к сочетанию очень многих и очень малых элементарных ошибок, в диффузионных процессах и т. д., можно объяснить, как известно, той же предельной теоремой, играющей центральное значение. роль в исчислении вероятностей. Фактического первооткрывателя этой предельной теоремы следует назвать Лапласом; вероятно, что ее строгое доказательство было впервые дано Чебышевым, а наиболее резкую ее формулировку можно найти, насколько мне известно, в статье Ляпунова . ...

Подробный отчет об истории теоремы с подробным описанием основополагающей работы Лапласа, а также вклада Коши , Бесселя и Пуассона предоставлен Хальдом. Два исторических отчета, один из которых охватывает развитие от Лапласа до Коши, а второй - вклад фон Мизеса , Полиа , Линдеберга , Леви и Крамера в 1920-е годы, предоставлены Гансом Фишером. Ле Кам описывает период около 1935 года. Бернштейн представляет историческую дискуссию, посвященную работе Пафнутия Чебышева и его учеников Андрея Маркова и Александра Ляпунова , которая привела к первым доказательствам ЦПТ в общих условиях.

Любопытное примечание к истории центральной предельной теоремы состоит в том, что доказательство результата, аналогичного CLT Линдеберга 1922 года, было предметом Алана Тьюринга стипендиальной диссертации в 1934 году для Королевского колледжа университета Кембриджского . Только после отправки работы Тьюринг узнал, что она уже доказана. Следовательно, диссертация Тьюринга не была опубликована.

См. также

• Свойство асимптотического равнораспределения
• Асимптотическое распределение
• Распределение Бейтса
• Закон Бенфорда – результат распространения ЦПТ на произведение случайных величин.
• Теорема Берри – Эссея
• Центральная предельная теорема для направленной статистики - Центральная предельная теорема, примененная к случаю направленной статистики
• Метод дельты – для вычисления предельного распределения функции случайной величины.
• Теорема Эрдеша – Каца - связывает количество простых множителей целого числа с нормальным распределением вероятностей.
• Теорема Фишера-Типпета-Гнеденко - предельная теорема для экстремальных значений (таких как max{ X _n } )
• Распределение Ирвина – Холла
• Центральная предельная теорема цепи Маркова
• Нормальное распределение
• Теорема о сходимости Твиди - теорема, которую можно рассматривать как связующее звено между центральной предельной теоремой и теоремой о сходимости Пуассона.

Ссылки

• Барань, Имре ; Ву, Ван (2007). «Центральные предельные теоремы для гауссовских многогранников». Анналы вероятности . 35 (4). Институт математической статистики: 1593–1621. arXiv : математика/0610192 . дои : 10.1214/009117906000000791 . S2CID   9128253 .
• Бауэр, Хайнц (2001). Теория измерения и интегрирования . Берлин: де Грюйтер. ISBN  3110167190 .
• Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). Джон Уайли и сыновья. ISBN  0-471-00710-2 .
• Брэдли, Ричард (2005). «Основные свойства условий сильного смешивания. Обзор и некоторые открытые вопросы». Вероятностные исследования . 2 : 107–144. arXiv : math/0511078 . Бибкод : 2005math.....11078B . дои : 10.1214/154957805100000104 . S2CID   8395267 .
• Брэдли, Ричард (2007). Введение в условия сильного смешивания (1-е изд.). Хибер-Сити, Юта: Кендрик Пресс. ISBN  978-0-9740427-9-4 .
• Динов, Иво; Кристу, Николя; Санчес, Хуана (2008). «Центральная предельная теорема: новый апплет SOCR и демонстрационная деятельность» . Журнал статистического образования . 16 (2). АСА: 1–15. дои : 10.1080/10691898.2008.11889560 . ПМК   3152447 . ПМИД   21833159 . Архивировано из оригинала 3 марта 2016 г. Проверено 23 августа 2008 г.
• Дарретт, Ричард (2004). Вероятность: теория и примеры (3-е изд.). Издательство Кембриджского университета. ISBN  0521765390 .
• Фишер, Ганс (2011). История центральной предельной теоремы: от классической к современной теории вероятностей (PDF) . Источники и исследования по истории математики и физических наук. Нью-Йорк: Спрингер. дои : 10.1007/978-0-387-87857-7 . ISBN  978-0-387-87856-0 . МР   2743162 . Збл   1226.60004 . Архивировано (PDF) из оригинала 31 октября 2017 г.
• Гапошкин, В.Ф. (1966). «Лакунарный ряд и независимые функции». Российские математические обзоры . 21 (6): 1–82. Бибкод : 1966РуМаС..21....1Г . дои : 10.1070/RM1966v021n06ABEH001196 . S2CID   250833638 . .
• Клартаг, Боаз (2007). «Центральная предельная теорема для выпуклых множеств». Математические изобретения . 168 (1): 91–131. arXiv : математика/0605014 . Бибкод : 2007InMat.168...91K . дои : 10.1007/s00222-006-0028-8 . S2CID   119169773 .
• Клартаг, Боаз (2008). «Неравенство типа Берри – Эссеена для выпуклых тел с безусловным базисом». Теория вероятностей и смежные области . 145 (1–2): 1–33. arXiv : 0705.0832 . дои : 10.1007/s00440-008-0158-6 . S2CID   10163322 .

Внешние ссылки

• Центральная предельная теорема в Академии Хана
• «Центральная предельная теорема» . Энциклопедия математики . ЭМС Пресс . 2001 [1994].
• Вайсштейн, Эрик В. «Центральная предельная теорема» . Математический мир .
• демонстрирующее центральную предельную теорему с доской Гальтона. Музыкальное видео Карла МакТэга,