Закон бессознательного статистика

В теории вероятностей статистике закон бессознательного статистика , или ЛОТОС , представляет собой теорему, которая выражает значение функции и g ( X ) случайной величины X через g и распределение X. ожидаемое вероятностей

Вид закона зависит от типа случайной величины X. рассматриваемой распределение X дискретно X и известна его функция вероятности p _Если , то ожидаемое значение g ( X ) равно $$\operatorname {E} [g(X)]=\sum _{x}g(x)p_{X}(x),\,$$ сумма вычисляется по всем возможным значениям x из X. где распределение X непрерывно Если вместо этого с функцией плотности вероятности f _X , то ожидаемое значение g ( X ) равно $$\operatorname {E} [g(X)]=\int _{-\infty }^{\infty }g(x)f_{X}(x)\,\mathrm {d} x$$

Оба этих особых случая могут быть выражены через кумулятивную функцию распределения вероятностей F _X для X с ожидаемым значением g ( X ), которое теперь определяется интегралом Лебега – Стилтьеса. $$\operatorname {E} [g(X)]=\int _{-\infty }^{\infty }g(x)\,\mathrm {d} F_{X}(x).$$

В еще большей общности X может быть случайным элементом в любом измеримом пространстве , и в этом случае закон дается в терминах теории меры и интеграла Лебега . В этом случае нет необходимости ограничивать контекст вероятностными мерами , и закон становится общей теоремой математического анализа интегрирования Лебега относительно меры прямого действия .

Этимология

Это положение (иногда) известно как закон бессознательного статистика из-за предполагаемой тенденции рассматривать идентичность как само определение ожидаемой ценности, а не (более формально) как следствие ее истинного определения. Это название иногда приписывают Шелдона Росса учебнику «Введение в вероятностные модели» , хотя в более поздних изданиях он удалил ссылку. Многие учебники по статистике представляют результат как определение ожидаемой стоимости.

Совместные распределения

Аналогичное свойство справедливо для совместных распределений или, что то же самое, для случайных векторов . Для дискретных случайных величин X и Y функция двух переменных g и совместная функция массы вероятности $p_{X,Y}(x,y)$: $$\operatorname {E} [g(X,Y)]=\sum _{y}\sum _{x}g(x,y)p_{X,Y}(x,y)$$В абсолютно непрерывном случае, когда $f_{X,Y}(x,y)$ являющаяся совместной функцией плотности вероятности, $$\operatorname {E} [g(X,Y)]=\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }g(x,y)f_{X,Y}(x,y)\,\mathrm {d} x\,\mathrm {d} y$$

Особые случаи

Здесь приведен ряд частных случаев. В простейшем случае, когда случайная величина X принимает счетное число значений (так что ее распределение дискретно), доказательство особенно простое и справедливо без изменений, если X — дискретный случайный вектор или даже дискретный случайный элемент .

Случай непрерывной случайной величины более тонкий, поскольку доказательство в целом требует тонких форм формулы замены переменных для интегрирования. Однако в рамках теории меры дискретный случай напрямую обобщается на общие (не обязательно дискретные) случайные элементы , а случай непрерывной случайной величины тогда является частным случаем с использованием теоремы Радона – Никодима .

Дискретный случай

Предположим, что X — случайная величина, которая принимает лишь конечное или счетное число различных значений x ₁ , x ₂ , ... с вероятностями p ₁ , p ₂ , ... . для любой функции g этих значений случайная величина g ( X ) имеет значения g ( x1 _{) ,} ), g ( x2 _Тогда ... , хотя некоторые из них могут совпадать друг с другом. Например, это тот случай, если X может принимать значения 1 и −1 и g ( x ) = x ² .

Пусть y ₁ , y ₂ , ... перечисляют возможные различные значения $g(X)$, и для каждого i пусть I _i обозначает совокупность всех j с g ( x _j ) = y _i . Тогда, согласно определению ожидаемой стоимости, существует $$\operatorname {E} [g(X)]=\sum _{i}y_{i}p_{g(X)}(y_{i}).$$

Поскольку $y_{i}$ может быть изображением нескольких, различных $x_{j}$, он утверждает, что $$p_{g(X)}(y_{i})=\sum _{j\in I_{i}}p_{X}(x_{j}).$$

Тогда ожидаемое значение можно переписать как $$\sum _{i}y_{i}p_{g(X)}(y_{i})=\sum _{i}y_{i}\sum _{j\in I_{i}}p_{X}(x_{j})=\sum _{i}\sum _{j\in I_{i}}g(x_{j})p_{X}(x_{j})=\sum _{x}g(x)p_{X}(x).$$Это равенство связывает среднее значение выходных данных g ( X ) , взвешенное по вероятностям самих выходных данных, со средним значением выходных данных ( X ) , взвешенных по вероятностям выходных данных X. g

Если X принимает только конечное число возможных значений, приведенное выше является полностью строгим. Однако, если X принимает счетное количество значений, последнее данное равенство не всегда выполняется, как видно из теоремы о рядах Римана . В связи с этим необходимо предположить абсолютную сходимость рассматриваемых сумм.

Непрерывный случай

Предположим, что X — случайная величина, распределение которой имеет непрерывную плотность f . Если g — общая функция, то вероятность того, что g ( X ) оценивается в наборе действительных чисел K, равна вероятности того, что X оценивается в g. ⁻¹ ( K ) , который определяется выражением $$\int _{g^{-1}(K)}f(x)\,\mathrm {d} x.$$При различных условиях на g формула замены переменных для интегрирования чтобы связать это с интегралом по K и, следовательно, идентифицировать плотность g ( X ) через плотность X. может быть применена , В простейшем случае, если g дифференцируема с никуда не исчезающей производной, то приведенный выше интеграл можно записать как $$\int _{K}f(g^{-1}(y))(g^{-1})'(y)\,\mathrm {d} y,$$тем самым идентифицируя g ( X ) как обладающий плотностью f ( g ⁻¹ ( у ))( г ⁻¹ )′( у ) . Ожидаемое значение g ( X ) затем идентифицируется как $$\int _{-\infty }^{\infty }yf(g^{-1}(y))(g^{-1})'(y)\,\mathrm {d} y=\int _{-\infty }^{\infty }g(x)f(x)\,\mathrm {d} x,$$где равенство следует из другого использования формулы замены переменных для интегрирования. значение g ( X ) полностью кодируется функцией g и плотностью f X. что ожидаемое Это показывает ,

Предположение, что g дифференцируемо с ненулевой производной, необходимое для применения обычной формулы замены переменных, исключает многие типичные случаи, такие как g ( x ) = x ² . Результат по-прежнему верен в этих более широких условиях, хотя для доказательства требуются более сложные результаты математического анализа, такие как теорема Сарда и формула коплощади . В еще большей общности, используя теорию Лебега , как показано ниже, можно найти, что тождество $$\operatorname {E} [g(X)]=\int _{-\infty }^{\infty }g(x)f(x)\,\mathrm {d} x$$справедливо всякий раз, когда X имеет плотность f (которая не обязательно должна быть непрерывной) и всякий раз, когда g является измеримой функцией , для которой g ( X ) имеет конечное математическое ожидание. (Каждая непрерывная функция измерима.) Более того, без изменения доказательства, это справедливо, даже если X — случайный вектор (с плотностью), а g — функция многих переменных; затем интеграл берется по многомерному диапазону значений X .

Теоретико-мерная формулировка

Абстрактную и общую форму результата можно получить, используя теорию меры и интеграл Лебега . Здесь речь идет о пространстве с мерой (Ω, µ ) и измеримом отображении X из Ω в измеримое пространство Ω' . Теорема тогда утверждает, что для любой измеримой функции g на Ω' , которая оценивается в действительных числах (или даже в расширенной прямой действительных чисел ), существует $$\int _{\Omega }g\circ X\,\mathrm {d} \mu =\int _{\Omega '}g\,\mathrm {d} (X_{\sharp }\mu ),$$(интерпретируется, в частности, как утверждение, что любая сторона равенства существует, если существует другая сторона). Здесь X _♯ µ обозначает прямую меру на Ω′ . Приведенный выше «дискретный случай» — это особый случай, возникающий, когда X принимает только счетное число значений, а µ — вероятностная мера . Фактически дискретный случай (хотя и без ограничения на вероятностные меры) является первым шагом в доказательстве общей теоретико-мерной формулировки, поскольку общая версия следует из нее путем применения теоремы о монотонной сходимости . Без каких-либо серьезных изменений результат можно сформулировать и в постановке внешних мер .

Если µ — σ-конечная мера теория производной Радона–Никодима , применима . В частном случае, когда мера X _♯ µ абсолютно непрерывна относительно некоторой фоновой σ-конечной меры ν на Ω′ , существует вещественная функция f _X на Ω', представляющая производную Радона–Никодима двух мер, и затем $$\int _{\Omega '}g\,\mathrm {d} (X_{\sharp }\mu )=\int _{\Omega '}gf_{X}\,\mathrm {d} \nu .$$В дальнейшем частном случае, когда Ω' является линией действительных чисел , как и в контекстах, обсуждавшихся выше, естественно взять ν в качестве меры Лебега , и это затем восстанавливает «непрерывный случай», описанный выше, когда µ является вероятностной мерой. . (В этом частном случае условие σ-конечности бессмысленно, поскольку мера Лебега и всякая вероятностная мера тривиально σ-конечны.)

Ссылки

• Bogachev, V. I. (2007). Measure theory. Volume I . Berlin: Springer-Verlag . doi : 10.1007/978-3-540-34514-5 . ISBN  978-3-540-34513-8 . МР   2267655 . Збл   1120.28001 .
• Казелла, Джордж ; Бергер, Роджер Л. (2001). Статистический вывод . Duxbury Advanced Series (второе издание оригинального издания 1990 г.). Пасифик Гроув, Калифорния: Даксбери. ISBN  0-534-11958-1 . Збл   0699.62001 .
• Кон, Дональд Л. (2013). Теория меры . Birkhäuser Advanced Texts: Базельские учебники (второе издание оригинального издания 1980 г.). Нью-Йорк: Биркхойзер/Спрингер . дои : 10.1007/978-1-4614-6956-8 . ISBN  978-1-4614-6955-1 . МР   3098996 . Збл   1292.28002 .
• ДеГрут, Моррис Х .; Шервиш, Марк Дж. (2014). Вероятность и статистика (Четвертое издание оригинальной редакции 1975 г.). Образование Пирсона . ISBN  0-321-50046-6 . МР   0373075 . Збл   0619.62001 .
• Федерер, Герберт (1969). Геометрическая теория измерений . Основные положения математических наук. Том 153. Берлин – Гейдельберг – Нью-Йорк: Springer-Verlag . дои : 10.1007/978-3-642-62010-2 . ISBN  978-3-540-60656-7 . МР   0257325 . Збл   0176.00801 .
• Феллер, Уильям (1968). Введение в теорию вероятностей и ее приложения. Том I (Третье издание оригинального издания 1950 г.). Нью-Йорк – Лондон – Сидней: John Wiley & Sons, Inc. MR   0228020 . Збл   0155.23101 .
• Халмос, Пол Р. (1950). Теория меры . Нью-Йорк: Д. Ван Ностранд Ко., Инк. doi : 10.1007/978-1-4684-9440-2 . МР   0033869 . Збл   0040.16802 .
• Папулис, Афанасиос ; Пиллаи, С. Унникришна (2002). Вероятность, случайные величины и случайные процессы (Четвертое издание оригинальной редакции 1965 г.). Нью-Йорк: МакГроу-Хилл . ISBN  0-07-366011-6 .
• Росс, Шелдон М. (2019). Введение в вероятностные модели (двенадцатое издание оригинальной редакции 1972 г.). Лондон: Академическая пресса . дои : 10.1016/C2017-0-01324-1 . ISBN  978-0-12-814346-9 . МР   3931305 . Збл   1408.60002 .