Ожидаемая стоимость

Эта статья о термине, используемом в теории вероятностей и статистике. Чтобы узнать о других значениях, см. Ожидаемая ценность (значения) .

«E(X)» перенаправляется сюда. Для $e^{x}$ функцию, см. Экспоненциальную функцию .

В теории вероятностей ожидаемое значение (также называемое ожиданием , ожиданием , оператором ожидания , математическим ожиданием , средним значением , значением ожидания или первым моментом ) является обобщением средневзвешенного значения . Неформально ожидаемое значение — это среднее арифметическое возможных значений, которые может принять случайная величина , взвешенное по вероятности этих результатов. Поскольку ожидаемое значение получается арифметическим путем, иногда оно может даже не включаться в выборочный набор данных; это не та ценность, которую вы «ожидаете» получить в реальности.

Ожидаемое значение случайной величины с конечным числом исходов представляет собой средневзвешенное значение всех возможных исходов. В случае континуума возможных результатов ожидание определяется интеграцией . В аксиоматической основе вероятности, обеспечиваемой теорией меры , ожидание задается интеграцией Лебега .

Ожидаемое значение случайной величины X часто обозначается E( X ) , E[ X ] или EX как , причем E также часто стилизовано $\mathbb {E}$ или Э. ​

История

Идея ожидаемой ценности возникла в середине 17 века в результате изучения так называемой проблемы очков разделить ставки , которая стремится справедливо между двумя игроками, которые должны закончить свою игру до того, как она будет должным образом завершена. законченный. Эта проблема обсуждалась на протяжении веков. За годы, когда предложил эту проблему Блезу Паскалю французский писатель и математик-любитель Шевалье де Мере в 1654 году, было предложено множество противоречивых предложений и решений. Мере утверждал, что эта проблема не может быть решена и что она показывает, насколько ошибочной была математика, когда она пришел к своему применению в реальном мире. Паскаль, будучи математиком, был спровоцирован и полон решимости решить проблему раз и навсегда.

Он начал обсуждать проблему в знаменитой серии писем Пьеру де Ферма . Вскоре они оба независимо друг от друга нашли решение. Они решили проблему разными вычислительными способами, но их результаты были идентичными, поскольку их вычисления были основаны на одном и том же фундаментальном принципе. Принцип заключается в том, что ценность будущего выигрыша должна быть прямо пропорциональна шансу его получить. Этот принцип, казалось, был естественен для них обоих. Они были очень довольны тем фактом, что нашли по существу одно и то же решение, а это, в свою очередь, сделало их абсолютно убежденными в том, что они решили проблему окончательно; однако они не опубликовали свои выводы. Они проинформировали об этом лишь небольшой круг общих научных друзей в Париже.

В книге голландского математика Христиана Гюйгенса он рассмотрел проблему точек и представил решение, основанное на том же принципе, что и решения Паскаля и Ферма. Гюйгенс опубликовал в 1657 году свой трактат (см. Гюйгенс (1657) ) « Deatiociniis in ludo aleæ » по теории вероятностей сразу после посещения Парижа. Книга расширила концепцию ожидания, добавив правила расчета ожиданий в более сложных ситуациях, чем исходная задача (например, для трех или более игроков), и ее можно рассматривать как первую успешную попытку заложить основы теории . вероятности .

В предисловии к своему трактату Гюйгенс писал:

Следует также сказать, что некоторые из лучших математиков Франции с некоторых пор занимались такого рода исчислениями, чтобы никто не приписал мне честь первого изобретения. Это не принадлежит мне. Но эти ученые, хотя и подвергали друг друга испытанию, предлагая друг другу множество трудноразрешимых вопросов, скрывали свои методы. Поэтому мне пришлось самому изучить и углубиться в этот вопрос, начав с элементов, и по этой причине для меня невозможно утверждать, что я вообще начал с того же принципа. Но в конце концов я обнаружил, что мои ответы во многих случаях не отличаются от их ответов.

- Эдвардс (2002)

В середине девятнадцатого века Пафнутий Чебышев стал первым человеком, который систематически мыслил с точки зрения ожиданий случайных величин .

Этимология

Ни Паскаль, ни Гюйгенс не использовали термин «ожидание» в его современном смысле. В частности, Гюйгенс пишет:

Что любой шанс или ожидание выигрыша какой-либо вещи стоит ровно такую ​​сумму, которую можно было бы получить с помощью того же шанса и ожидания при честном предложении. ... Если я ожидаю a или b и имею равные шансы на их получение, мое ожидание равно (a+b)/2.

Более ста лет спустя, в 1814 году, Пьер-Симон Лаплас опубликовал свой трактат « Аналитическая теория вероятностей », где понятие ожидаемой ценности было определено явно:

... это преимущество в теории случайностей есть произведение суммы надежды на вероятность ее получения; это частичная сумма, которая должна получиться, когда мы не хотим идти на риск, связанный с событием, предполагая, что деление производится пропорционально вероятностям. Это разделение является единственно справедливым, когда устранены все странные обстоятельства; потому что равная степень вероятности дает равное право на получение желаемой суммы. Мы назовем это преимущество математической надеждой.

Обозначения

Использование буквы Е для обозначения «ожидаемой стоимости» восходит к У.А. Уитворту в 1901 году. С тех пор этот символ стал популярным среди английских писателей. По-немецки E означает Erwartungswert , по-испански — esperanza matemática , а по-французски — espérance mathématique.

Когда «E» используется для обозначения «ожидаемого значения», авторы используют множество стилизаций: оператор ожидания может быть стилизован как E (прямой), E (курсив) или $\mathbb {E}$ (выделено жирным шрифтом на доске различные обозначения скобок (такие как E( X ) , E[ X ] и EX ) ), при этом используются .

Другое популярное обозначение — μ _X , тогда как ⟨ X ⟩ , ⟨ X ⟩ _av и ${\overline {X}}$ широко используются в физике, и М( Х ) в русскоязычной литературе.

Определение

Как обсуждалось выше, существует несколько контекстно-зависимых способов определения ожидаемого значения. Самое простое и оригинальное определение касается случая конечного числа возможных результатов, например, при подбрасывании монеты. С помощью теории бесконечных рядов это можно распространить на случай счетного числа возможных результатов. Также очень часто рассматривают отдельный случай случайных величин, диктуемых (кусочно) непрерывными функциями плотности вероятности , поскольку они возникают во многих естественных контекстах. Все эти конкретные определения можно рассматривать как частные случаи общего определения, основанного на математических инструментах теории меры и интегрирования Лебега , которые обеспечивают этим различным контекстам аксиоматическую основу и общий язык.

Любое определение ожидаемого значения может быть расширено для определения ожидаемого значения многомерной случайной величины, т.е. вектора X. случайного Он определяется покомпонентно, как E[ X ] _i = E[ X _i ] . Аналогично, можно определить ожидаемое значение случайной матрицы X с компонентами X _ij как E[ X ] _ij = E[ X _ij ] .

Случайные величины с конечным числом результатов

Рассмотрим случайную величину X с конечным списком x ₁ , ..., x _k возможных исходов, каждый из которых (соответственно) имеет вероятность p ₁ , ..., p _k наступления. Ожидание X определяется как $$\operatorname {E} [X]=x_{1}p_{1}+x_{2}p_{2}+\cdots +x_{k}p_{k}.$$

Поскольку вероятности должны удовлетворять p ₁ + ⋅⋅⋅ + p _k = 1 , естественно интерпретировать E[ X ] как средневзвешенное xi с _{значение} весами, заданными их вероятностями p _i .

В особом случае, когда все возможные исходы равновероятны (т. е. p ₁ = ⋅⋅⋅ = p _k ), средневзвешенное значение определяется стандартным средним значением . В общем случае ожидаемое значение учитывает тот факт, что некоторые исходы более вероятны, чем другие.

Примеры

Иллюстрация сходимости средних значений последовательности бросков игральной кости к ожидаемому значению 3,5 по мере увеличения количества бросков (испытаний).

• Позволять $X$ представляют собой результат броска честного шестигранного кубика . Более конкретно, $X$ будет числом очков, отображаемых на верхней грани кубика после броска. Возможные значения для $X$ равны 1, 2, 3, 4, 5 и 6, причем все они равновероятны с вероятностью ⁠ 1 / 6 ⁠ . Ожидание $X$ является $$\operatorname {E} [X]=1\cdot {\frac {1}{6}}+2\cdot {\frac {1}{6}}+3\cdot {\frac {1}{6}}+4\cdot {\frac {1}{6}}+5\cdot {\frac {1}{6}}+6\cdot {\frac {1}{6}}=3.5.$$ Если один бросит кубик $n$ раз и вычисляет среднее ( среднее арифметическое ) результатов, то как $n$ растет, то среднее значение почти наверняка приблизится к ожидаемому значению — факт, известный как сильный закон больших чисел .
• Игра в рулетку состоит из небольшого шарика и колеса с 38 пронумерованными лунками по краям. При вращении колеса шарик хаотично подпрыгивает, пока не оседает в одной из лунок. Предположим, случайная величина $X$ представляет собой (денежный) результат ставки в 1 доллар на одно число («прямая» ставка). Если ставка выиграет (что происходит с вероятностью ⁠ 1/38 в американской рулетке) , ; ⁠ выигрыш — 35 долларов в противном случае игрок теряет ставку. Ожидаемая прибыль от такой ставки составит $$\operatorname {E} [\,{\text{gain from }}\$1{\text{ bet}}\,]=-\$1\cdot {\frac {37}{38}}+\$35\cdot {\frac {1}{38}}=-\${\frac {1}{19}}.$$ То есть ожидаемая сумма выигрыша по ставке в 1 доллар равна −$. ⁠ 1/19 ​ ​ ⁠ . Таким образом, при 190 ставках чистый убыток, вероятно, составит около 10 долларов.

Случайные величины со счетным и бесконечным числом исходов

Неформально ожидание случайной величины со счетным бесконечным набором возможных результатов определяется аналогично как средневзвешенное всех возможных результатов, где веса задаются вероятностями реализации каждого заданного значения. Это значит, что $$\operatorname {E} [X]=\sum _{i=1}^{\infty }x_{i}\,p_{i},$$где x ₁ , x ₂ , ... являются возможными результатами случайной величины X и p ₁ , p ₂ , ... являются их соответствующими вероятностями. Во многих нематематических учебниках это представлено как полное определение ожидаемых значений в этом контексте.

Однако при бесконечном суммировании есть некоторые тонкости, поэтому приведенная выше формула не подходит в качестве математического определения. В частности, рядах Римана о теорема математического анализа показывает, что значение некоторых бесконечных сумм, включающих положительные и отрицательные слагаемые, зависит от порядка, в котором эти слагаемые заданы. Поскольку результаты случайной величины не имеют естественно заданного порядка, это создает трудности в точном определении ожидаемого значения.

По этой причине во многих учебниках математики рассматривается только случай, когда приведенная выше бесконечная сумма сходится абсолютно , что означает, что бесконечная сумма является конечным числом, не зависящим от порядка слагаемых. В альтернативном случае, когда бесконечная сумма не сходится абсолютно, говорят, что случайная величина не имеет конечного математического ожидания.

Примеры

• Предполагать $x_{i}=i$ и $p_{i}={\tfrac {c}{i\cdot 2^{i}}}$ для $i=1,2,3,\ldots ,$ где $c={\tfrac {1}{\ln 2}}$ — масштабный коэффициент, который приводит к тому, что сумма вероятностей равна 1. Тогда мы имеем $$\operatorname {E} [X]\,=\sum _{i}x_{i}p_{i}=1({\tfrac {c}{2}})+2({\tfrac {c}{8}})+3({\tfrac {c}{24}})+\cdots \,=\,{\tfrac {c}{2}}+{\tfrac {c}{4}}+{\tfrac {c}{8}}+\cdots \,=\,c\,=\,{\tfrac {1}{\ln 2}}.$$

Случайные величины с плотностью

Теперь рассмотрим случайную величину X , которая имеет функцию плотности вероятности , заданную функцией f на прямой числовой линии . Это означает, что вероятность того, что X примет значение в любом заданном открытом интервале, определяется интегралом от f по этому интервалу. Тогда математическое ожидание X определяется интегралом $$\operatorname {E} [X]=\int _{-\infty }^{\infty }xf(x)\,dx.$$Общая и математически точная формулировка этого определения использует теорию меры и интегрирование Лебега , а соответствующая теория абсолютно непрерывных случайных величин описана в следующем разделе. Функции плотности многих распространенных распределений кусочно-непрерывны , и поэтому теория часто разрабатывается в этой ограниченной ситуации. Для таких функций достаточно рассмотреть только стандартное интегрирование по Риману . Иногда непрерывные случайные величины определяются как соответствующие этому особому классу плотностей, хотя разные авторы используют этот термин по-разному.

Аналогично счетно-бесконечному случаю, описанному выше, в этом выражении есть свои тонкости из-за бесконечной области интегрирования. Такие тонкости можно увидеть конкретно, если распределение X задается распределением Коши Cauchy(0, π) , так что f ( x ) = ( x ² + р ² ) ⁻¹ . В этом случае несложно вычислить, что $$\int _{a}^{b}xf(x)\,dx=\int _{a}^{b}{\frac {x}{x^{2}+\pi ^{2}}}\,dx={\frac {1}{2}}\ln {\frac {b^{2}+\pi ^{2}}{a^{2}+\pi ^{2}}}.$$Предела этого выражения при a → −∞ и b → ∞ не существует: если пределы взяты так, что a = − b ограничение 2 a = − b , то предел равен нулю, а если взято , то предел - ln(2) .

Чтобы избежать подобных двусмысленностей, в учебниках по математике принято требовать, чтобы данный интеграл сходился абсолютно , а в противном случае E[ X ] оставляли неопределенным. Однако понятия теории меры, приведенные ниже, могут быть использованы для систематического определения E[ X ] для более общих случайных величин X .

Произвольные вещественные случайные величины

Все определения ожидаемой стоимости могут быть выражены на языке теории меры . В общем, если X с действительным знаком — случайная величина , определенная в вероятностном пространстве (Ω, Σ, P) , то ожидаемое значение X , обозначаемое E[ X ] , определяется как интеграл Лебега. $$\operatorname {E} [X]=\int _{\Omega }X\,d\operatorname {P} .$$Несмотря на новую абстрактную ситуацию, это определение по своей природе чрезвычайно похоже на простейшее определение ожидаемых значений, данное выше, как неких средневзвешенных значений. Это связано с тем, что в теории меры значение интеграла Лебега от X определяется через средневзвешенные значения аппроксимаций X , которые принимают конечное число значений. Более того, если дана случайная величина с конечным или счетным числом возможных значений, теория ожидания Лебега идентична приведенным выше формулам суммирования. Однако теория Лебега проясняет сферу применения теории функций плотности вероятности. Случайная величина X называется абсолютно непрерывной , если выполняется любое из следующих условий:

• существует неотрицательная измеримая функция f на вещественной прямой такая, что $$\operatorname {P} (X\in A)=\int _{A}f(x)\,dx,$$ для любого борелевского множества A , в котором интеграл лебегов.
• кумулятивная распределения X . абсолютно непрерывна функция
• для любого борелевского множества A действительных чисел с мерой Лебега , равной нулю, вероятность того, что X будет иметь значение в A, также равна нулю.
• для любого положительного числа ε существует положительное число δ такое, что: если A — борелевское множество с мерой Лебега меньше δ , то вероятность того, что X будет оценен в A, меньше ε .

Все эти условия эквивалентны, хотя установить это нетривиально. этом определении f называется функцией плотности вероятности X В (относительно меры Лебега). Согласно формуле замены переменных для интегрирования Лебега: в сочетании с законом бессознательного статистика , отсюда следует, что $$\operatorname {E} [X]\equiv \int _{\Omega }X\,d\operatorname {P} =\int _{\mathbb {R} }xf(x)\,dx$$ любой абсолютно непрерывной случайной величины X. для Таким образом, приведенное выше обсуждение непрерывных случайных величин является частным случаем общей теории Лебега, поскольку каждая кусочно-непрерывная функция измерима.

Expected value μ and median 𝑚

Ожидаемое значение любой действительной случайной величины $X$ также может быть определен на графике его кумулятивной функции распределения $F$ ближайшим равенством площадей. Фактически, $\operatorname {E} [X]=\mu$ с реальным номером $\mu$ тогда и только тогда, когда две поверхности в $x$- $y$-плоскость, описываемая $$x\leq \mu ,\;\,0\leq y\leq F(x)\quad {\text{or}}\quad x\geq \mu ,\;\,F(x)\leq y\leq 1$$соответственно, имеют одинаковую конечную площадь, т.е. если $$\int _{-\infty }^{\mu }F(x)\,dx=\int _{\mu }^{\infty }{\big (}1-F(x){\big )}\,dx$$и оба несобственных интеграла Римана сходятся. Наконец, это эквивалентно представлению $$\operatorname {E} [X]=\int _{0}^{\infty }{\bigl (}1-F(x){\bigr )}\,dx-\int _{-\infty }^{0}F(x)\,dx,$$также со сходящимися интегралами.

Бесконечные ожидаемые значения

Ожидаемые значения, определенные выше, автоматически являются конечными числами. Однако во многих случаях крайне важно учитывать ожидаемые значения ±∞ . Это интуитивно понятно, например, в случае парадокса Санкт-Петербурга , в котором рассматривается случайная величина с возможными исходами x _i = 2. ^я , с соответствующими вероятностями p _i = 2 ^{- я} , для i, охватывающего все положительные целые числа. Согласно формуле суммирования в случае случайных величин со счетным числом исходов имеем $$\operatorname {E} [X]=\sum _{i=1}^{\infty }x_{i}\,p_{i}=2\cdot {\frac {1}{2}}+4\cdot {\frac {1}{4}}+8\cdot {\frac {1}{8}}+16\cdot {\frac {1}{16}}+\cdots =1+1+1+1+\cdots .$$Естественно сказать, что ожидаемое значение равно +∞ .

В основе таких идей лежит строгая математическая теория, которую часто принимают за часть определения интеграла Лебега. Первое фундаментальное наблюдение заключается в том, что какое бы из приведенных выше определений ни применялось, любой неотрицательной случайной величине можно придать однозначное ожидаемое значение; всякий раз, когда абсолютная сходимость не удается, ожидаемое значение можно определить как +∞ . Второе фундаментальное наблюдение заключается в том, что любую случайную величину можно записать как разность двух неотрицательных случайных величин. Учитывая случайную величину X , можно определить положительную и отрицательную X части ⁺ = max( X , 0) и X ⁻ знак равно -мин( Икс , 0) . Это неотрицательные случайные величины, и можно напрямую проверить, что X = X ⁺ − Х ⁻ . Поскольку E[ X ⁺ ] и E[ X ⁻ ] тогда определяются либо как неотрицательные числа, либо как +∞ , тогда естественно определить: $$\operatorname {E} [X]={\begin{cases}\operatorname {E} [X^{+}]-\operatorname {E} [X^{-}]&{\text{if }}\operatorname {E} [X^{+}]<\infty {\text{ and }}\operatorname {E} [X^{-}]<\infty ;\\+\infty &{\text{if }}\operatorname {E} [X^{+}]=\infty {\text{ and }}\operatorname {E} [X^{-}]<\infty ;\\-\infty &{\text{if }}\operatorname {E} [X^{+}]<\infty {\text{ and }}\operatorname {E} [X^{-}]=\infty ;\\{\text{undefined}}&{\text{if }}\operatorname {E} [X^{+}]=\infty {\text{ and }}\operatorname {E} [X^{-}]=\infty .\end{cases}}$$

Согласно этому определению, E[ X ] существует и конечен тогда и только тогда, когда E[ X ⁺ ] и E[ X ⁻ ] оба конечны. По формуле | Х | = Х ⁺ + Х ⁻ , это имеет место тогда и только тогда, когда E| Х | конечно, и это эквивалентно условиям абсолютной сходимости в приведенных выше определениях. По существу, настоящие соображения не определяют конечные ожидаемые значения ни в каких ранее не рассмотренных случаях; они полезны только для бесконечных ожиданий.

• В случае петербургского парадокса X ⁻ = 0 и, следовательно, E[ X ] = +∞, как и хотелось.
• Предположим, что случайная величина X принимает значения 1, −2,3, −4, ... с соответствующими вероятностями 6π. ⁻² , 6(2п) ⁻² , 6(3п) ⁻² , 6(4п) ⁻² , ... . Тогда следует, что X ⁺ принимает значение 2 k −1 с вероятностью 6((2 k −1)π) ⁻² для каждого положительного целого числа k и принимает значение 0 с оставшейся вероятностью . Аналогично, Х ⁻ принимает значение 2 k с вероятностью 6(2 k π) ⁻² для каждого положительного целого числа k принимает значение 0 и с остаточной вероятностью . Используя определение неотрицательных случайных величин, можно показать, что как E[ X ⁺ ] = ∞ и E[ X ⁻ ] = ∞ (см. Гармонический ряд ). Следовательно, в этом случае математическое ожидание X не определено.
• Точно так же распределение Коши, как обсуждалось выше, имеет неопределенное математическое ожидание.

Ожидаемые значения общих распределений

В следующей таблице приведены ожидаемые значения некоторых часто встречающихся распределений вероятностей . В третьем столбце приведены ожидаемые значения как в форме, непосредственно заданной определением, так и в упрощенной форме, полученной путем вычислений на его основе. Подробности этих вычислений, которые не всегда однозначны, можно найти в указанных ссылках.

Распределение	Обозначения	Среднее значение E(X)
Бернулли	$X\sim ~b(1,p)$	$0\cdot (1-p)+1\cdot p=p$
Биномиальный	$X\sim B(n,p)$	$\sum _{i=0}^{n}i{n \choose i}p^{i}(1-p)^{n-i}=np$
Пуассон	$X\sim \mathrm {Po} (\lambda )$	$\sum _{i=0}^{\infty }{\frac {ie^{-\lambda }\lambda ^{i}}{i!}}=\lambda$
Геометрический	$X\sim \mathrm {Geometric} (p)$	$\sum _{i=1}^{\infty }ip(1-p)^{i-1}={\frac {1}{p}}$
Униформа	$X\sim U(a,b)$	$\int _{a}^{b}{\frac {x}{b-a}}\,dx={\frac {a+b}{2}}$
Экспоненциальный	$X\sim \exp(\lambda )$	$\int _{0}^{\infty }\lambda xe^{-\lambda x}\,dx={\frac {1}{\lambda }}$
Нормальный	$X\sim N(\mu ,\sigma ^{2})$	${\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\int _{-\infty }^{\infty }x\,e^{-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}}\,dx=\mu$
Стандартный Нормальный	$X\sim N(0,1)$	${\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{\infty }xe^{-x^{2}/2}\,dx=0$
Парето	$X\sim \mathrm {Par} (\alpha ,k)$	$\int _{k}^{\infty }\alpha k^{\alpha }x^{-\alpha }\,dx={\begin{cases}{\frac {\alpha k}{\alpha -1}}&{\text{if }}\alpha >1\\\infty &{\text{if }}0<\alpha \leq 1\end{cases}}$
Коши	$X\sim \mathrm {Cauchy} (x_{0},\gamma )$	${\frac {1}{\pi }}\int _{-\infty }^{\infty }{\frac {\gamma x}{(x-x_{0})^{2}+\gamma ^{2}}}\,dx$ не определено

Характеристики

Основные свойства, приведенные ниже (их имена выделены жирным шрифтом), повторяют свойства интеграла Лебега или непосредственно следуют из них . Обратите внимание, что буквы «as» означают « почти наверняка » — центральное свойство интеграла Лебега. По сути, говорят, что неравенство типа $X\geq 0$ почти наверняка верно, когда мера вероятности приписывает нулевую массу дополнительному событию $\left\{X<0\right\}.$

• Неотрицательность: если $X\geq 0$ (как), тогда $\operatorname {E} [X]\geq 0.$
• Линейность ожидания: Оператор ожидаемого значения (или оператор ожидания ) $\operatorname {E} [\cdot ]$ линейна величин в том смысле, что для любых случайных $X$ и $Y,$ и константа $a,$ $${\begin{aligned}\operatorname {E} [X+Y]&=\operatorname {E} [X]+\operatorname {E} [Y],\\\operatorname {E} [aX]&=a\operatorname {E} [X],\end{aligned}}$$ всякий раз, когда правая часть четко определена. По индукции это означает, что ожидаемое значение суммы любого конечного числа случайных величин является суммой ожидаемых значений отдельных случайных величин, а ожидаемое значение масштабируется линейно с мультипликативной константой. Символически, для $N$ случайные величины $X_{i}$ и константы $a_{i}(1\leq i\leq N),$ у нас есть ${\textstyle \operatorname {E} \left[\sum _{i=1}^{N}a_{i}X_{i}\right]=\sum _{i=1}^{N}a_{i}\operatorname {E} [X_{i}].}$ Если мы думаем о наборе случайных величин с конечным ожидаемым значением как о формирующем векторное пространство, то линейность ожидания подразумевает, что ожидаемое значение представляет собой линейную форму в этом векторном пространстве.
• Монотонность: Если $X\leq Y$ (как) , и оба $\operatorname {E} [X]$ и $\operatorname {E} [Y]$ существовать, то $\operatorname {E} [X]\leq \operatorname {E} [Y].$
  Доказательство следует из линейности и свойства неотрицательности для $Z=Y-X,$ с $Z\geq 0$ (как).
• Невырожденность: если $\operatorname {E} [|X|]=0,$ затем $X=0$ (как).
• Если $X=Y$ (как) , тогда $\operatorname {E} [X]=\operatorname {E} [Y].$ Другими словами, если X и Y — случайные величины, принимающие разные значения с нулевой вероятностью, то математическое ожидание X будет равно математическому ожиданию Y.
• Если $X=c$ (так как) для некоторого вещественного числа c тогда $\operatorname {E} [X]=c.$ В частности, для случайной величины $X$ с четко определенным ожиданием, $\operatorname {E} [\operatorname {E} [X]]=\operatorname {E} [X].$ Четко определенное ожидание подразумевает, что существует одно число или, скорее, одна константа, определяющая ожидаемое значение. Отсюда следует, что математическое ожидание этой константы — это всего лишь исходное ожидаемое значение.
• Как следствие формулы | Х | = Х ⁺ + Х ⁻ как обсуждалось выше, вместе с неравенством треугольника следует, что для любой случайной величины $X$ с четко определенным ожиданием, человек имеет $|\operatorname {E} [X]|\leq \operatorname {E} |X|.$
• Пусть 1 _A обозначает индикаторную функцию события A , тогда E[ 1 _A ] определяется вероятностью A . Это не что иное, как другой способ выразить математическое ожидание случайной величины Бернулли , рассчитанное в таблице выше.
• Формулы в терминах CDF: Если $F(x)$ — кумулятивная функция распределения случайной величины X , тогда $$\operatorname {E} [X]=\int _{-\infty }^{\infty }x\,dF(x),$$ где значения с обеих сторон четко определены или не определены одновременно, а интеграл берется в смысле Лебега-Стилтьеса . В результате интегрирования по частям применительно к этому представлению E[ X ] можно доказать, что $$\operatorname {E} [X]=\int _{0}^{\infty }(1-F(x))\,dx-\int _{-\infty }^{0}F(x)\,dx,$$ с интегралами, взятыми по Лебегу. В частном случае для любой случайной величины X, имеющей неотрицательное целое число {0, 1, 2, 3, ...} , имеем $$\operatorname {E} [X]=\sum _{n=0}^{\infty }\Pr(X>n),$$ где P обозначает основную вероятностную меру.
• Немультипликативность: Как правило, ожидаемое значение не является мультипликативным, т.е. $\operatorname {E} [XY]$ не обязательно равен $\operatorname {E} [X]\cdot \operatorname {E} [Y].$ Если $X$ и $Y$ независимы что , то можно показать, $\operatorname {E} [XY]=\operatorname {E} [X]\operatorname {E} [Y].$ Если случайные величины зависимы , то, вообще говоря, $\operatorname {E} [XY]\neq \operatorname {E} [X]\operatorname {E} [Y],$ хотя в особых случаях зависимости равенство может иметь место.
• Закон бессознательного статистика : ожидаемое значение измеримой функции $X,$ $g(X),$ при условии $X$ имеет функцию плотности вероятности $f(x),$ задается внутренним продуктом $f$ и $g$: $$\operatorname {E} [g(X)]=\int _{\mathbb {R} }g(x)f(x)\,dx.$$ Эта формула справедлива и в многомерном случае, когда $g$ является функцией нескольких случайных величин, а $f$ - их совместная плотность .

Неравенства

Неравенства концентрации контролируют вероятность того, что случайная величина примет большие значения. Неравенство Маркова является одним из самых известных и простых для доказательства: для неотрицательной случайной величины X и любого положительного числа a оно утверждает, что $$\operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} [X]}{a}}.$$

Если X — любая случайная величина с конечным математическим ожиданием, то неравенство Маркова можно применить к случайной величине | Икс −Е[ Икс ]| ² чтобы получить неравенство Чебышева $$\operatorname {P} (|X-{\text{E}}[X]|\geq a)\leq {\frac {\operatorname {Var} [X]}{a^{2}}},$$где Var — дисперсия . Эти неравенства примечательны тем, что в них почти полностью отсутствуют условные допущения. Например, для любой случайной величины с конечным ожиданием неравенство Чебышева предполагает, что существует по крайней мере 75% вероятность того, что результат окажется в пределах двух стандартных отклонений от ожидаемого значения. Однако в особых случаях неравенства Маркова и Чебышева часто дают гораздо более слабую информацию, чем можно было бы получить в противном случае. Например, в случае невзвешенных игральных костей неравенство Чебышева гласит, что вероятность выпадения от 1 до 6 составляет не менее 53%; на самом деле шансы, конечно, 100%. Неравенство Колмогорова расширяет неравенство Чебышева на контекст сумм случайных величин.

Следующие три неравенства имеют фундаментальное значение в области математического анализа и его приложений к теории вероятностей.

• Неравенство Йенсена : пусть f : R → R — выпуклая функция , а X — случайная величина с конечным математическим ожиданием. Затем $$f(\operatorname {E} (X))\leq \operatorname {E} (f(X)).$$ Часть утверждения состоит в том, что часть f X ( отрицательная ) имеет конечное математическое ожидание, так что правая часть четко определена (возможно, бесконечна). Выпуклость f можно сформулировать так: выходное средневзвешенное значение двух входных данных недооценивает одно и то же средневзвешенное значение двух выходных данных; Неравенство Йенсена распространяет это на установку совершенно общих средневзвешенных значений, представленных математическим ожиданием. В частном случае, когда f ( x ) = | х | ^{т / с} для положительных чисел s < t получаем неравенство Ляпунова $$\left(\operatorname {E} |X|^{s}\right)^{1/s}\leq \left(\operatorname {E} |X|^{t}\right)^{1/t}.$$ Это также можно доказать с помощью неравенства Гёльдера. В теории меры это особенно примечательно тем, что доказано включение L ^с ⊂ Л ^т Л ​ ^п пространства , в частном случае вероятностных пространств .
• Неравенство Гёльдера : если p > 1 и q > 1 — числа, удовлетворяющие p ⁻¹ + д ⁻¹ = 1 , тогда $$\operatorname {E} |XY|\leq (\operatorname {E} |X|^{p})^{1/p}(\operatorname {E} |Y|^{q})^{1/q}.$$ для любых случайных величин X и Y . Частный случай p = q = 2 называется неравенством Коши – Шварца и особенно хорошо известен.
• Неравенство Минковского : для любого числа p ≥ 1 для любых случайных величин X и Y с E| Х | ^п и Е | Ю | ^п оба конечны, отсюда следует, что E| Х + Y | ^п также конечен и $${\Bigl (}\operatorname {E} |X+Y|^{p}{\Bigr )}^{1/p}\leq {\Bigl (}\operatorname {E} |X|^{p}{\Bigr )}^{1/p}+{\Bigl (}\operatorname {E} |Y|^{p}{\Bigr )}^{1/p}.$$

Неравенства Гельдера и Минковского могут быть распространены на общие пространства с мерой и часто приводятся в этом контексте. Напротив, неравенство Йенсена является специфическим для случая вероятностных пространств.

Ожидания при сходимости случайных величин

В общем, это не тот случай $\operatorname {E} [X_{n}]\to \operatorname {E} [X]$ даже если $X_{n}\to X$ точечно. Таким образом, невозможно поменять местами пределы и ожидания без дополнительных условий на случайные величины. Чтобы увидеть это, позвольте $U$ — случайная величина, распределенная равномерно на $[0,1].$ Для $n\geq 1,$ определить последовательность случайных величин $$X_{n}=n\cdot \mathbf {1} \left\{U\in \left(0,{\tfrac {1}{n}}\right)\right\},$$с $\mathbf {1} \{A\}$ являющаяся индикаторной функцией события $A.$ Тогда следует, что $X_{n}\to 0$ точечно. Но, $\operatorname {E} [X_{n}]=n\cdot \Pr \left(U\in \left[0,{\tfrac {1}{n}}\right]\right)=n\cdot {\tfrac {1}{n}}=1$ для каждого $n.$ Следовательно, $\lim _{n\to \infty }\operatorname {E} [X_{n}]=1\neq 0=\operatorname {E} \left[\lim _{n\to \infty }X_{n}\right].$

Аналогично, для общей последовательности случайных величин $\{Y_{n}:n\geq 0\},$ оператор ожидаемого значения не $\sigma$-аддитивная, т.е. $$\operatorname {E} \left[\sum _{n=0}^{\infty }Y_{n}\right]\neq \sum _{n=0}^{\infty }\operatorname {E} [Y_{n}].$$

Пример легко получить, установив $Y_{0}=X_{1}$ и $Y_{n}=X_{n+1}-X_{n}$ для $n\geq 1,$ где $X_{n}$ как в предыдущем примере.

Ряд результатов конвергенции определяют точные условия, которые позволяют менять пределы и ожидания, как указано ниже.

• Теорема о монотонной сходимости . Пусть $\{X_{n}:n\geq 0\}$ быть последовательностью случайных величин, причем $0\leq X_{n}\leq X_{n+1}$ (как) для каждого $n\geq 0.$ Кроме того, пусть $X_{n}\to X$ точечно. Тогда теорема монотонной сходимости утверждает, что $\lim _{n}\operatorname {E} [X_{n}]=\operatorname {E} [X].$
  Используя теорему о монотонной сходимости, можно показать, что математическое ожидание действительно удовлетворяет счетной аддитивности для неотрицательных случайных величин. В частности, пусть $\{X_{i}\}_{i=0}^{\infty }$ быть неотрицательными случайными величинами. следует Из теоремы монотонной сходимости , что $$\operatorname {E} \left[\sum _{i=0}^{\infty }X_{i}\right]=\sum _{i=0}^{\infty }\operatorname {E} [X_{i}].$$
• Лемма Фату : Пусть $\{X_{n}\geq 0:n\geq 0\}$ быть последовательностью неотрицательных случайных величин. Лемма Фату утверждает, что $$\operatorname {E} [\liminf _{n}X_{n}]\leq \liminf _{n}\operatorname {E} [X_{n}].$$
  Следствие. Позволять $X_{n}\geq 0$ с $\operatorname {E} [X_{n}]\leq C$ для всех $n\geq 0.$ Если $X_{n}\to X$ (как), тогда $\operatorname {E} [X]\leq C.$
  Доказательство состоит в наблюдении того, что ${\textstyle X=\liminf _{n}X_{n}}$ (as) и применив лемму Фату.
• Теорема о доминируемой сходимости . Пусть $\{X_{n}:n\geq 0\}$ быть последовательностью случайных величин. Если $X_{n}\to X$ точечно (как), $|X_{n}|\leq Y\leq +\infty$ (как) и $\operatorname {E} [Y]<\infty .$ Тогда по теореме о доминируемой сходимости
  • $\operatorname {E} |X|\leq \operatorname {E} [Y]<\infty$;
  • $\lim _{n}\operatorname {E} [X_{n}]=\operatorname {E} [X]$
  • $\lim _{n}\operatorname {E} |X_{n}-X|=0.$
• Равномерная интегрируемость : в некоторых случаях равенство $\lim _{n}\operatorname {E} [X_{n}]=\operatorname {E} [\lim _{n}X_{n}]$ имеет место, когда последовательность $\{X_{n}\}$ является равномерно интегрируемым.

Связь с характеристической функцией

Функция плотности вероятности $f_{X}$ скалярной случайной величины $X$ связано с его характеристической функцией $\varphi _{X}$ по формуле обращения: $$f_{X}(x)={\frac {1}{2\pi }}\int _{\mathbb {R} }e^{-itx}\varphi _{X}(t)\,dt.$$

По ожидаемой стоимости $g(X)$ (где $g:{\mathbb {R} }\to {\mathbb {R} }$ является функцией Бореля ), мы можем использовать эту формулу обращения, чтобы получить $$\operatorname {E} [g(X)]={\frac {1}{2\pi }}\int _{\mathbb {R} }g(x)\left[\int _{\mathbb {R} }e^{-itx}\varphi _{X}(t)\,dt\right]dx.$$

Если $\operatorname {E} [g(X)]$ конечно, изменив порядок интегрирования, получим в соответствии с теоремой Фубини– Тонелли $$\operatorname {E} [g(X)]={\frac {1}{2\pi }}\int _{\mathbb {R} }G(t)\varphi _{X}(t)\,dt,$$где $$G(t)=\int _{\mathbb {R} }g(x)e^{-itx}\,dx$$представляет собой Фурье преобразование $g(x).$ Выражение для $\operatorname {E} [g(X)]$ также следует непосредственно из теоремы Планшереля .

Использование и применение

Ожидание случайной величины играет важную роль в различных контекстах.

В статистике , где ищутся оценки неизвестных параметров на основе доступных данных, полученных из выборок , выборочное среднее служит оценкой ожидания и само по себе является случайной величиной. В таких условиях считается, что выборочное среднее соответствует желаемому критерию «хорошей» оценки, поскольку оно является несмещенным ; то есть ожидаемое значение оценки равно истинному значению базового параметра.

Смотрите также: Теория оценки

Другой пример: в теории принятия решений часто предполагается, что агент, делающий оптимальный выбор в контексте неполной информации, максимизирует ожидаемое значение своей функции полезности .

Можно построить ожидаемое значение, равное вероятности события, взяв математическое ожидание индикаторной функции , которое равно единице, если событие произошло, и нулю в противном случае. Это соотношение можно использовать для перевода свойств ожидаемых значений в свойства вероятностей, например, используя закон больших чисел для обоснования оценки вероятностей по частотам .

степеней X называются моментами X ; Ожидаемые значения моменты относительно среднего значения X являются ожидаемыми значениями степеней X − E[ X ] . Моменты некоторых случайных величин можно использовать для определения их распределений через их производящие функции .

Чтобы эмпирически оценить ожидаемое значение случайной величины, необходимо неоднократно измерять наблюдения за переменной и вычислять среднее арифметическое результатов. Если ожидаемое значение существует, эта процедура оценивает истинное ожидаемое значение беспристрастно и имеет свойство минимизировать сумму квадратов остатков ( сумму квадратов разностей между наблюдениями и оценкой). Закон больших чисел показывает (в достаточно мягких условиях), что по мере увеличения размера выборки дисперсия этой оценки уменьшается.

Это свойство часто используется в самых разных приложениях, включая общие задачи статистической оценки и машинного обучения , для оценки (вероятностных) интересующих величин с помощью методов Монте-Карло , поскольку большинство интересующих величин можно записать в терминах ожидания, например $\operatorname {P} ({X\in {\mathcal {A}}})=\operatorname {E} [{\mathbf {1} }_{\mathcal {A}}],$ где ${\mathbf {1} }_{\mathcal {A}}$ – индикаторная функция множества ${\mathcal {A}}.$

Масса распределения вероятностей сбалансирована по ожидаемому значению, здесь бета-распределение (α, β) с ожидаемым значением α/(α+β).

В классической механике центр масс является понятием, аналогичным математическому ожиданию. Например, предположим, что X — дискретная случайная величина со значениями x _i и соответствующими вероятностями p _i . Теперь рассмотрим невесомый стержень, на котором в точках x _i вдоль стержня размещены гири, имеющие массы p _i (сумма которых равна единице). Точка, в которой стержень балансирует, — это E[ X ].

Ожидаемые значения также можно использовать для вычисления дисперсии с помощью вычислительной формулы для дисперсии $$\operatorname {Var} (X)=\operatorname {E} [X^{2}]-(\operatorname {E} [X])^{2}.$$

Очень важное применение математического ожидания находится в области квантовой механики . Ожидаемое значение квантово-механического оператора ${\hat {A}}$ работая с квантового состояния вектором $|\psi \rangle$ написано как $\langle {\hat {A}}\rangle =\langle \psi |{\hat {A}}|\psi \rangle .$ Неопределенность ​ в ${\hat {A}}$ можно рассчитать по формуле $(\Delta A)^{2}=\langle {\hat {A}}^{2}\rangle -\langle {\hat {A}}\rangle ^{2}$.

См. также

• Центральная тенденция
• Условное ожидание
• Ожидание (эпистемическое)
• Ожидаемый - связан с ожиданиями аналогично тому, как квантили связаны с медианами.
• Закон общего ожидания - ожидаемое значение условного ожидаемого значения X при условии Y такое же, как и ожидаемое значение X.
• Медиана – обозначается $m$ на рисунке выше
• Нелинейное ожидание - обобщение ожидаемого значения.
• Среднее значение численности населения
• Прогнозируемое значение
• Уравнение Вальда - уравнение для расчета ожидаемого значения случайного числа случайных величин.

Библиография

• Эдвардс, AWF (2002). Арифметический треугольник Паскаля: история математической идеи (2-е изд.). Джу Пресс. ISBN  0-8018-6946-3 .
• Гюйгенс, Христиан (1657). De rationciniis en ludo alæa (английский перевод, опубликован в 1714 году) .
• Биллингсли, Патрик (1995). Вероятность и мера . Серия Уайли по вероятности и математической статистике (третье издание оригинального издания 1979 г.). John Wiley & Sons, Inc. Нью-Йорк: ISBN  0-471-00710-2 . МР   1324786 .
• Казелла, Джордж ; Бергер, Роджер Л. (2001). Статистический вывод . Duxbury Advanced Series (второе издание оригинального издания 1990 г.). Пасифик Гроув, Калифорния: Даксбери. ISBN  0-534-11958-1 .
• Феллер, Уильям (1968). Введение в теорию вероятностей и ее приложения. Том I (Третье издание оригинального издания 1950 г.). Нью-Йорк – Лондон – Сидней: John Wiley & Sons, Inc. MR   0228020 .
• Феллер, Уильям (1971). Введение в теорию вероятностей и ее приложения. Том II (второе издание оригинальной редакции 1966 г.). Нью-Йорк – Лондон – Сидней: John Wiley & Sons, Inc. MR   0270403 .
• Джонсон, Норман Л .; Коц, Сэмюэл ; Балакришнан, Н. (1994). Непрерывные одномерные распределения. Том 1 . Серия Уайли по вероятности и математической статистике (второе издание оригинального издания 1970 г.). John Wiley & Sons, Inc. Нью-Йорк: ISBN  0-471-58495-9 . МР   1299979 .
• Папулис, Афанасиос ; Пиллаи, С. Унникришна (2002). Вероятность, случайные величины и случайные процессы (Четвертое издание оригинальной редакции 1965 г.). Нью-Йорк: МакГроу-Хилл. ISBN  0-07-366011-6 . (Ошибка: [1] )
• Росс, Шелдон М. (2019). Введение в вероятностные модели (двенадцатое издание оригинальной редакции 1972 г.). Лондон: Академическая пресса. дои : 10.1016/C2017-0-01324-1 . ISBN  978-0-12-814346-9 . МР   3931305 .