Jump to content

Условное ожидание

В теории вероятностей условное ожидание , условное ожидаемое значение или условное среднее случайной величины — это ее ожидаемое значение, оцененное относительно условного распределения вероятностей . Если случайная величина может принимать только конечное число значений, «условия» заключаются в том, что переменная может принимать только подмножество этих значений. Более формально, в случае, когда случайная величина определена в дискретном вероятностном пространстве , «условия» представляют собой разбиение этого вероятностного пространства.

В зависимости от контекста условное ожидание может быть либо случайной величиной, либо функцией. Случайная величина обозначается аналогично условной вероятности . Форма функции либо обозначается или отдельный функциональный символ, например вводится со смыслом .

Примеры [ править ]

Пример 1: Бросок кубиков [ править ]

Рассмотрим бросок игральной кости и пусть A = 1, если число четное (т. е. 2, 4 или 6), и A = 0 в противном случае. Кроме того, пусть B = 1, если число простое (т. е. 2, 3 или 5), и B = 0 в противном случае.

1 2 3 4 5 6
А 0 1 0 1 0 1
Б 0 1 1 0 1 0

Безусловным ожиданием А является , но ожидание A при условии B = 1 (т. е. при условии, что при броске кубика выпадет 2, 3 или 5) равно , а ожидание A при условии B = 0 (т. е. при условии, что при броске кубика выпадет 1, 4 или 6) равно . Аналогично, ожидание B при условии A = 1 равно , а ожидание B при условии A = 0 равно .

Пример 2: Данные об осадках [ править ]

Предположим, у нас есть данные о суточном количестве осадков (мм дождя в день), собранные метеостанцией каждый день десятилетнего (3652-дневного) периода с 1 января 1990 г. по 31 декабря 1999 г. неуказанный день — это среднее количество осадков за эти 3652 дня. Условное ожидание количества осадков в течение неуказанного дня, который, как известно , приходится на март (при условии его наступления), представляет собой среднее количество ежедневных осадков за все 310 дней десятилетнего периода, выпадающего на март. А условное ожидание осадков в дни, датированные 2 марта, представляет собой среднее количество осадков, выпавших за десять дней с этой конкретной датой.

История [ править ]

Соответствующая концепция условной вероятности восходит, по крайней мере, к Лапласу , который рассчитал условные распределения. Именно Андрей Колмогоров в 1933 году формализовал его с помощью теоремы Радона–Никодима . [1] В произведениях Пауля Халмоша [2] и Джозеф Л. Дуб [3] с 1953 года условное ожидание было обобщено до его современного определения с использованием суб-σ-алгебр . [4]

Определения [ править ]

Обусловленность событием [ править ]

Если А — событие в с ненулевой вероятностью,и X дискретная случайная величина , условное математическое ожидание при X условии, что A есть

где сумма берется по всем возможным результатам X .

Если , условное математическое ожидание неопределенно из-за деления на ноль.

Дискретные случайные величины [ править ]

Если X и Y дискретные случайные величины ,условное ожидание X при условии Y равно

где массовая функция X Y. и совместная вероятности Сумма берется по всем возможным результатам X .

Обратите внимание, что, как указано выше, выражение не определено, если .

Обусловливание дискретной случайной величины аналогично обуславливанию соответствующего события:

где A - множество .

Непрерывные случайные величины [ править ]

Позволять и быть непрерывными случайными величинами с плотностью соединений плотность и условная плотность из учитывая событие Условное ожидание данный является

Когда знаменатель равен нулю, выражение не определено.

Обусловливание непрерывной случайной величиной — это не то же самое, что обусловливание события. как это было в дискретном случае. Для обсуждения см. Обусловливание события с нулевой вероятностью . Несоблюдение этого различия может привести к противоречивым выводам, как это иллюстрирует парадокс Бореля-Колмогорова .

л 2 случайные величины [ править ]

Предполагается, что все случайные величины в этом разделе находятся в , что квадратично интегрируемо .В своей полной общности условное ожидание развивается без этого предположения, см. ниже раздел « Условное ожидание в отношении под-σ-алгебры» . теория, однако, считается более интуитивной [5] и допускает важные обобщения .В контексте случайные величины, условное ожидание также называют регрессией .

В дальнейшем пусть быть вероятностным пространством, и в со средним и дисперсия .Ожидание минимизирует среднеквадратическую ошибку :

.

Условное математическое ожидание X определяется аналогично, только вместо одного числа , результатом будет функция . Позволять быть случайным вектором . Условное ожидание — измеримая функция такая, что

.

Обратите внимание, что в отличие от , условное ожидание как правило, не уникален: может быть несколько минимизаторов среднеквадратической ошибки.

Уникальность [ править ]

Пример 1. Рассмотрим случай, когда Y — постоянная случайная величина, которая всегда равна 1.Тогда среднеквадратическая ошибка минимизируется любой функцией вида

Пример 2. Рассмотрим случай, когда Y — двумерный случайный вектор. . Тогда ясно

но через функции это можно выразить как или или бесконечно многими другими способами. В контексте линейной регрессии это отсутствие уникальности называется мультиколлинеарностью .

Условное ожидание уникально с точностью до множества нулевой меры в . Используемая мера — это мера продвижения вперед, индуцированная Y .

В первом примере мера продвижения представляет собой распределение Дирака при 1. Во втором она сосредоточена на «диагонали». , так что любое множество, не пересекающееся с ним, имеет меру 0.

Существование [ править ]

Наличие минимайзера для является нетривиальным. Можно показать, что

является замкнутым подпространством гильбертова пространства . [6] По теореме о проекции Гильберта необходимое и достаточное условие быть минимизатором - это для всех в М у нас есть

.

Другими словами, это уравнение говорит о том, что невязка ортогонален пространству M всех функций из Y .Это условие ортогональности применительно к индикаторным функциям ,используется ниже, чтобы распространить условное ожидание на случай, когда X и Y не обязательно находятся в .

с регрессией Связь

Условное математическое ожидание часто аппроксимируют в прикладной математике и статистике из-за трудностей его аналитического расчета и интерполяции. [7]

Гильбертово подпространство

определенное выше, заменяется его подмножествами путем ограничения функциональной формы g вместо разрешения какой-либо измеримой функции. Примерами этого являются регрессия дерева решений , когда g должна быть простой функцией , линейная регрессия , когда g должна быть аффинной , и т. д.

Эти обобщения условного ожидания происходят за счет многих его свойств потери .Например, пусть М — пространство всех линейных функций от Y и пусть обозначим это обобщенное условное ожидание/ проекция. Если не содержит константных функций , свойства башни не выдержит.

Важным особым случаем является случай, когда X и Y совместно нормально распределены. В этом случаеможно показать, что условное ожидание эквивалентно линейной регрессии:

для коэффициентов описано в разделе «Многомерное нормальное распределение#Условные распределения» .

относительно суб-σ алгебры - Условное ожидание

Условное ожидание относительно σ-алгебры: в этом примере вероятностное пространство — интервал [0,1] с мерой Лебега . Определим следующие σ-алгебры: ; — σ-алгебра, порожденная интервалами с концами 0, 1 4 , 1 2 , 3 4 , 1; и — σ-алгебра, порожденная интервалами с концами 0, 1 2 , 1. Здесь условное математическое ожидание фактически является средним по минимальным наборам σ-алгебры.

Учтите следующее:

  • это вероятностное пространство .
  • является случайной величиной в этом вероятностном пространстве с конечным математическим ожиданием.
  • является под- σ- алгеброй .

С это саб -алгебра , функция обычно нет -измеримы, поэтому существование интегралов вида , где и это ограничение к , не может быть сформулировано в общем. Однако местные средние значения можно восстановить в с помощью условного ожидания.

Условное ожидание при X условии , обозначенный как , есть ли какой-нибудь - измеримая функция который удовлетворяет:

для каждого . [8]

Как отмечается в обсуждение, это условие эквивалентно утверждению, что остаток ортогонален индикаторным функциям :

Существование [ править ]

Существование можно установить, заметив, что для является конечной мерой на непрерывен абсолютно относительно . Если это естественная инъекция из к , затем это ограничение к и это ограничение к . Более того, абсолютно непрерывен относительно , поскольку условие

подразумевает

Таким образом, мы имеем

где производные представляют собой Радона–Никодима производные меры .

Условное ожидание относительно случайной величины [ править ]

Рассмотрим, помимо вышесказанного,

  • Измеримое пространство , и
  • Случайная величина .

Условное ожидание X при условии Y определяется путем применения приведенной выше конструкции к σ-алгебре, порожденной Y :

.

По лемме Дуба-Дынкина существует функция такой, что

.

Обсуждение [ править ]

  • Это неконструктивное определение; нам просто дано требуемое свойство, которому должно удовлетворять условное ожидание.
    • Определение может напоминать для мероприятия но это очень разные объекты. Первый представляет собой -измеримая функция , а последний является элементом и для .
    • Можно показать, что уникальность почти очевидна : то есть версии одного и того же условного ожидания будут различаться только на множестве с нулевой вероятностью .
  • σ-алгебра контролирует «детальность» кондиционирования. Условное ожидание над более тонкой (большой) σ-алгеброй сохраняет информацию о вероятностях более широкого класса событий. Условное ожидание по более грубой (меньшей) σ-алгебре усредняет большее количество событий.

Условная вероятность [ править ]

Для борелевского подмножества B в , можно рассматривать совокупность случайных величин

.

Можно показать, что они образуют ядро ​​Маркова , т. е. почти для всех , является вероятностной мерой. [9]

закон бессознательного статистика Тогда

.

Это показывает, что условные ожидания, как и их безусловные аналоги, представляют собой интеграции,против условной меры.

Общее определение [ править ]

В целом рассмотрим:

  • Вероятностное пространство .
  • Банахово пространство .
  • Интегрируемая по Бохнеру случайная величина .
  • И суб-σ-алгебра .

Условное ожидание данный это до -nullset уникальный и интегрируемый -ценный -измеримая случайная величина удовлетворяющий

для всех . [10] [11]

В этом случае условное ожидание иногда также обозначается в операторной записи как .

Основные свойства [ править ]

Все следующие формулы следует понимать почти наверняка. σ-алгебра можно заменить случайной величиной , то есть .

  • Выделение независимых факторов:
    • Если не зависит от , затем .
Доказательство
    • Если не зависит от , затем . Обратите внимание, что это не обязательно так, если не зависит только от и из .
    • Если независимы, независимы, не зависит от и не зависит от , затем .
  • Стабильность:
    • Если является -измеримо, тогда .
Доказательство
    • В частности, для под-σ-алгебр у нас есть .
    • Если Z — случайная величина, то . В самой простой форме это говорит .
  • Вытягиваем известные факторы:
    • Если является -измеримо, тогда .
Доказательство
    • Если Z — случайная величина, то .
  • Закон общего ожидания : . [12]
  • Свойство башни:
    • Для суб-σ-алгебр у нас есть .
      • Особый случай восстанавливает Закон полного ожидания: .
      • Особым случаем является случай, когда Z является -измеримая случайная величина. Затем и таким образом .
      • Свойство мартингейла Doob : вышеописанное с (что -измеримый), а также используя , дает .
    • Для случайных величин у нас есть .
    • Для случайных величин у нас есть .
  • Линейность: у нас есть и для .
  • Позитивность: если затем .
  • Монотонность: Если затем .
  • Монотонная сходимость : если затем .
  • Доминируемая конвергенция : если и с , затем .
  • Лемма Фату : если затем .
  • Неравенство Йенсена : если является выпуклой функцией , то .
  • Условная дисперсия : Используя условное ожидание, мы можем определить, по аналогии с определением дисперсии как среднеквадратического отклонения от среднего, условную дисперсию.
    • Определение:
    • Алгебраическая формула дисперсии:
    • Закон полной дисперсии : .
  • Сходимость по Мартингейлу : для случайной величины , имеющее конечное математическое ожидание, мы имеем , если либо является возрастающей серией суб-σ-алгебр и или если является убывающей серией под-σ-алгебр и .
  • Условное ожидание как -проекция: если находятся в гильбертовом пространстве действительных интегрируемых с квадратом случайных величин (действительных случайных величин с конечным вторым моментом), то
    • для -измеримый , у нас есть , т.е. условное ожидание в смысле L 2 ( P ) скалярное произведение ортогональной проекции из в подпространство линейное -измеримые функции. (Это позволяет определить и доказать существование условного математического ожидания на основе теоремы о проекции Гильберта .)
    • картографирование является самосопряженным :
  • Обусловливание — это сжимающая проекция L п пространства . Вы, для любого p ≥ 1.
  • Свойство условной независимости Дуба: [13] Если учитывая условно независимы , , затем (эквивалентно, ).

См. также [ править ]

Законы вероятности [ править ]

Примечания [ править ]

  1. ^ Колмогоров, Андрей (1933). Основные понятия расчета вероятностей (на немецком языке). Берлин: Юлиус Шпрингер. п. 46.
  2. ^ Окстоби, Дж. К. (1953). «Обзор: Теория меры , автор: П.Р. Халмош» (PDF) . Бык. амер. Математика. Соц . 59 (1): 89–91. дои : 10.1090/s0002-9904-1953-09662-8 .
  3. ^ Дж. Л. Дуб (1953). Случайные процессы . Джон Уайли и сыновья . ISBN  0-471-52369-0 .
  4. ^ Олав Калленберг: Основы современной вероятности. 2. издание. Спрингер, Нью-Йорк, 2002 г., ISBN   0-387-95313-2 , с. 573.
  5. ^ «Вероятность – интуиция, стоящая за условным ожиданием» . Математический обмен стеками .
  6. ^ Брокуэлл, Питер Дж. (1991). Временные ряды: теория и методы (2-е изд.). Нью-Йорк: Springer-Verlag. ISBN  978-1-4419-0320-4 .
  7. ^ Хасти, Тревор. Элементы статистического обучения: интеллектуальный анализ данных, логический вывод и прогнозирование (PDF) (второе, исправленное 7-е печатное издание). Нью-Йорк. ISBN  978-0-387-84858-7 .
  8. ^ Биллингсли, Патрик (1995). «Раздел 34. Условное ожидание». Вероятность и мера (3-е изд.). Джон Уайли и сыновья. п. 445. ИСБН  0-471-00710-2 .
  9. ^ Кленке, Ахим. Теория вероятностей: комплексный курс (Второе изд.). Лондон. ISBN  978-1-4471-5361-0 .
  10. ^ Да Прато, Джузеппе; Забчик, Ежи (2014). Стохастические уравнения в бесконечных измерениях . Издательство Кембриджского университета. п. 26. дои : 10.1017/CBO9781107295513 . (Определение в сепарабельных банаховых пространствах)
  11. ^ Хитонен, Туомас; ван Нервен, Ян; Вераар, Марк; Вайс, Лутц (2016). Анализ в банаховых пространствах, Том I: Мартингалы и теория Литтлвуда-Пэли . Спрингер Чам. дои : 10.1007/978-3-319-48520-1 . (Определение в общих банаховых пространствах)
  12. ^ «Условное ожидание» . www.statlect.com . Проверено 11 сентября 2020 г.
  13. ^ Калленберг, Олав (2001). Основы современной вероятности (2-е изд.). Йорк, Пенсильвания, США: Спрингер. п. 110. ИСБН  0-387-95313-2 .

Ссылки [ править ]

  • Уильям Феллер , Введение в теорию вероятностей и ее приложения , том 1, 1950, стр. 223.
  • Пол А. Мейер, Вероятность и потенциалы , Blaisdell Publishing Co., 1966, стр. 28.
  • Гриметт, Джеффри ; Стирзакер, Дэвид (2001). Вероятность и случайные процессы (3-е изд.). Издательство Оксфордского университета. ISBN  0-19-857222-0 . , стр. 67–69

Внешние ссылки [ править ]

Arc.Ask3.Ru: конец переведенного документа.
Arc.Ask3.Ru
Номер скриншота №: ebf0dfd8511cac85c4354d6b6093a208__1713780240
URL1:https://arc.ask3.ru/arc/aa/eb/08/ebf0dfd8511cac85c4354d6b6093a208.html
Заголовок, (Title) документа по адресу, URL1:
Conditional expectation - Wikipedia
Данный printscreen веб страницы (снимок веб страницы, скриншот веб страницы), визуально-программная копия документа расположенного по адресу URL1 и сохраненная в файл, имеет: квалифицированную, усовершенствованную (подтверждены: метки времени, валидность сертификата), открепленную ЭЦП (приложена к данному файлу), что может быть использовано для подтверждения содержания и факта существования документа в этот момент времени. Права на данный скриншот принадлежат администрации Ask3.ru, использование в качестве доказательства только с письменного разрешения правообладателя скриншота. Администрация Ask3.ru не несет ответственности за информацию размещенную на данном скриншоте. Права на прочие зарегистрированные элементы любого права, изображенные на снимках принадлежат их владельцам. Качество перевода предоставляется как есть. Любые претензии, иски не могут быть предъявлены. Если вы не согласны с любым пунктом перечисленным выше, вы не можете использовать данный сайт и информация размещенную на нем (сайте/странице), немедленно покиньте данный сайт. В случае нарушения любого пункта перечисленного выше, штраф 55! (Пятьдесят пять факториал, Денежную единицу (имеющую самостоятельную стоимость) можете выбрать самостоятельно, выплаичвается товарами в течение 7 дней с момента нарушения.)