Условное ожидание
![]() | Эта статья включает список общих ссылок , но в ней отсутствуют достаточные соответствующие встроенные цитаты . ( сентябрь 2020 г. ) |
В теории вероятностей условное ожидание , условное ожидаемое значение или условное среднее случайной величины — это ее ожидаемое значение, оцененное относительно условного распределения вероятностей . Если случайная величина может принимать только конечное число значений, «условия» заключаются в том, что переменная может принимать только подмножество этих значений. Более формально, в случае, когда случайная величина определена в дискретном вероятностном пространстве , «условия» представляют собой разбиение этого вероятностного пространства.
В зависимости от контекста условное ожидание может быть либо случайной величиной, либо функцией. Случайная величина обозначается аналогично условной вероятности . Форма функции либо обозначается или отдельный функциональный символ, например вводится со смыслом .
Примеры
[ редактировать ]Пример 1: Бросок кубиков
[ редактировать ]Рассмотрим бросок игральной кости и пусть A = 1, если число четное (т. е. 2, 4 или 6), и A = 0 в противном случае. Кроме того, пусть B = 1, если число простое (т. е. 2, 3 или 5), и B = 0 в противном случае.
1 | 2 | 3 | 4 | 5 | 6 | |
---|---|---|---|---|---|---|
А | 0 | 1 | 0 | 1 | 0 | 1 |
Б | 0 | 1 | 1 | 0 | 1 | 0 |
Безусловным ожиданием А является , но ожидание A при условии B = 1 (т. е. при условии, что при броске кубика выпадет 2, 3 или 5) равно , а ожидание A при условии B = 0 (т. е. при условии, что при броске кубика выпадет 1, 4 или 6) равно . Аналогично, ожидание B при условии A = 1 равно , а ожидание B при условии A = 0 равно .
Пример 2: Данные об осадках
[ редактировать ]Предположим, у нас есть данные о суточном количестве осадков (мм дождя в день), собранные метеостанцией каждый день десятилетнего (3652-дневного) периода с 1 января 1990 г. по 31 декабря 1999 г. неуказанный день — это среднее количество осадков за эти 3652 дня. Условное ожидание количества осадков в течение неуказанного дня, который, как известно , приходится на март (при условии его наступления), представляет собой среднее количество ежедневных осадков за все 310 дней десятилетнего периода, выпадающего на март. А условное ожидание осадков в дни, датированные 2 марта, представляет собой среднее количество осадков, выпавших за десять дней с этой конкретной датой.
История
[ редактировать ]Соответствующая концепция условной вероятности восходит, по крайней мере, к Лапласу , который рассчитал условные распределения. Именно Андрей Колмогоров в 1933 году формализовал его с помощью теоремы Радона–Никодима . [1] В произведениях Пауля Халмоша [2] и Джозеф Л. Дуб [3] с 1953 года условное ожидание было обобщено до его современного определения с использованием суб-σ-алгебр . [4]
Определения
[ редактировать ]Кондиционирование по событию
[ редактировать ]Если А — событие в с ненулевой вероятностью,и X — дискретная случайная величина , условное математическое ожидание при X условии, что A есть
где сумма берется по всем возможным результатам X .
Если , условное математическое ожидание неопределенно из-за деления на ноль.
Дискретные случайные величины
[ редактировать ]Если X и Y — дискретные случайные величины ,условное ожидание X при условии Y равно
где — массовая функция X Y. и совместная вероятности Сумма берется по всем возможным результатам X .
Обратите внимание, что, как указано выше, выражение не определено, если .
Обусловливание дискретной случайной величины аналогично обуславливанию соответствующего события:
где A - множество .
Непрерывные случайные величины
[ редактировать ]Позволять и быть непрерывными случайными величинами с плотностью соединений плотность и условная плотность из учитывая событие Условное ожидание данный является
Когда знаменатель равен нулю, выражение не определено.
Обусловливание непрерывной случайной величиной — это не то же самое, что обусловливание события. как это было в дискретном случае. Для обсуждения см. Обусловливание события с нулевой вероятностью . Несоблюдение этого различия может привести к противоречивым выводам, как это иллюстрирует парадокс Бореля-Колмогорова .
л 2 случайные величины
[ редактировать ]Предполагается, что все случайные величины в этом разделе находятся в , то есть квадратично интегрируемый .В своей полной общности условное ожидание развивается без этого предположения, см. ниже раздел « Условное ожидание в отношении под-σ-алгебры» . теория, однако, считается более интуитивной [5] и допускает важные обобщения .В контексте случайные величины, условное ожидание также называют регрессией .
В дальнейшем пусть быть вероятностным пространством, и в со средним и дисперсия .Ожидание минимизирует среднеквадратическую ошибку :
- .
Условное математическое ожидание X определяется аналогично, только вместо одного числа , результатом будет функция . Позволять быть случайным вектором . Условное ожидание — измеримая функция такая, что
- .
Обратите внимание, что в отличие от , условное ожидание как правило, не уникален: может быть несколько минимизаторов среднеквадратической ошибки.
Уникальность
[ редактировать ]Пример 1. Рассмотрим случай, когда Y — постоянная случайная величина, которая всегда равна 1.Тогда среднеквадратическая ошибка минимизируется любой функцией вида
Пример 2. Рассмотрим случай, когда Y — двумерный случайный вектор. . Тогда ясно
но через функции это можно выразить как или или бесконечно многими другими способами. В контексте линейной регрессии это отсутствие уникальности называется мультиколлинеарностью .
Условное ожидание уникально с точностью до множества нулевой меры в . Используемая мера — это мера продвижения вперед, индуцированная Y .
В первом примере мера продвижения представляет собой распределение Дирака при 1. Во втором она сосредоточена на «диагонали». , так что любое множество, не пересекающееся с ним, имеет меру 0.
Существование
[ редактировать ]Наличие минимайзера для является нетривиальным. Можно показать, что
является замкнутым подпространством гильбертова пространства . [6] По теореме о проекции Гильберта необходимое и достаточное условие быть минимизатором - это для всех в М у нас есть
- .
Другими словами, это уравнение говорит о том, что невязка ортогонален пространству M всех функций из Y .Это условие ортогональности применительно к индикаторным функциям ,используется ниже, чтобы распространить условное ожидание на случай, когда X и Y не обязательно находятся в .
Связь с регрессией
[ редактировать ]Условное математическое ожидание часто аппроксимируют в прикладной математике и статистике из-за трудностей его аналитического расчета и интерполяции. [7]
Гильбертово подпространство
определенное выше, заменяется его подмножествами путем ограничения функциональной формы g вместо разрешения какой-либо измеримой функции. Примерами этого являются регрессия дерева решений , когда g должна быть простой функцией , линейная регрессия , когда g должна быть аффинной , и т. д.
Эти обобщения условного ожидания происходят за счет многих его свойств потери .Например, пусть М — пространство всех линейных функций от Y и пусть обозначим это обобщенное условное ожидание/ проекция. Если не содержит константных функций , свойства башни не выдержит.
Важным особым случаем является случай, когда X и Y совместно нормально распределены. В этом случаеможно показать, что условное ожидание эквивалентно линейной регрессии:
для коэффициентов описано в разделе «Многомерное нормальное распределение#Условные распределения» .
Условное ожидание относительно под-σ-алгебры
[ редактировать ]
Учтите следующее:
- это вероятностное пространство .
- является случайной величиной в этом вероятностном пространстве с конечным математическим ожиданием.
- является под- σ- алгеброй .
С это суб -алгебра , функция обычно нет -измеримы, поэтому существование интегралов вида , где и это ограничение к , не может быть сформулировано в общем. Однако местные средние значения можно восстановить в с помощью условного ожидания.
Условное ожидание при X условии , обозначенный как , есть ли какой-нибудь - измеримая функция который удовлетворяет:
для каждого . [8]
Как отмечается в обсуждение, это условие эквивалентно утверждению, что остаток ортогонален индикаторным функциям :
Существование
[ редактировать ]Существование можно установить, заметив, что для является конечной мерой на непрерывен абсолютно относительно . Если это естественная инъекция из к , затем это ограничение к и это ограничение к . Более того, абсолютно непрерывен относительно , поскольку условие
подразумевает
Таким образом, мы имеем
где производные представляют собой Радона–Никодима производные меры .
Условное ожидание относительно случайной величины
[ редактировать ]Рассмотрим, помимо вышесказанного,
- Измеримое пространство , и
- Случайная величина .
Условное ожидание X при условии Y определяется применением приведенной выше конструкции к σ-алгебре, порожденной Y :
- .
По лемме Дуба-Дынкина существует функция такой, что
- .
Обсуждение
[ редактировать ]- Это неконструктивное определение; нам просто дано требуемое свойство, которому должно удовлетворять условное ожидание.
- Определение может напоминать для мероприятия но это очень разные объекты. Первый представляет собой -измеримая функция , а последний является элементом и для .
- Можно показать, что уникальность почти гарантирована : то есть версии одного и того же условного ожидания будут различаться только на множестве с нулевой вероятностью .
- σ-алгебра контролирует «детальность» кондиционирования. Условное ожидание над более тонкой (большой) σ-алгеброй сохраняет информацию о вероятностях более широкого класса событий. Условное ожидание по более грубой (меньшей) σ-алгебре усредняет большее количество событий.
Условная вероятность
[ редактировать ]Для борелевского подмножества B в , можно рассматривать совокупность случайных величин
- .
Можно показать, что они образуют ядро Маркова , т. е. почти для всех , является вероятностной мерой. [9]
закон бессознательного статистика Тогда
- .
Это показывает, что условные ожидания, как и их безусловные аналоги, представляют собой интеграции,против условной меры.
Общее определение
[ редактировать ]В целом рассмотрим:
- Вероятностное пространство .
- Банахово пространство .
- Интегрируемая по Бохнеру случайная величина .
- И суб-σ-алгебра .
Условное ожидание данный это до -nullset уникальный и интегрируемый -ценный -измеримая случайная величина удовлетворяющий
В этом случае условное ожидание иногда также обозначается в операторной записи как .
Основные свойства
[ редактировать ]Все следующие формулы следует понимать почти наверняка. σ-алгебра можно заменить случайной величиной , то есть .
- Вытягиваем независимые факторы:
- Если не зависит от , затем .
- Если не зависит от , затем . Обратите внимание, что это не обязательно так, если не зависит только от и из .
- Если независимы, независимы, не зависит от и не зависит от , затем .
- Стабильность:
- Если является -измеримо, тогда .
- В частности, для под-σ-алгебр у нас есть .
- Если Z — случайная величина, то . В самой простой форме это говорит .
- Вытягиваем известные факторы:
- Если является -измеримо, тогда .
- Если Z — случайная величина, то .
- Закон общего ожидания : . [12]
- Свойство башни:
- Для суб-σ-алгебр у нас есть .
- Особый случай восстанавливает закон полного ожидания: .
- Особым случаем является случай, когда Z является -измеримая случайная величина. Затем и таким образом .
- Свойство мартингейла Doob : вышеописанное с (что -измеримый), а также используя , дает .
- Для случайных величин у нас есть .
- Для случайных величин у нас есть .
- Для суб-σ-алгебр у нас есть .
- Линейность: у нас есть и для .
- Позитивность: если затем .
- Монотонность: Если затем .
- Монотонная сходимость : если затем .
- Доминируемая конвергенция : если и с , затем .
- Лемма Фату : если затем .
- Неравенство Йенсена : если является выпуклой функцией , то .
- Условная дисперсия : Используя условное ожидание, мы можем определить, по аналогии с определением дисперсии как среднеквадратического отклонения от среднего, условную дисперсию.
- Определение:
- Алгебраическая формула дисперсии:
- Закон полной дисперсии : .
- Сходимость по Мартингейлу : для случайной величины , имеющее конечное математическое ожидание, мы имеем , если либо является возрастающей серией суб-σ-алгебр и или если является убывающей серией под-σ-алгебр и .
- Условное ожидание как -проекция: если находятся в гильбертовом пространстве действительных интегрируемых с квадратом случайных величин (действительных случайных величин с конечным вторым моментом), тогда
- для -измеримый , у нас есть , т.е. условное ожидание в смысле L 2 ( P ) скалярное произведение ортогональной проекции из в подпространство линейное -измеримые функции. (Это позволяет определить и доказать существование условного математического ожидания на основе теоремы о проекции Гильберта .)
- картографирование является самосопряженным :
- Обусловливание — это сжимающая проекция L п пространства . Т.е., для любого p ≥ 1.
- Свойство условной независимости Дуба: [13] Если учитывая условно независимы , , затем (эквивалентно, ).
См. также
[ редактировать ]Законы вероятности
[ редактировать ]- Закон полной кумулятивности (обобщает остальные три)
- Закон общего ожидания
- Закон полной вероятности
- Закон полной дисперсии
Примечания
[ редактировать ]- ^ Колмогоров, Андрей (1933). Основные понятия расчета вероятностей (на немецком языке). Берлин: Юлиус Шпрингер. п. 46.
- Перевод: Колмогоров, Андрей (1956). Основы теории вероятностей (2-е изд.). Нью-Йорк: Челси. п. 53. ИСБН 0-8284-0023-7 . Архивировано из оригинала 14 сентября 2018 г. Проверено 14 марта 2009 г.
- ^ Окстоби, Дж. К. (1953). «Обзор: Теория меры , автор: П.Р. Халмош» (PDF) . Бык. амер. Математика. Соц . 59 (1): 89–91. дои : 10.1090/s0002-9904-1953-09662-8 .
- ^ Дж. Л. Дуб (1953). Стохастические процессы . Джон Уайли и сыновья . ISBN 0-471-52369-0 .
- ^ Олав Калленберг: Основы современной вероятности. 2. издание. Спрингер, Нью-Йорк, 2002 г., ISBN 0-387-95313-2 , с. 573.
- ^ «Вероятность – интуиция, стоящая за условным ожиданием» . Математический обмен стеками .
- ^ Брокуэлл, Питер Дж. (1991). Временные ряды: теория и методы (2-е изд.). Нью-Йорк: Springer-Verlag. ISBN 978-1-4419-0320-4 .
- ^ Хасти, Тревор. Элементы статистического обучения: интеллектуальный анализ данных, логический вывод и прогнозирование (PDF) (второе, исправленное 7-е печатное издание). Нью-Йорк. ISBN 978-0-387-84858-7 .
- ^ Биллингсли, Патрик (1995). «Раздел 34. Условное ожидание». Вероятность и мера (3-е изд.). Джон Уайли и сыновья. п. 445. ИСБН 0-471-00710-2 .
- ^ Кленке, Ахим. Теория вероятностей: комплексный курс (Второе изд.). Лондон. ISBN 978-1-4471-5361-0 .
- ^ Да Прато, Джузеппе; Забчик, Ежи (2014). Стохастические уравнения в бесконечных измерениях . Издательство Кембриджского университета. п. 26. дои : 10.1017/CBO9781107295513 . (Определение в сепарабельных банаховых пространствах)
- ^ Хитонен, Туомас; ван Нервен, Ян; Вераар, Марк; Вайс, Лутц (2016). Анализ в банаховых пространствах, Том I: Мартингалы и теория Литтлвуда-Пэли . Спрингер Чам. дои : 10.1007/978-3-319-48520-1 . (Определение в общих банаховых пространствах)
- ^ «Условное ожидание» . www.statlect.com . Проверено 11 сентября 2020 г.
- ^ Калленберг, Олав (2001). Основы современной вероятности (2-е изд.). Йорк, Пенсильвания, США: Спрингер. п. 110. ИСБН 0-387-95313-2 .
Ссылки
[ редактировать ]- Уильям Феллер , Введение в теорию вероятностей и ее приложения , том 1, 1950, стр. 223.
- Пол А. Мейер, Вероятность и потенциалы , Blaisdell Publishing Co., 1966, стр. 28.
- Гриметт, Джеффри ; Стирзакер, Дэвид (2001). Вероятность и случайные процессы (3-е изд.). Издательство Оксфордского университета. ISBN 0-19-857222-0 . , стр. 67–69
Внешние ссылки
[ редактировать ]- Ушаков, Н.Г. (2001) [1994], «Условное математическое ожидание» , Энциклопедия Математики , EMS Press