О теореме Финетти

В теории вероятностей взаимозаменяемые теорема де Финетти утверждает, что наблюдения условно независимы относительно некоторой скрытой переменной . эпистемическое вероятностей распределение Затем этой переменной можно было бы присвоить . Назван в честь Бруно де Финетти .

Для частного случая обменной последовательности случайных величин Бернулли он утверждает, что такая последовательность представляет собой « смесь » последовательностей независимых и одинаково распределенных (iid) случайных величин Бернулли.

Последовательность случайных величин называется обменной, если совместное распределение последовательности не меняется при любой перестановке индексов. В общем, хотя переменные заменяемой последовательности сами по себе лежит не являются независимыми, а только заменяемыми, в основе семейство iid случайных величин. То есть существуют лежащие в основе, обычно ненаблюдаемые, количества, которые являются iid – заменяемые последовательности представляют собой смеси iid последовательностей.

Фон

Байесовский статистик часто ищет условное распределение вероятностей случайной величины с учетом данных. Понятие взаимозаменяемости было введено де Финетти. Теорема де Финетти объясняет математическую связь между независимостью и возможностью обмена. ^{[ 1 ]}

Бесконечная последовательность

X_{1},X_{2},X_{3},\dots

случайных величин называется обменным, если для любого натурального числа n и любой конечной последовательности i ₁ , ..., i _n и любой перестановки последовательности π: { i ₁ , ..., i _n } → { i ₁ , ..., } _в ,

(X_{i_{1}},\dots ,X_{i_{n}}){\text{ and }}(X_{\pi (i_{1})},\dots ,X_{\pi (i_{n})})

оба имеют одинаковое совместное распределение вероятностей .

Если одинаково распределенная последовательность независима , то эта последовательность заменяема; однако обратное неверно — существуют заменяемые случайные величины, которые не являются статистически независимыми, например, модель урны Пойа .

Формулировка теоремы

X Случайная величина имеет распределение Бернулли , если Pr( X = 1) = p и Pr( X = 0) = 1 − p для некоторого p ∈ (0, 1).

Теорема де Финетти утверждает, что распределение вероятностей любой бесконечной заменяемой последовательности случайных величин Бернулли представляет собой « смесь » распределений вероятностей независимых и одинаково распределенных последовательностей случайных величин Бернулли. «Смесь» в этом смысле означает взвешенное среднее, но это не обязательно означает конечное или счетно-бесконечное (т. е. дискретное) взвешенное среднее: оно может быть интегралом по мере, а не суммой.

Точнее, предположим, что X ₁ , X ₂ , X ₃ , ... представляет собой бесконечную переставляемую последовательность случайных величин, распределенных по Бернулли. Тогда существуют некоторая вероятностная мера m на интервале [0, 1] и некоторая случайная величина Y такие, что

Вероятностная мера Y равна m , а
Условное распределение вероятностей всей последовательности X ₁ , X ₂ , X ₃ , ... с учетом значения Y описывается следующим образом:
- X ₁ , X ₂ , X ₃ , ... условно независимы при заданном Y , и
- Для любого i ∈ {1, 2, 3, ...} условная вероятность того, что X _i = 1, учитывая значение Y , равна Y .

Другой способ формулировки теоремы

Предполагать $X_{1},X_{2},X_{3},\ldots$ представляет собой бесконечную перестановочную последовательность случайных величин Бернулли. Затем $X_{1},X_{2},X_{3},\ldots$ условно независимы и одинаково распределены с учетом заменяемой сигма-алгебры (т. е. сигма-алгебры, состоящей из событий, измеримых по отношению к $X_{1},X_{2},\ldots$ и инвариантен относительно конечных перестановок индексов).

Пример

Вот конкретный пример. Строим последовательность

X_{1},X_{2},X_{3},\dots

случайных величин путем «смешивания» двух последовательностей iid следующим образом.

Мы предполагаем p = 2/3 с вероятностью 1/2 и p = 9/10 с вероятностью 1/2. Учитывая событие p = 2/3, условное распределение последовательности таково, что X _i независимы и одинаково распределены и X ₁ = 1 с вероятностью 2/3 и X ₁ = 0 с вероятностью 1 - 2/3. Учитывая событие p = 9/10, условное распределение последовательности таково, что X _i независимы и одинаково распределены и X ₁ = 1 с вероятностью 9/10 и X ₁ = 0 с вероятностью 1 - 9/10.

Это можно интерпретировать следующим образом: сделайте две смещенные монеты, одна с орлом с вероятностью 2/3, а другая с орлом с вероятностью 9/10. Подбросьте честную монету один раз, чтобы решить, какую монету с уклоном использовать для всех зарегистрированных бросков. Здесь «орёл» при подбрасывании i означает X _i =1.

Утверждаемая здесь независимость является условной независимостью, т. е. случайные величины Бернулли в последовательности условно независимы при условии, что p = 2/3, и условно независимы при условии, что p = 9/10. Но они не являются безусловно независимыми; они положительно коррелируют .

Учитывая сильный закон больших чисел , можно сказать, что

\lim _{n\rightarrow \infty }{\frac {X_{1}+\cdots +X_{n}}{n}}={\begin{cases}2/3&{\text{with probability }}1/2,\\9/10&{\text{with probability }}1/2.\end{cases}}

Вместо того, чтобы концентрировать вероятность 1/2 в каждой из двух точек между 0 и 1, «распределение смешивания» может представлять собой любое распределение вероятностей, поддерживаемое в интервале от 0 до 1; какой именно, зависит от совместного распределения бесконечной последовательности случайных величин Бернулли.

Определение заменяемости и формулировка теоремы также имеют смысл для последовательностей конечной длины.

X_{1},\dots ,X_{n},

но в этом случае теорема вообще не верна. Это верно, если последовательность можно расширить до заменяемой последовательности, имеющей бесконечную длину. Простейшим примером заменяемой последовательности случайных величин Бернулли, которую невозможно расширить таким образом, является последовательность, в которой X ₁ = 1 − X ₂ и X ₁ равно либо 0, либо 1, каждое из которых имеет вероятность 1/2. Эта последовательность заменяема, но не может быть расширена до заменяемой последовательности длины 3, не говоря уже о бесконечно длинной.

Расширения

Версии теоремы де Финетти для конечных перестановочных последовательностей, ^{[ 2 ]}^{[ 3 ]} и для марковских перестановочных последовательностей ^{[ 4 ]} были доказаны Диаконисом и Фридманом, а также Кернсом и Секели. Два понятия частичной заменяемости массивов, известные как раздельная и совместная заменяемость, приводят к расширению теоремы де Финетти для массивов Олдосом и Гувером. ^{[ 5 ]}

Вычислимая теорема де Финетти показывает, что если заменяемая последовательность действительных случайных величин задана компьютерной программой, то программа, выборки которой из меры смешивания могут быть автоматически восстановлены. ^{[ 6 ]}

В условиях свободной вероятности существует некоммутативное расширение теоремы де Финетти, которое характеризует некоммутативные последовательности, инвариантные относительно квантовых перестановок. ^{[ 7 ]}

Было обнаружено, что распространение теоремы де Финетти на квантовые состояния полезно для получения квантовой информации . ^{[ 8 ]}^{[ 9 ]}^{[ 10 ]} в таких темах, как квантовое распределение ключей ^{[ 11 ]} и запутывания . обнаружение ^{[ 12 ]} Многомерное расширение теоремы де Финетти можно использовать для вывода статистики Бозе – Эйнштейна из статистики классических (т.е. независимых) частиц. ^{[ 13 ]}

См. также

Ссылки

^ См. конспекты оксфордских лекций Штеффена Лауритцена http://www.stats.ox.ac.uk/~steffen/teaching/grad/definetti.pdf.
^ Диаконис, П. ; Фридман, Д. (1980). «Конечные перестановочные последовательности» . Анналы вероятности . 8 (4): 745–764. дои : 10.1214/aop/1176994663 . МР 0577313 . Збл 0434.60034 .
^ Секели, GJ ; Кернс, Дж. Г. (2006). «Теорема Де Финетти для абстрактных конечных перестановочных последовательностей». Журнал теоретической вероятности . 19 (3): 589–608. дои : 10.1007/s10959-006-0028-z . S2CID 119981020 .
^ Диаконис, П .; Фридман, Д. (1980). «Теорема Де Финетти для цепей Маркова » Анналы вероятности 8 (1): 115–130. дои : 10.1214/aop/1176994828 . МР 0556418 . Збл 0426.60064 .
^ Перси Диаконис и Сванте Янсон (2008) «Пределы графов и заменяемые случайные графы» , Rendiconti di Matematica , Ser. VII 28(1), 33–61.
^ Кэмерон Фрир и Дэниел Рой (2009) «Вычислимые заменяемые последовательности имеют вычислимые меры де Финетти» , Труды 5-й конференции по вычислимости в Европе: математическая теория и вычислительная практика , Конспекты лекций по информатике, Vol. 5635, стр. 218–231.
^ Кестлер, Клаус; Спейчер, Роланд (2009). «Некоммутативная теорема де Финетти: инвариантность относительно квантовых перестановок эквивалентна свободе с объединением». Коммун. Математика. Физ . 291 (2): 473–490. arXiv : 0807.0677 . Бибкод : 2009CMaPh.291..473K . дои : 10.1007/s00220-009-0802-8 . S2CID 115155584 .
^ Кейвс, Карлтон М.; Фукс, Кристофер А.; Шак, Рюдигер (20 августа 2002 г.). «Неизвестные квантовые состояния: квантовое представление де Финетти». Журнал математической физики . 43 (9): 4537–4559. arXiv : Quant-ph/0104088 . Бибкод : 2002JMP....43.4537C . дои : 10.1063/1.1494475 . ISSN 0022-2488 . S2CID 17416262 .
^ Дж. Баэз (2007). «Находки этой недели по математической физике (неделя 251)» . Проверено 29 апреля 2012 г.
^ Брандао, Фернандо ГСЛ; Харроу, Арам В. (1 января 2013 г.). «Квантовые теоремы де Финетти при локальных измерениях с приложениями». Материалы сорок пятого ежегодного симпозиума ACM по теории вычислений . СТОК '13. Нью-Йорк, штат Нью-Йорк, США: ACM. стр. 861–870. arXiv : 1210.6367 . дои : 10.1145/2488608.2488718 . ISBN 9781450320290 . S2CID 1772280 .
^ Реннер, Ренато (30 декабря 2005 г.). «Безопасность распределения квантовых ключей». arXiv : Quant-ph/0512258 .
^ Доэрти, Эндрю С.; Паррило, Пабло А.; Спедальери, Федерико М. (1 января 2005 г.). «Обнаружение многочастной запутанности». Физический обзор А. 71 (3): 032333. arXiv : quant-ph/0407143 . Бибкод : 2005PhRvA..71c2333D . дои : 10.1103/PhysRevA.71.032333 . S2CID 44241800 .
^ Бах, А.; Бланк, Х.; Франке, Х. (1985). «Статистика Бозе-Эйнштейна, полученная на основе статистики классических частиц». Lettere al Nuovo Cimento . 43 (4): 195–198. дои : 10.1007/BF02746978 . S2CID 121413539 .

Внешние ссылки

Аккарди, Л. (2001) [1994], «Теорема Де Финетти» , Энциклопедия математики , EMS Press
Что такого крутого в теореме о представлении Де Финетти?
Теория Де Финетти в n Lab

[1] См. конспекты оксфордских лекций Штеффена Лауритцена http://www.stats.ox.ac.uk/~steffen/teaching/grad/definetti.pdf.

[2] Диаконис, П. ; Фридман, Д. (1980). «Конечные перестановочные последовательности» . Анналы вероятности . 8 (4): 745–764. дои : 10.1214/aop/1176994663 . МР 0577313 . Збл 0434.60034 .

[3] Секели, GJ ; Кернс, Дж. Г. (2006). «Теорема Де Финетти для абстрактных конечных перестановочных последовательностей». Журнал теоретической вероятности . 19 (3): 589–608. дои : 10.1007/s10959-006-0028-z . S2CID 119981020 .

[4] Диаконис, П .; Фридман, Д. (1980). «Теорема Де Финетти для цепей Маркова » Анналы вероятности 8 (1): 115–130. дои : 10.1214/aop/1176994828 . МР 0556418 . Збл 0426.60064 .

[5] Перси Диаконис и Сванте Янсон (2008) «Пределы графов и заменяемые случайные графы» , Rendiconti di Matematica , Ser. VII 28(1), 33–61.

[6] Кэмерон Фрир и Дэниел Рой (2009) «Вычислимые заменяемые последовательности имеют вычислимые меры де Финетти» , Труды 5-й конференции по вычислимости в Европе: математическая теория и вычислительная практика , Конспекты лекций по информатике, Vol. 5635, стр. 218–231.

[7] Кестлер, Клаус; Спейчер, Роланд (2009). «Некоммутативная теорема де Финетти: инвариантность относительно квантовых перестановок эквивалентна свободе с объединением». Коммун. Математика. Физ . 291 (2): 473–490. arXiv : 0807.0677 . Бибкод : 2009CMaPh.291..473K . дои : 10.1007/s00220-009-0802-8 . S2CID 115155584 .

[8] Кейвс, Карлтон М.; Фукс, Кристофер А.; Шак, Рюдигер (20 августа 2002 г.). «Неизвестные квантовые состояния: квантовое представление де Финетти». Журнал математической физики . 43 (9): 4537–4559. arXiv : Quant-ph/0104088 . Бибкод : 2002JMP....43.4537C . дои : 10.1063/1.1494475 . ISSN 0022-2488 . S2CID 17416262 .

[9] Дж. Баэз (2007). «Находки этой недели по математической физике (неделя 251)» . Проверено 29 апреля 2012 г.

[10] Брандао, Фернандо ГСЛ; Харроу, Арам В. (1 января 2013 г.). «Квантовые теоремы де Финетти при локальных измерениях с приложениями». Материалы сорок пятого ежегодного симпозиума ACM по теории вычислений . СТОК '13. Нью-Йорк, штат Нью-Йорк, США: ACM. стр. 861–870. arXiv : 1210.6367 . дои : 10.1145/2488608.2488718 . ISBN 9781450320290 . S2CID 1772280 .

[11] Реннер, Ренато (30 декабря 2005 г.). «Безопасность распределения квантовых ключей». arXiv : Quant-ph/0512258 .

[12] Доэрти, Эндрю С.; Паррило, Пабло А.; Спедальери, Федерико М. (1 января 2005 г.). «Обнаружение многочастной запутанности». Физический обзор А. 71 (3): 032333. arXiv : quant-ph/0407143 . Бибкод : 2005PhRvA..71c2333D . дои : 10.1103/PhysRevA.71.032333 . S2CID 44241800 .

[13] Бах, А.; Бланк, Х.; Франке, Х. (1985). «Статистика Бозе-Эйнштейна, полученная на основе статистики классических частиц». Lettere al Nuovo Cimento . 43 (4): 195–198. дои : 10.1007/BF02746978 . S2CID 121413539 .

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 9 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 13 ]