Модель урны для пеленания

В статистике модель урны Пойи (также известная как схема урны Пойи или просто урна Пойи ), названная в честь Джорджа Пойа , представляет собой семейство моделей урн , которые можно использовать для интерпретации многих часто используемых статистических моделей .

Модель представляет интересующие объекты (такие как атомы, люди, автомобили и т. д.) в виде цветных шаров в урне . В базовой модели урны Поля экспериментатор помещает x белых и y в урну черных шаров. На каждом этапе из урны равномерно и случайным образом вынимают один шар и наблюдают за его цветом; Затем его возвращают в урну, и в урну добавляется еще один шар того же цвета.

Если по случайной случайности в первых нескольких розыгрышах будет вытянуто больше черных шаров, чем белых, это повысит вероятность того, что позже будет вытянуто больше черных шаров. Аналогично и с белыми шарами. Таким образом, урна обладает свойством самоусиления (« богатые становятся еще богаче »). Это противоположность выборке без замены : каждый раз, когда наблюдается определенное значение, вероятность его повторного наблюдения снижается, тогда как в модели урны Пойа наблюдаемое значение с большей вероятностью будет наблюдаться снова. В модели урны Пойа последовательные акты измерения с течением времени оказывают все меньше и меньше влияния на будущие измерения, тогда как при отборе проб без замены верно обратное: после определенного количества измерений определенного значения это значение больше никогда не будет видно. .

Он также отличается от отбора проб с заменой, когда шар возвращается в урну, но без добавления новых шаров. В этом случае нет ни самоусиления, ни антисамоусиления.

Основные результаты

Интересными вопросами являются эволюция популяции урн и последовательность цветов вытаскиваемых шаров.

После $n$ вытягивает, вероятность того, что в урне окажется $(x+n_{1})$ белые шарики и $(y+n_{2})$ черные шары (для $0\leq n_{1},n_{2}\leq n\,\,,n_{1}+n_{2}=n$ ) является ${\binom {n}{n_{1}}}{\frac {x^{{\bar {n}}_{1}}y^{{\bar {n}}_{2}}}{(x+y)^{\bar {n}}}}$ где верхняя черта обозначает возрастающий факториал . Это можно доказать, нарисовав треугольник Паскаля всех возможных конфигураций.

В частности, начиная с одного белого и одного черного шара (т. е. $x=y=1$ ) вероятность иметь любое число $1\leq n_{1}+1\leq n+1$ белых шаров в урне после $n$ рисует то же самое, ${\frac {1}{n+1}}$ .

В более общем смысле, если урна начинается с $a_{i}$ цветные шарики $i$ , с $i=1,2,...,k$ , затем после $n$ вытягивает, вероятность того, что в урне окажется $(a_{i}+n_{i})$ цветные шарики $i$ является ${\binom {n}{n_{1},\cdots ,n_{k}}}{\frac {\prod _{i=1}^{k}a_{i}^{{\bar {n}}_{i}}}{(\sum _{i}a_{i})^{\bar {n}}}}$ где мы используем полиномиальный коэффициент .

При условии, что в урне окажется $(a_{i}+n_{i})$ цветные шарики $i$ после $n$ рисует, есть ${\binom {n}{n_{1},\cdots ,n_{k}}}$ разные траектории, которые могли привести к такому конечному состоянию. Условная вероятность каждой траектории одинакова: ${\binom {n}{n_{1},\cdots ,n_{k}}}^{-1}$ .

Интерпретация

Одна из причин интереса к этой конкретной, довольно сложной модели урны (т.е. с дублированием, а затем заменой каждого вытянутого шара) заключается в том, что она представляет собой пример, в котором количество (первоначально x черных и y белых) шаров в урне не скрытый, который способен аппроксимировать правильное обновление субъективных вероятностей, соответствующих другому случаю , в котором исходное содержимое урны скрыто , в то время как проводится обычный отбор проб с заменой (без дублирования шара Поля). Из-за простой схемы «отбора пробы с заменой» во втором случае содержимое урны теперь статично , но эта большая простота компенсируется предположением, что содержимое урны теперь неизвестно наблюдателю. Байесовский анализ неопределенности наблюдателя относительно первоначального содержимого урны можно провести, используя конкретный выбор (сопряженного) предварительного распределения. В частности, предположим, что наблюдатель знает, что урна содержит только одинаковые шары, каждый из которых окрашен в черный или белый цвет, но он не знает ни абсолютного числа присутствующих шаров, ни пропорции шаров каждого цвета. Предположим, что они имеют априорные убеждения об этих неизвестных: для них распределение вероятностей содержимого урны хорошо аппроксимируется некоторым априорным распределением общего числа шаров в урне и бета-априорным распределением с параметрами (x,y) для начальной доли черных, причем эта доля (для них) считается приблизительно независимой от общего числа. Тогда процесс исходов последовательности вытягиваний из урны (с заменой, но без дублирования) имеет примерно тот же закон вероятности , что и описанная выше схема Пойа, в которой от них не было скрыто действительное содержимое урны. Ошибка аппроксимации здесь связана с тем фактом, что урна, содержащая известное конечное число m шаров, конечно, не может иметь точно распределенную по бета-распределению неизвестную долю черных шаров, поскольку область возможных значений этой пропорции ограничена кратностью $1/m$ , вместо того, чтобы иметь полную свободу принимать любое значение в непрерывном единичном интервале, как это было бы с точно распределенной бета-пропорцией. Это несколько неформальное описание представлено в целях мотивации и может быть математически более точным.

Эта базовая модель урны Полиа была обобщена во многих отношениях.

Раздачи, связанные с урной Pólya

бета-биномиальное распределение : Распределение количества успешных розыгрышей (испытаний), например, количества извлечений белого шара, заданного $n$ извлекает из урны Полиа.
Бета-отрицательное биномиальное распределение : распределение количества белых шаров, наблюдаемое до тех пор, пока не будет наблюдаться фиксированное количество черных шаров.
Мультиномиальное распределение Дирихле (также известное как многомерное распределение Полиа ): распределение по количеству шаров каждого цвета, заданное $n$ извлекает из урны Полиа, где лежат $k$ разные цвета вместо двух.
Отрицательное полиномиальное распределение Дирихле : распределение по количеству шаров каждого цвета до тех пор, пока не будет наблюдаться фиксированное количество остановившихся цветных шаров.
Мартингалы , бета-биномиальное распределение и бета-распределение : пусть w и b — количество белых и черных шаров, изначально находящихся в урне, и $w+n_{w}$ количество белых шаров, находящихся в урне после n розыгрышей. Тогда последовательность значений ${\frac {w+n_{w}}{w+b+n}}$ для $n=1,2,3,\dots$ представляет собой нормализованную версию бета-биномиального распределения . Это мартингал , который сходится к бета-распределению при n → ∞.
Процесс Дирихле , Процесс китайского ресторана , Урна Хоппе : Представьте себе модифицированную схему урны Полиа следующим образом. Начнем с урны с $\alpha$ черные шарики. При извлечении шара из урны, если мы вытягиваем черный шар, положите его обратно вместе с новым шаром нового, отличного от черного цвета, случайно сгенерированным из равномерного распределения по бесконечному набору доступных цветов, и рассмотрите вновь сгенерированный цвет будет «значением» розыгрыша. В противном случае положите шар обратно вместе с другим шаром того же цвета, как в стандартной схеме урны Полиа. Цвета бесконечной последовательности розыгрышей этой модифицированной схемы урн Pólya соответствуют процессу китайского ресторана . Если вместо генерации нового цвета мы вытягиваем случайное значение из заданного базового распределения и используем это значение для обозначения шара, метки бесконечной последовательности розыгрышей следуют процессу Дирихле . ^{[ 1 ]}
Модель Морана : Модель урны, используемая для моделирования генетического дрейфа в теоретической популяционной генетике . Это очень похоже на модель урны Pólya, за исключением того, что помимо добавления нового шара того же цвета из урны удаляется случайно вытянутый шар. Таким образом, количество шаров в урне остается постоянным. Продолжение отбора проб затем приводит в конечном итоге к урне со всеми шарами одного цвета, причем вероятность каждого цвета равна доле этого цвета в исходной урне. Существуют варианты модели Морана, которые настаивают на том, чтобы шар, извлеченный из урны, отличался от шара, первоначально отобранного на этом этапе, и варианты, которые удаляют шар сразу после того, как новый шар помещен в урну, так что новый шар — один из шаров, доступных для удаления. Это имеет небольшую разницу во времени, необходимом для достижения состояния, в котором все шары имеют один и тот же цвет. Процесс Морана моделирует генетический дрейф в популяции с перекрывающимися поколениями.

Взаимозаменяемость

Урна Полии — типичный пример процесса обмена .

Предположим, у нас есть урна, содержащая $\gamma$ белые шарики и $\alpha$ черные шарики. Приступаем к случайному извлечению шаров из урны. На $i$ -й розыгрыш, мы определяем случайную величину, $X_{i}$ , к $X_{i}=1$ если шар черный и $X_{i}=0$ в противном случае. Затем мы возвращаем шар в урну вместе с дополнительным шаром того же цвета. Для данного $i$ , если у нас это есть $X_{j}=1$ для многих $j<i$ , то более вероятно, что $X_{i}=1$ , потому что в урну добавилось еще больше черных шаров. Следовательно, эти переменные не являются независимыми друг от друга.

Последовательность $X_{1},X_{2},X_{3},\dots$ однако демонстрирует более слабое свойство обмениваемости. ^{[ 2 ]} Напомним, что последовательность (конечных или бесконечных) случайных величин называется обменной , если ее совместное распределение инвариантно относительно перестановок индексов.

Чтобы показать заменяемость последовательности $X_{1},X_{2},X_{3},\dots$ , предположим, что $n$ из урны вынимают шары, а из них $n$ шарики, $k$ шары черные и $n-k$ белые. При первом розыгрыше количество шаров в урне равно $\gamma +\alpha$ ; во втором розыгрыше это $\gamma +\alpha +1$ и так далее. На $i$ -й розыгрыш, количество шаров будет $\gamma +\alpha +i-1$ . Вероятность того, что мы вытянем все $k$ сначала черные шары, а потом все $n-k$ белые шары даются $\mathbb {P} \left(X_{1}=1,\dots ,X_{k}=1,X_{k+1}=0,\dots ,X_{n}=0\right)={\frac {\alpha }{\gamma +\alpha }}\times {\frac {\alpha +1}{\gamma +\alpha +1}}\times \cdots \times {\frac {\alpha +k-1}{\gamma +\alpha +k-1}}\times {\frac {\gamma }{\gamma +\alpha +k}}\times {\frac {\gamma +1}{\gamma +\alpha +k+1}}\times \cdots \times {\frac {\gamma +n-k-1}{\gamma +\alpha +n-1}}$

Теперь мы должны показать, что если поменять порядок черных и белых шаров, вероятность не изменится. Как и в приведенном выше выражении, даже после перестановки розыгрышей $i$ знаменатель всегда будет $\gamma +\alpha +i-1$ , поскольку это количество шаров в урне в этом раунде.

Если мы увидим $j$ -й черный шар в раунде $t$ , вероятность $X_{t}=1$ будет равен ${\frac {\alpha +j-1}{\gamma +\alpha +t-1}}$ , т.е. числитель будет равен $\alpha +j-1$ . Используя те же аргументы, мы можем вычислить вероятность для белых шаров. Следовательно, для любой последовательности $x_{1},x_{2},x_{3},\dots$ в котором $1$ происходит $k$ раз и $0$ происходит $n-k$ раз (т.е. последовательность с $k$ черные шары и $n-k$ белые шары, вытянутые в некотором порядке) итоговая вероятность будет равна следующему выражению, где мы воспользовались коммутативностью умножения в числителе:

${\begin{aligned}\mathbb {P} (X_{1}=x_{1},X_{2}=x_{2},...,X_{n}=x_{n})&={\frac {\prod _{i=1}^{k}\left(\alpha +i-1\right)\times \prod _{i=1}^{n-k}\left(\gamma +i-1\right)}{\prod _{i=1}^{n}\left(\gamma +\alpha +i-1\right)}}\\&={\frac {\left(\alpha +k-1\right)!\times \left(\gamma +n-k-1\right)!\times \left(\alpha +\gamma -1\right)!}{\left(\alpha -1\right)!\times \left(\gamma -1\right)!\left(\alpha +\gamma +n-1\right)!}}\end{aligned}}$

Эта вероятность не связана с порядком появления черных и белых шаров и зависит только от общего количества белых шаров и общего количества черных шаров. ^{[ 2 ]}

Согласно теореме Де Финетти , должно существовать уникальное априорное распределение, такое, что совместное распределение наблюдения последовательности представляет собой байесовскую смесь вероятностей Бернулли. Можно показать, что это априорное распределение является бета-распределением с параметрами $\beta \left(\cdot ;\,\alpha ,\,\gamma \right)$ . В теореме Де Финетти, если заменить $\pi (\cdot )$ с $\beta \left(\cdot ;\,\alpha ,\,\gamma \right)$ , то получим предыдущее уравнение: ^{[ 2 ]}

${\begin{aligned}p(X_{1}=x_{1},X_{2}=x_{2},...,X_{n}=x_{n})&=\int \theta ^{\left({\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n-{\sum _{i=1}^{n}x_{i}}\right)}\,\beta \left(\theta ;\alpha ,\,\gamma \right)d\left(\theta \right)\\&=\int \theta ^{\left({\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n-{\sum _{i=1}^{n}x_{i}}\right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}\theta ^{\alpha -1}(1-\theta )^{\gamma -1}d\left(\theta \right)\\&=\int \theta ^{\left({\alpha -1+\sum _{i=1}^{n}x_{i}}\right)}\times \left(1-\theta \right)^{\left(n+\gamma -1-{\sum _{i=1}^{n}x_{i}}\right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}d\left(\theta \right)\\&=\int \theta ^{\left({\alpha +k-1}\right)}\times \left(1-\theta \right)^{\left(n-k-1+\gamma \right)}\,{\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}d\left(\theta \right)\\&={\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}\int \theta ^{\left({\alpha +k-1}\right)}\times \left(1-\theta \right)^{\left(n-k+\gamma -1\right)}\,d\left(\theta \right)\\&={\dfrac {(\alpha +\gamma -1)!}{(\alpha -1)!\,(\gamma -1)!}}{\dfrac {\Gamma (\gamma +n-k)\Gamma (\alpha +k)}{\Gamma (\alpha +\gamma +n)}}\\&={\dfrac {\left(\alpha +k-1\right)!\times \left(\gamma +n-k-1\right)!\times \left(\alpha +\gamma -1\right)!}{\left(\alpha -1\right)!\times \left(\gamma -1\right)!\left(\alpha +\gamma +n-1\right)!}}\end{aligned}}$

В этом уравнении $k=\sum _{i=1}^{n}x_{i}$ .

См. также

Ссылки

^ Хоппе, Фред (1984). «Урны в стиле Полиа и формула отбора проб Юэнсов». Журнал математической биологии . 20:91 . дои : 10.1007/BF00275863 . hdl : 2027.42/46944 . S2CID 122994288 .
^ Перейти обратно: ^а ^б ^с Хоппе, Фред М. (1984). «Поляподобные урны и формула отбора проб Юэнса» . Журнал математической биологии . 20 (1): 91–94. дои : 10.1007/bf00275863 . hdl : 2027.42/46944 . ISSN 0303-6812 . S2CID 122994288 . ^{[ мертвая ссылка ]}

Дальнейшее чтение

Эггенбергер, Ф.; Поля, Г. (1923). «О статистике цепных операций». З. Энджью. Математика . 3 (4): 2379–289. дои : 10.1002/замм.19230030407 .
Аладжаджи, Ф.; Фуджа, Т. (1994). «Канал связи, созданный по образцу заражения». Транзакции IEEE по теории информации . 40 : 2035–2041. дои : 10.1109/18.340476 . hdl : 1903/5422 .
Банерджи, А.; Бурлина, П.; Аладжаджи, Ф. (1999). «Сегментация изображений и маркировка с использованием модели урны Пойя». Транзакции IEEE при обработке изображений . 8 (9): 1243–1253. дои : 10.1109/83.784436 .

Библиография

Н.Л. Джонсон и С.Коц, (1977) «Модели урн и их применение». Джон Уайли.
Хосам Махмуд, (2008) «Модели урн Pólya». Чепмен и Холл/CRC. ISBN 978-1420059830 .

[1] Хоппе, Фред (1984). «Урны в стиле Полиа и формула отбора проб Юэнсов». Журнал математической биологии . 20:91 . дои : 10.1007/BF00275863 . hdl : 2027.42/46944 . S2CID 122994288 .

[:022-2] Перейти обратно: ^а ^б ^с Хоппе, Фред М. (1984). «Поляподобные урны и формула отбора проб Юэнса» . Журнал математической биологии . 20 (1): 91–94. дои : 10.1007/bf00275863 . hdl : 2027.42/46944 . ISSN 0303-6812 . S2CID 122994288 . ^{[ мертвая ссылка ]}

[ 1 ]

[ 2 ]