Теорема Байеса

«Правило Байеса» перенаправляется сюда. Чтобы узнать о концепции теории принятия решений, см. Оценка Байеса .

Теорема Байеса (альтернативно закон Байеса или правило Байеса , в честь Томаса Байеса ) дает математическое правило для инвертирования условных вероятностей , позволяющее нам найти вероятность причины с учетом ее следствия. Например, если известно, что риск развития проблем со здоровьем увеличивается с возрастом, теорема Байеса позволяет более точно оценить риск для человека известного возраста, обуславливая его относительно его возраста, а не предполагая, что человек характерен для населения в целом. , необходимо учитывать как распространенность заболевания в данной популяции, так и частоту ошибок теста на инфекционные заболевания Согласно закону Байеса, чтобы правильно оценить значение положительного результата теста и избежать ошибки базовой ставки .

Одним из многих применений теоремы Байеса является байесовский вывод , особый подход к статистическому выводу , где он используется для инвертирования вероятности наблюдений при заданной конфигурации модели (т. е. функции правдоподобия ) для получения вероятности заданной конфигурации модели. наблюдения (т.е. апостериорная вероятность ).

История

Теорема Байеса названа в честь преподобного Томаса Байеса ( / b eɪ z / ), также статистика и философа. Байес использовал условную вероятность, чтобы создать алгоритм (его Предложение 9), который использует доказательства для расчета пределов неизвестного параметра. Его работа была опубликована в 1763 году под названием «Очерк решения проблемы учения о шансах» . Байес изучал, как вычислить распределение вероятностного параметра биномиального распределения (в современной терминологии). После смерти Байеса его семья передала его бумаги другу, министру, философу и математику Ричарду Прайсу .

За два года Ричард Прайс значительно отредактировал неопубликованную рукопись, прежде чем отправить ее другу, который прочитал ее вслух в Королевском обществе 23 декабря 1763 года. Цена изменена Основная работа Байеса «Очерк решения проблемы в учении о шансах» (1763), опубликованная в журнале «Philosophical Transactions» , и содержит теорему Байеса. Прайс написал введение к статье, в котором представлены некоторые философские основы байесовской статистики , и выбрал одно из двух решений, предложенных Байесом. В 1765 году Прайс был избран членом Королевского общества в знак признания его работы над наследием Байеса. 27 апреля письмо, отправленное его другу Бенджамину Франклину, было зачитано в Королевском обществе, а затем опубликовано, где Прайс применяет эту работу к населению и расчету «пожизненной ренты».

Независимо от Байеса, Пьер-Симон Лаплас в 1774 году, а позже в своей «Аналитической теории вероятностей» 1812 года использовал условную вероятность, чтобы сформулировать связь обновленной апостериорной вероятности с априорной вероятностью при наличии доказательств. Он воспроизвел и расширил результаты Байеса в 1774 году, очевидно, не зная о работах Байеса. Байесовская интерпретация вероятности была разработана главным образом Лапласом.

Примерно 200 лет спустя сэр Гарольд Джеффрис поставил алгоритм Байеса и формулировку Лапласа на аксиоматическую основу, написав в книге 1973 года, что теорема Байеса «является для теории вероятностей тем же, чем теорема Пифагора является для геометрии».

Стивен Стиглер использовал байесовский аргумент, чтобы прийти к выводу, что теорема Байеса была открыта Николасом Сондерсоном , слепым английским математиком, незадолго до Байеса; однако эта интерпретация оспаривается. Мартин Хупер и Шэрон МакГрейн утверждали, что Ричарда Прайса вклад был существенным:

По современным меркам нам следует обратиться к правилу Байеса-Прайса. Прайс обнаружил работу Байеса, осознал ее важность, исправил ее, внес свой вклад в статью и нашел ей применение. Современная традиция использовать только имя Байеса несправедлива, но настолько укоренилась, что все остальное не имеет смысла.

Формулировка теоремы

Теорема Байеса математически выражается следующим уравнением:

$P(A\vert B)={\frac {P(B\vert A)P(A)}{P(B)}}$

где $A$ и $B$ это события и $P(B)\neq 0$.

• $P(A\vert B)$ это условная вероятность : вероятность события $A$ происходит с учетом того, что $B$ это правда. Ее еще называют вероятностью апостериорной $A$ данный $B$.
• $P(B\vert A)$ также является условной вероятностью: вероятность события $B$ происходит с учетом того, что $A$ это правда. также можно интерпретировать как вероятность Это $A$ с учетом фиксированного $B$ потому что $P(B\vert A)=L(A\vert B)$.
• $P(A)$ и $P(B)$ это вероятности наблюдения $A$ и $B$ соответственно без каких-либо условий; они известны как априорная вероятность и предельная вероятность .

Доказательство

Наглядное доказательство теоремы Байеса

Для мероприятий

Теорему Байеса можно вывести из определения условной вероятности :

$P(A\vert B)={\frac {P(A\cap B)}{P(B)}},{\text{ if }}P(B)\neq 0,$

где $P(A\cap B)$ — это вероятность того, что и А, и Б являются истинными. Сходным образом,

$P(B\vert A)={\frac {P(A\cap B)}{P(A)}},{\text{ if }}P(A)\neq 0.$

Решение для $P(A\cap B)$ и подставив в приведенное выше выражение $P(A\vert B)$ дает теорему Байеса:

$P(A\vert B)={\frac {P(B\vert A)P(A)}{P(B)}},{\text{ if }}P(B)\neq 0.$

Для непрерывных случайных величин

Для двух непрерывных случайных величин X и Y теорема Байеса может быть получена аналогичным образом из определения условной плотности :

$f_{X\vert Y=y}(x)={\frac {f_{X,Y}(x,y)}{f_{Y}(y)}}$

$f_{Y\vert X=x}(y)={\frac {f_{X,Y}(x,y)}{f_{X}(x)}}$

Поэтому,

$f_{X\vert Y=y}(x)={\frac {f_{Y\vert X=x}(y)f_{X}(x)}{f_{Y}(y)}}.$

Общий случай

Позволять $P_{Y}^{x}$ быть условным распределением $Y$ данный $X=x$ и пусть $P_{X}$ быть распределением $X$. Тогда совместное распределение $P_{X,Y}(dx,dy)=P_{Y}^{x}(dy)P_{X}(dx)$. Условное распределение $P_{X}^{y}$ из $X$ данный $Y=y$ затем определяется

$$P_{X}^{y}(A)=E(1_{A}(X)|Y=y)$$

Существование и единственность необходимого условного ожидания является следствием теоремы Радона–Никодима . Это было сформулировано Колмогоровым в его знаменитой книге 1933 года. Колмогоров подчеркивает важность условной вероятности, написав в предисловии: «Я хочу обратить внимание на... и особенно на теорию условных вероятностей и условных ожиданий...». Теорема Байеса определяет апостериорное распределение на основе предварительного распределения. Уникальность требует предположений о непрерывности. Теорему Байеса можно обобщить, включив в нее неправильные априорные распределения, такие как равномерное распределение на действительной прямой. Современные методы Монте-Карло для цепей Маркова повысили важность теоремы Байеса, включая случаи с неправильными априорными значениями.

Примеры

Рекреационная математика

Правило Байеса и вычисление условных вероятностей обеспечивают метод решения ряда популярных головоломок, таких как проблема трёх узников , проблема Монти Холла , проблема двух детей и проблема двух конвертов .

Тестирование на наркотики

Предположим, что конкретный тест на то, употреблял ли кто-то каннабис, имеет чувствительность 90% , что означает, что истинно положительный уровень (TPR) = 0,90. Таким образом, это приводит к 90% истинно положительных результатов (правильная идентификация употребления наркотиков) для потребителей каннабиса.

теста также составляет 80 % Специфичность , что означает, что процент истинно отрицательных результатов (TNR) = 0,80. Таким образом, тест правильно определяет 80% случаев неиспользования для непользователей, но также генерирует 20% ложноположительных результатов или уровень ложноположительных результатов (FPR) = 0,20 для непользователей.

0,05 Если предположить, что распространенность составляет , то есть 5% людей употребляют каннабис, какова вероятность того , что случайный человек с положительным результатом теста действительно является потребителем каннабиса?

Положительная прогностическая ценность (PPV) теста — это доля людей, которые действительно имеют положительный результат, среди всех тех, кто дал положительный результат теста, и ее можно рассчитать на основе выборки как:

PPV = истинно положительный результат/положительный результат теста

Если известны чувствительность, специфичность и распространенность, PPV можно рассчитать с помощью теоремы Байеса. Позволять $P({\text{User}}\vert {\text{Positive}})$ означают «вероятность того, что кто-то употребляет каннабис при условии, что его тест положительный», что подразумевается под PPV. Мы можем написать:

${\begin{aligned}P({\text{User}}\vert {\text{Positive}})&={\frac {P({\text{Positive}}\vert {\text{User}})P({\text{User}})}{P({\text{Positive}})}}\\&={\frac {P({\text{Positive}}\vert {\text{User}})P({\text{User}})}{P({\text{Positive}}\vert {\text{User}})P({\text{User}})+P({\text{Positive}}\vert {\text{Non-user}})P({\text{Non-user}})}}\\[8pt]&={\frac {0.90\times 0.05}{0.90\times 0.05+0.20\times 0.95}}={\frac {0.045}{0.045+0.19}}\approx 19\%\end{aligned}}$

Тот факт, что $P({\text{Positive}})=P({\text{Positive}}\vert {\text{User}})P({\text{User}})+P({\text{Positive}}\vert {\text{Non-user}})P({\text{Non-user}})$ является прямым применением Закона полной вероятности . В этом случае говорится, что вероятность того, что кто-то даст положительный результат теста, равна вероятности того, что пользователь даст положительный результат, умноженной на вероятность того, что он является пользователем, плюс вероятность того, что непользователь получит положительный результат теста, умноженной на вероятность того, что он не является пользователем. . Это верно, поскольку классификации «пользователь» и «непользователь» образуют раздел множества , а именно множества людей, которые проходят тест на наркотики. В сочетании с определением условной вероятности это приводит к приведенному выше утверждению.

Другими словами, даже если у кого-то положительный результат теста, вероятность того, что он употребляет каннабис, составляет всего 19% — это потому, что в этой группе только 5% людей являются потребителями, а большинство положительных результатов — это ложные срабатывания, исходящие от остальных 95%. .

Использование поля частоты для отображения $P({\text{User}}\vert {\text{Positive}})$ визуально путем сравнения заштрихованных участков. Обратите внимание, насколько мала розовая область истинных срабатываний по сравнению с синей областью ложных срабатываний.

Если протестировано 1000 человек:

• 950 человек не являются пользователями, и 190 из них дают ложноположительный результат (0,20 × 950)
• 50 из них являются пользователями и 45 дают истинно положительный результат (0,90 × 50)

Таким образом, на 1000 человек приходится 235 положительных тестов, из которых только 45 являются настоящими потребителями наркотиков, или около 19%.

Чувствительность или специфичность

Важность специфичности можно увидеть, показав, что даже если чувствительность повышается до 100%, а специфичность остается на уровне 80%, вероятность того, что кто-то с положительным результатом теста действительно является потребителем каннабиса, возрастает только с 19% до 21%, но если чувствительность при 90% и повышении специфичности до 95% вероятность возрастает до 49%.

Тест Действительный	Позитивный	Отрицательный		Общий
Пользователь	45	5		50
Непользователь	190	760		950
Общий	235	765	1000
Чувствительность 90 %, специфичность 80 %, PPV = 45/235 ≈ 19 %.

Тест Действительный	Позитивный	Отрицательный		Общий
Пользователь	50	0		50
Непользователь	190	760		950
Общий	240	760	1000
100% чувствительность, 80% специфичность, PPV=50/240 ≈ 21%

Тест Действительный	Позитивный	Отрицательный		Общий
Пользователь	45	5		50
Непользователь	47	903		950
Общий	92	908	1000
Чувствительность 90 %, специфичность 95 %, PPV = 45/92 ≈ 49 %.

Уровень рака

Даже если у 100% пациентов с раком поджелудочной железы имеется определенный симптом, наличие такого же симптома у кого-то не означает, что у этого человека есть 100% вероятность заболеть раком поджелудочной железы. Если предположить, что уровень заболеваемости раком поджелудочной железы составляет 1/100 000, в то время как 10 из 99 999 здоровых людей во всем мире имеют одинаковые симптомы, вероятность заболевания раком поджелудочной железы с учетом этих симптомов составляет всего 9,1%, а остальные 90,9% могут быть «ложноположительными» (ложноположительные результаты). то есть ошибочно говорят, что у него рак; термин «положительный результат» сбивает с толку, когда, как здесь, тест дает плохие новости).

В зависимости от уровня заболеваемости в следующей таблице представлены соответствующие цифры на 100 000 человек.

Симптом Рак	Да	Нет		Общий
Да	1	0		1
Нет	10	99989		99999
Общий	11	99989	100000

Затем это можно использовать для расчета вероятности заболевания раком при наличии следующих симптомов:

${\begin{aligned}P({\text{Cancer}}|{\text{Symptoms}})&={\frac {P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})}{P({\text{Symptoms}})}}\\&={\frac {P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})}{P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})+P({\text{Symptoms}}|{\text{Non-Cancer}})P({\text{Non-Cancer}})}}\\[8pt]&={\frac {1\times 0.00001}{1\times 0.00001+(10/99999)\times 0.99999}}={\frac {1}{11}}\approx 9.1\%\end{aligned}}$

Уровень бракованного товара

Состояние Машина	Дефектный	Безупречный		Общий
А	10	190		200
Б	9	291		300
С	5	495		500
Общий	24	976	1000

Фабрика производит продукцию с использованием трех машин — A, B и C, на долю которых приходится 20%, 30% и 50% ее продукции соответственно. Из изделий, произведенных машиной А, 5% являются бракованными; Аналогично, 3% изделий машины B и 1% машин C являются дефектными. Если случайно выбранный предмет окажется бракованным, какова вероятность того, что он был изготовлен машиной С?

И снова ответ можно получить без использования формулы, применив условия к гипотетическому числу случаев. Например, если завод производит 1000 изделий, 200 будет произведено машиной А, 300 — машиной Б и 500 — машиной С. Машина А будет производить 5% × 200 = 10 дефектных изделий, машина Б — 3% × 300 = 9. , а машина C 1% × 500 = 5, всего 24. Таким образом, вероятность того, что случайно выбранная бракованная деталь была произведена машиной C, равна 5/24 (~20,83%).

Эту проблему также можно решить с помощью теоремы Байеса: пусть X _i обозначает событие, когда случайно выбранный предмет был изготовлен i ^й машина (для i = A,B,C). Пусть Y обозначает событие, когда случайно выбранный товар оказывается бракованным. Далее нам предоставляется следующая информация:

$P(X_{A})=0.2,\quad P(X_{B})=0.3,\quad P(X_{C})=0.5.$

Если деталь изготовлена ​​на первом станке, то вероятность того, что она бракованная, равна 0,05; то есть P ( Y | X _A ) = 0,05. В целом у нас есть

$P(Y|X_{A})=0.05,\quad P(Y|X_{B})=0.03,\quad P(Y|X_{C})=0.01.$

Чтобы ответить на исходный вопрос, мы сначала находим P (Y). Это можно сделать следующим образом:

$P(Y)=\sum _{i}P(Y|X_{i})P(X_{i})=(0.05)(0.2)+(0.03)(0.3)+(0.01)(0.5)=0.024.$

Следовательно, 2,4% от общего объема выпуска являются бракованными.

Нам дано, что Y произошло, и мы хотим вычислить условноевероятность X _C . По теореме Байеса

$P(X_{C}|Y)={\frac {P(Y|X_{C})P(X_{C})}{P(Y)}}={\frac {0.01\cdot 0.50}{0.024}}={\frac {5}{24}}$

Учитывая, что деталь бракованная, вероятность того, что она была изготовлена ​​на машине С, равна 5/24. Хотя машина С производит половину всей продукции, она производит гораздо меньшую долю бракованных изделий. Следовательно, знание того, что выбранный элемент был дефектным, позволяет нам заменить априорную вероятность P ( X _C ) = 1/2 меньшей апостериорной вероятностью P (X _C | Y ) = 5/24.

Интерпретации

Геометрическая визуализация теоремы Байеса с использованием астронавтов, которые могут быть подозрительными (с бровями) и могут быть убийцами (с кинжалами).

Интерпретация правила Байеса зависит от интерпретации вероятности, приписываемой этим терминам. Ниже описаны две преобладающие интерпретации.

Байесовская интерпретация

В байесовской (или эпистемологической) интерпретации вероятность измеряет «степень веры». Теорема Байеса связывает степень веры в утверждение до и после учета доказательств. Например, предположим, что с 50% уверенностью считается, что монета выпадет орел в два раза чаще, чем решка. Если монету подбросить несколько раз и наблюдать за результатами, эта степень веры, вероятно, повысится или упадет, но может даже остаться прежней, в зависимости от результатов. Для предложения A и доказательства B ,

• P ( A ), априор является начальной степенью веры в A. ,
• P ( A | B ), апостериорный показатель , представляет собой степень уверенности после включения новостей в то, что B является правдой.
• частное ⁠ P ( B | A ) / P ( B ) ⁠ представляет поддержку B предоставляемую A. ,

Дополнительную информацию о применении теоремы Байеса в байесовской интерпретации вероятности см. в разделе «Байесовский вывод» .

Частотная интерпретация

Иллюстрация частотной интерпретации с помощью древовидных диаграмм

В частотной интерпретации вероятность измеряет «долю результатов». Например, предположим, что эксперимент проводится много раз. P ( A ) — это доля результатов со свойством ( априорным), а P ( B ) — это доля со свойством B. A P ( B | A ) — это доля результатов со свойством B среди результатов со свойством A , а P ( A | B ) — это доля результатов со свойством A среди результатов со свойством A (апостериорный).

Роль теоремы Байеса лучше всего можно представить с помощью древовидных диаграмм. Две диаграммы делят одни и те же результаты на A и B в противоположном порядке, чтобы получить обратные вероятности. Теорема Байеса связывает различные разделения.

Пример

Древовидная диаграмма, иллюстрирующая пример жука. Р, С, П и ${\overline {P}}$ являются ли события редкими, обычными, закономерностями и отсутствием закономерности. Проценты в скобках рассчитаны. Даны три независимых значения, поэтому можно вычислить обратное дерево.

Энтомолог замечает существо, судя по рисунку на его спине, которое может быть подвидом жука редким . Полные 98% представителей редкого подвида имеют этот образец, поэтому P (Шаблон | Редкий) = 98%. Только 5% представителей общего подвида имеют этот рисунок. Редкий подвид составляет 0,1% от общей численности популяции. Насколько вероятно, что жук с рисунком будет редким: что такое P (Редкий | Образец)?

Из расширенной формы теоремы Байеса (поскольку любой жук либо редкий, либо обычный):

${\begin{aligned}P({\text{Rare}}\vert {\text{Pattern}})&={\frac {P({\text{Pattern}}\vert {\text{Rare}})P({\text{Rare}})}{P({\text{Pattern}})}}\\[8pt]&={\frac {P({\text{Pattern}}\vert {\text{Rare}})P({\text{Rare}})}{P({\text{Pattern}}\vert {\text{Rare}})P({\text{Rare}})+P({\text{Pattern}}\vert {\text{Common}})P({\text{Common}})}}\\[8pt]&={\frac {0.98\times 0.001}{0.98\times 0.001+0.05\times 0.999}}\\[8pt]&\approx 1.9\%\end{aligned}}$

Формы

События

Простая форма

Для событий A и B при условии, что P ( B ) ≠ 0,

$P(A|B)={\frac {P(B|A)P(A)}{P(B)}}.$

Во многих приложениях, например в байесовском выводе , событие B мы хотим рассмотреть влияние его наблюдения на нашу веру в различные возможные события A. фиксируется в обсуждении, и В такой ситуации знаменатель последнего выражения, вероятность данного свидетельства B , фиксирована; мы хотим изменить A . Теорема Байеса затем показывает, что апостериорные вероятности пропорциональны числителю , поэтому последнее уравнение принимает вид:

$P(A|B)\propto P(A)\cdot P(B|A).$

Другими словами, апостериорная вероятность пропорциональна предыдущему времени.

Если события A ₁ , A ₂ , ... являются взаимоисключающими и исчерпывающими, т. е. одно из них обязательно произойдет, но никакие два не могут произойти вместе, мы можем определить константу пропорциональности, используя тот факт, что их вероятности должны складываться. одному. Например, для данного события A само событие A и его дополнение ¬A являются исключительными и исчерпывающими. Обозначая константу пропорциональности через c, имеем

$P(A|B)=c\cdot P(A)\cdot P(B|A){\text{ and }}P(\neg A|B)=c\cdot P(\neg A)\cdot P(B|\neg A).$

Сложив эти две формулы, мы приходим к выводу, что

$1=c\cdot (P(B|A)\cdot P(A)+P(B|\neg A)\cdot P(\neg A)),$

или

$c={\frac {1}{P(B|A)\cdot P(A)+P(B|\neg A)\cdot P(\neg A)}}={\frac {1}{P(B)}}.$

Альтернативная форма

Таблица непредвиденных обстоятельств

Фон Предложение	Б	¬B (не Б)		Общий
А	П(Б|А)⋅П(А) = Р(А|В)⋅Р(В)	Р(¬В|А)⋅Р(А) = P(A|¬B)⋅P(¬B)		П(А)
¬A (не А)	P(B|¬A)⋅P(¬A) = P(¬A|B)⋅P(B)	P(¬B|¬A)⋅P(¬A) = P(¬A|¬B)⋅P(¬B)		Р(¬А) = 1-П(А)
Общий	П(Б)	P(¬B) = 1−P(B)	1

Другая форма теоремы Байеса для двух конкурирующих утверждений или гипотез:

$P(A|B)={\frac {P(B|A)P(A)}{P(B|A)P(A)+P(B|\neg A)P(\neg A)}}.$

Для эпистемологической интерпретации:

Для предложения A и доказательств или предпосылок B :

• $P(A)$ — априорная вероятность начальная степень веры в A. ,
• $P(\neg A)$ — соответствующая начальная степень веры в не-А , в то, что А ложно, где $P(\neg A)=1-P(A)$
• $P(B|A)$ — это условная вероятность или правдоподобие, степень веры в B при условии, что утверждение A истинно.
• $P(B|\neg A)$ — это условная вероятность или правдоподобие, степень веры в B при условии, что утверждение A ложно.
• $P(A|B)$ — апостериорная вероятность вероятность A после учета B. ,

Расширенная форма

Часто для некоторого раздела { A _j } выборочного пространства пространство событий задается в терминах P ( A _j ) и P ( B | A _j ). Тогда полезно вычислить P ( B ), используя закон полной вероятности :

$P(B)=\sum _{j}P(B\cap A_{j}),$

Или (используя правило умножения условной вероятности),

$P(B)={\sum _{j}P(B|A_{j})P(A_{j})},$

$\Rightarrow P(A_{i}|B)={\frac {P(B|A_{i})P(A_{i})}{\sum \limits _{j}P(B|A_{j})P(A_{j})}}\cdot$

В особом случае, когда A — двоичная переменная :

$P(A|B)={\frac {P(B|A)P(A)}{P(B|A)P(A)+P(B|\neg A)P(\neg A)}}\cdot$

Случайные переменные

Теорема Байеса применяется к пространству событий, порожденному непрерывными случайными величинами X и Y с известными распределениями вероятностей. существует пример теоремы Байеса Для каждой точки области . На практике эти случаи можно параметризовать, записав указанные плотности вероятности функции x как и y .

Рассмотрим выборочное пространство Ω, порожденное двумя случайными величинами X и Y с известными распределениями вероятностей. В принципе, теорема Байеса применима к событиям A = { X = x } и B = { Y = y }.

$P(X{=}x|Y{=}y)={\frac {P(Y{=}y|X{=}x)P(X{=}x)}{P(Y{=}y)}}$

Однако члены становятся равными 0 в точках, где любая переменная имеет конечную плотность вероятности . Чтобы оставаться полезной, теорему Байеса можно сформулировать в терминах соответствующих плотностей (см. Вывод ).

Простая форма

Если X непрерывен, а Y дискретен,

$f_{X|Y{=}y}(x)={\frac {P(Y{=}y|X{=}x)f_{X}(x)}{P(Y{=}y)}}$

где каждый $f$ является функцией плотности.

Если X дискретен, а Y непрерывен,

$P(X{=}x|Y{=}y)={\frac {f_{Y|X{=}x}(y)P(X{=}x)}{f_{Y}(y)}}.$

Если и X, и Y непрерывны,

$f_{X|Y{=}y}(x)={\frac {f_{Y|X{=}x}(y)f_{X}(x)}{f_{Y}(y)}}.$

Расширенная форма

Способ концептуализации пространств событий, генерируемых непрерывными случайными величинами X и Y.

Непрерывное пространство событий часто концептуализируется с точки зрения числителя. Тогда полезно исключить знаменатель, используя закон полной вероятности . Для f _Y ( y ) это становится интегралом:

$f_{Y}(y)=\int _{-\infty }^{\infty }f_{Y|X=\xi }(y)f_{X}(\xi )\,d\xi .$

Правило Байеса в форме шансов

Теорема Байеса в форме шансов :

$O(A_{1}:A_{2}\vert B)=O(A_{1}:A_{2})\cdot \Lambda (A_{1}:A_{2}\vert B)$

где

$\Lambda (A_{1}:A_{2}\vert B)={\frac {P(B\vert A_{1})}{P(B\vert A_{2})}}$

называется фактором Байеса или отношением правдоподобия . Шансы между двумя событиями — это просто отношение вероятностей двух событий. Таким образом

$O(A_{1}:A_{2})={\frac {P(A_{1})}{P(A_{2})}},$

$O(A_{1}:A_{2}\vert B)={\frac {P(A_{1}\vert B)}{P(A_{2}\vert B)}},$

Таким образом, правило гласит, что апостериорные шансы — это априорные шансы, умноженные на коэффициент Байеса , или, другими словами, апостериорные шансы пропорциональны предыдущему произведению вероятности.

В частном случае, когда $A_{1}=A$ и $A_{2}=\neg A$, пишет один $O(A)=O(A:\neg A)=P(A)/(1-P(A))$и использует аналогичную аббревиатуру для фактора Байеса и условных шансов. Шансы на $A$ по определению это шансы за и против $A$. Тогда правило Байеса можно записать в сокращенной форме

$O(A\vert B)=O(A)\cdot \Lambda (A\vert B),$

или, говоря словами, апостериорные шансы на $A$ равен априорным шансам на $A$ умноженное на отношение правдоподобия для $A$ данная информация $B$. Короче говоря, апостериорные шансы равны априорным шансам, умноженным на отношение правдоподобия .

Например, если медицинский тест имеет чувствительность 90% и специфичность 91%, то положительный фактор Байеса равен $\Lambda _{+}=P({\text{True Positive}})/P({\text{False Positive}})=90\%/(100\%-91\%)=10$. Теперь, если распространенность этого заболевания составляет 9,09% и если мы примем это за априорную вероятность, то априорные шансы составят примерно 1:10. Таким образом, после получения положительного результата теста апостериорная вероятность наличия заболевания становится 1:1, что означает, что апостериорная вероятность наличия заболевания составляет 50%. Если второй тест проводится при серийном тестировании и он также оказывается положительным, то апостериорная вероятность фактического наличия заболевания становится 10:1, что означает апостериорную вероятность около 90,91%. Отрицательный фактор Байеса можно рассчитать как 91%/(100%-90%)=9,1, поэтому, если второй тест окажется отрицательным, то апостериорные шансы на самом деле иметь заболевание составляют 1:9,1, что означает апостериорная вероятность около 9,9%.

Приведенный выше пример можно понять и с помощью более точных цифр: предположим, что пациент, проходящий тест, принадлежит к группе из 1000 человек, из которых 91 человек действительно болен (распространенность 9,1%). Если все эти 1000 человек пройдут медицинское обследование, то 82 из больных получат истинно положительный результат (чувствительность 90,1%), 9 из больных получат ложноотрицательный результат ( ложноотрицательный результат 9,9%), 827 человек без заболевания получат истинно отрицательный результат (специфичность 91,0%), а 82 человека без заболевания получат ложноположительный результат (частота ложноположительных результатов 9,0%). До прохождения какого-либо теста вероятность наличия у пациента заболевания составляет 91:909. После получения положительного результата вероятность заболевания у пациента равна

${\frac {91}{909}}\times {\frac {90.1\%}{9.0\%}}={\frac {91\times 90.1\%}{909\times 9.0\%}}=1:1$

что согласуется с тем фактом, что в группе из 1000 человек имеется 82 истинных положительных результата и 82 ложных положительных результата.

Соответствие другим математическим основам

Пропозициональная логика

С использованием $P(\neg B\vert A)=1-P(B\vert A)$ дважды можно использовать теорему Байеса, чтобы также выразить $P(\neg B\vert \neg A)$ с точки зрения $P(A\vert B)$ и без отрицаний:

$P(\neg B\vert \neg A)=1-\left(1-P(A\vert B)\right){\frac {P(B)}{P(\neg A)}},$

когда $P(\neg A)=1-P(A)\neq 0$. Из этого мы можем прочитать вывод

$P(A\vert B)=1\implies P(\neg B\vert \neg A)=1$.

На словах: Если конечно $B$ подразумевает $A$, мы делаем вывод, что, конечно, $\neg A$ подразумевает $\neg B$. Где $P(B)\neq 0$, то два импликации, если они очевидны, являются эквивалентными утверждениями.В формулах вероятности условная вероятность $P(A\vert B)$ обобщает логический вывод $B\implies A$, где теперь помимо присвоения истинного или ложного значения утверждениям мы присваиваем значения вероятности. Утверждение $B\implies A$ схватывается уверенностью условного, утверждением $P(A\vert B)=1$. Связывая направления импликации, теорема Байеса представляет собой обобщение закона противопоставления , который в классической логике высказываний может быть выражен как:

$(B\implies A)\iff (\neg A\implies \neg B)$.

В этом отношении между импликациями позиции $A$ соотв. $B$ перевернуться.

Соответствующей формулой в терминах исчисления вероятностей является теорема Байеса, которая в своей расширенной форме включает априорную вероятность / базовую ставку. $a$ только $A$, выражается как:

$P(A\vert B)=P(B\vert A){\frac {a(A)}{P(B\vert A)\,a(A)+P(B\vert \neg A)\,a(\neg A)}}.$

Субъективная логика

Теорема Байеса представляет собой частный случай вывода перевернутых условных мнений в субъективной логике, выраженных как:

$(\omega _{A{\tilde {|}}B}^{S},\omega _{A{\tilde {|}}\lnot B}^{S})=(\omega _{B\vert A}^{S},\omega _{B\vert \lnot A}^{S}){\widetilde {\phi }}a_{A},$

где ${\widetilde {\phi }}$ обозначает оператор инвертирования условных мнений. Аргумент $(\omega _{B\vert A}^{S},\omega _{B\vert \lnot A}^{S})$ обозначает пару биномиальных условных мнений, данных источником $S$и аргумент $a_{A}$ обозначает априорную вероятность (она же базовая ставка ) $A$. Пара производных перевернутых условных суждений обозначается $(\omega _{A{\tilde {|}}B}^{S},\omega _{A{\tilde {|}}\lnot B}^{S})$. Условное мнение $\omega _{A\vert B}^{S}$ обобщает вероятностное условное выражение $P(A\vert B)$, т.е. помимо присвоения вероятности источнику $S$ может приписать условному утверждению любое субъективное мнение $(A\vert B)$. Биномиальное субъективное мнение $\omega _{A}^{S}$ это вера в истинность высказывания $A$ со степенью эпистемической неопределенности, как указано в источнике $S$. Каждое субъективное мнение имеет соответствующую прогнозируемую вероятность. $P(\omega _{A}^{S})$. Применение теоремы Байеса к прогнозируемым вероятностям мнений является гомоморфизмом , что означает, что теорему Байеса можно выразить через прогнозируемые вероятности мнений:

$P(\omega _{A{\tilde {|}}B}^{S})={\frac {P(\omega _{B\vert A}^{S})a(A)}{P(\omega _{B\vert A}^{S})a(A)+P(\omega _{B\vert \lnot A}^{S})a(\lnot A)}}.$

Следовательно, субъективная теорема Байеса представляет собой обобщение теоремы Байеса.

Обобщения

Теорема Байеса для трех событий

Версия теоремы Байеса для трех событий. результат добавления третьего события $C$, с $P(C)>0,$ которым обусловлены все вероятности:

$P(A\vert B\cap C)={\frac {P(B\vert A\cap C)\,P(A\vert C)}{P(B\vert C)}}$

Вывод

Использование правила цепочки

$P(A\cap B\cap C)=P(A\vert B\cap C)\,P(B\vert C)\,P(C)$

И, с другой стороны

$P(A\cap B\cap C)=P(B\cap A\cap C)=P(B\vert A\cap C)\,P(A\vert C)\,P(C)$

Желаемый результат получается путем идентификации обоих выражений и решения $P(A\vert B\cap C)$.

Использование в генетике

В генетике правило Байеса можно использовать для оценки вероятности наличия у человека определенного генотипа. Многие люди стремятся приблизительно оценить свои шансы заболеть генетическим заболеванием или вероятность того, что они являются носителями интересующего рецессивного гена. Байесовский анализ может быть проведен на основе семейного анамнеза или генетического тестирования , чтобы предсказать, разовьется ли у человека заболевание или передаст ли его своим детям. Генетическое тестирование и прогнозирование — обычная практика среди пар, которые планируют завести детей, но обеспокоены тем, что они оба могут быть носителями заболевания, особенно в сообществах с низкой генетической вариативностью.

Использование родословной для расчета вероятностей

Гипотеза	Гипотеза 1: Пациент является носителем	Гипотеза 2: Пациент не является носителем
Априорная вероятность	1/2	1/2
Условная вероятность того, что все четыре потомка не пострадают.	(1/2) ⋅ (1/2) ⋅ (1/2) ⋅ (1/2) = 1/16	Около 1
Совместная вероятность	(1/2) ⋅ (1/16) = 1/32	(1/2) ⋅ 1 = 1/2
Апостериорная вероятность	(1/32) / (1/32 + 1/2) = 1/17	(1/2) / (1/32 + 1/2) = 16/17

Пример таблицы байесовского анализа риска заболевания у женщины, основанной на знании того, что заболевание присутствует у ее братьев и сестер, но не у ее родителей или кого-либо из ее четырех детей. Основываясь исключительно на статусе братьев, сестер и родителей субъекта, она с одинаковой вероятностью может быть носителем и не носителем (эта вероятность обозначается априорной гипотезой). Однако вероятность того, что четверо сыновей субъекта не пострадают, составляет 1/16 ( 1 ⁄ 2 ⋅ 1 ⁄ 2 ⋅ 1 ⁄ 2 ⋅ 1 ⁄ 2 ), если она является носителем, около 1, если она не является носителем (это Условная Вероятность). Совместная вероятность согласовывает эти два предсказания, умножая их вместе. Последняя строка (апостериорная вероятность) рассчитывается путем деления совместной вероятности для каждой гипотезы на сумму обеих совместных вероятностей.

Использование результатов генетического теста

Родительское генетическое тестирование может обнаружить около 90% известных аллелей заболеваний у родителей, которые могут привести к носительству или пораженному статусу у их ребенка. Муковисцидоз — наследственное заболевание, вызываемое аутосомно-рецессивной мутацией гена CFTR. расположен на q-плече 7-й хромосомы.

Байесовский анализ пациентки с семейным анамнезом муковисцидоза (МВ), у которой результат теста на МВ оказался отрицательным, демонстрирующий, как этот метод использовался для определения риска рождения ребенка с МВ:

Поскольку пациентка не затронута этим заболеванием, она либо гомозиготна по аллелю дикого типа, либо гетерозиготна. Для установления априорных вероятностей используется квадрат Пеннета, основанный на знании того, что ни один из родителей не был затронут болезнью, но оба могли быть носителями:

Мать Отец	В Гомозиготный по дикой природе тип аллели (неноситель)	М Гетерозиготный (перевозчик CF)
В Гомозиготный по дикой природе тип аллели (неноситель)	WW	МВт
М Гетерозиготный (носитель CF)	МВт	ММ (пострадавшие от муковисцидоза)

Учитывая, что пациент не пострадал, есть только три возможности. Среди этих трех есть два сценария, в которых пациент является носителем мутантного аллеля. Таким образом, априорные вероятности равны 2 ⁄ 3 и 1 ⁄ 3 .

Далее пациент проходит генетическое тестирование и дает отрицательный результат на муковисцидоз. Уровень обнаружения этого теста составляет 90%, поэтому условные вероятности отрицательного результата теста равны 1/10 и 1. Наконец, совместная и апостериорная вероятности рассчитываются, как и раньше.

Гипотеза	Гипотеза 1: Пациент является носителем	Гипотеза 2: Пациент не является носителем
Априорная вероятность	2/3	1/3
Условная вероятность отрицательного теста	1/10	1
Совместная вероятность	1/15	1/3
Апостериорная вероятность	1/6	5/6

После проведения того же анализа на партнере-мужчине пациента (с отрицательным результатом теста) вероятность того, что у их ребенка будет выявлено заболевание, равна произведению соответствующих апостериорных вероятностей родителей быть носителями, умноженных на вероятность того, что два носителя произведут пораженное потомство ( 1 ⁄ 4 ).

Генетическое тестирование проводится параллельно с выявлением других факторов риска.

Байесовский анализ можно провести с использованием фенотипической информации, связанной с генетическим заболеванием, а в сочетании с генетическим тестированием этот анализ становится намного сложнее. Например, муковисцидоз можно идентифицировать у плода с помощью УЗИ, направленного на поиск эхогенного кишечника, то есть такого, который на сканировании выглядит ярче, чем обычно. Это не надежный тест, поскольку эхогенный кишечник может присутствовать и у совершенно здорового плода. В этом случае большое влияние оказывает родительское генетическое тестирование, поскольку фенотипический аспект может иметь чрезмерное влияние на расчет вероятности. В случае плода с эхогенной кишкой, мать которого прошла тестирование и известна как носительница МВ, апостериорная вероятность того, что у плода действительно имеется заболевание, очень высока (0,64). Однако, как только у отца отрицательный результат теста на МВ, апостериорная вероятность значительно падает (до 0,16).

Расчет факторов риска является мощным инструментом генетического консультирования и репродуктивного планирования, но его нельзя рассматривать как единственный важный фактор, который следует учитывать. Как указано выше, неполное тестирование может дать ложно высокую вероятность статуса носителя, а тестирование может быть финансово недоступным или неосуществимым в отсутствие родителя.

См. также

• Байесовская эпистемология
• Индуктивная вероятность
• Квантовый байесианство
• «Почему большинство опубликованных результатов исследований ложны» , эссе по метанауке 2005 года. Джона Иоаннидиса
• Регулярная условная вероятность
• Байесовское убеждение

Библиография

• В эту статью включен текст из публикации, которая сейчас находится в свободном доступе : Митчелл, Джон Малкольм (1911). « Прайс, Ричард ». В Чисхолме, Хью (ред.). Британская энциклопедия . Том. 22 (11-е изд.). Издательство Кембриджского университета. стр. 314–315.

Дальнейшее чтение

• Болстад, Уильям М.; Карран, Джеймс М. (2017). «Логика, вероятность и неопределенность». Введение в байесовскую статистику (3-е изд.). Нью-Йорк: Уайли. стр. 59–82. ISBN  978-1-118-09156-2 .
• Ли, Питер М. (2012). Байесовская статистика: Введение (4-е изд.). Уайли. ISBN  978-1-118-33257-3 .
• Шмитт, Сэмюэл А. (1969). «Накопление доказательств». Измерение неопределенности: элементарное введение в байесовскую статистику . Чтение: Аддисон-Уэсли. стр. 61–99. OCLC   5013 .
• Стиглер, Стивен М. (август 1986 г.). «Мемуары Лапласа об обратной вероятности 1774 года» . Статистическая наука . 1 (3): 359–363. дои : 10.1214/ss/1177013620 .

Внешние ссылки

• «Байесовская ловушка» . Веритасиум . 5 апреля 2017 г. — через YouTube .