Уравненные шансы

Уравненные шансы , ^[1] также называемое равенством точности условных процедур и несопоставимым неправильным обращением , является мерой справедливости в машинном обучении . Классификатор удовлетворяет этому определению, если субъекты в защищенных и незащищенных группах имеют равный уровень истинно положительных результатов и равный уровень ложноположительных результатов. ^[2] удовлетворяющее формуле:

$P(R=+|Y=y,A=a)=P(R=+|Y=y,A=b)\quad y\in \{+,-\}\quad \forall a,b\in A$

Например, $A$ это может быть пол, раса или любые другие характеристики, которые мы хотим исключить из предвзятости, в то время как $Y$ будет ли человек квалифицирован для получения степени, а также результат $R$ будет решение школы, предлагать ли человеку учиться на степень. В этом контексте более высокие показатели поступления в университеты афроамериканцев по сравнению с белыми с аналогичными результатами тестов могут быть необходимы для выполнения условия равных шансов, если «базовая ставка» $Y$ различается между группами.

Первоначально эта концепция была определена для двоичных значений. $Y$ . В 2017 году Вудворт и др. обобщил концепцию для нескольких классов. ^[3]

См. также

Ссылки

^ Хардт, Мориц; Прайс, Эрик; Сребро, Натан (2016). «Равенство возможностей в контролируемом обучении» . Нейронные системы обработки информации . 29 . arXiv : 1610.02413 .
^ «Справедливость в ML 2: равные возможности и шансы» (PDF) . www2.cs.duke.edu/ . Герцог Компьютерные науки.
^ Вудворт, Блейк; Гунасекар, Сурия; Оганнесян, Месроб И.; Сребро, Натан (2017). «Изучение недискриминационных предикторов» . Материалы конференции по теории обучения 2017 г .: 1920–1953. arXiv : 1702.06081 .

[1] Хардт, Мориц; Прайс, Эрик; Сребро, Натан (2016). «Равенство возможностей в контролируемом обучении» . Нейронные системы обработки информации . 29 . arXiv : 1610.02413 .

[2] «Справедливость в ML 2: равные возможности и шансы» (PDF) . www2.cs.duke.edu/ . Герцог Компьютерные науки.

[3] Вудворт, Блейк; Гунасекар, Сурия; Оганнесян, Месроб И.; Сребро, Натан (2017). «Изучение недискриминационных предикторов» . Материалы конференции по теории обучения 2017 г .: 1920–1953. arXiv : 1702.06081 .

[1]

[2]

[3]