Метод Холма – Бонферрони

В статистике применяется метод Холма-Бонферрони , ^{[ 1 ]} также называемый методом Холма или методом Бонферрони-Холма , используется для решения проблемы множественных сравнений . Он предназначен для контроля частоты ошибок по семействам (FWER) и предлагает простой тест, равномерно более мощный, чем поправка Бонферрони . Он назван в честь Стуре Холма , который систематизировал метод, и Карло Эмилио Бонферрони .

Мотивация

При рассмотрении нескольких гипотез возникает проблема множественности : чем больше гипотез проверяется, тем выше вероятность получения ошибок I рода ( ложных срабатываний ). Метод Холма-Бонферрони является одним из многих подходов к контролю FWER, т. е. вероятности возникновения одной или нескольких ошибок типа I, путем корректировки критерия отклонения для каждой отдельной гипотезы. ^{[ нужна ссылка ]}

Формулировка

Метод заключается в следующем:

Предположим, у вас есть $m$ p-значения , отсортированные в порядке от наименьшего к наибольшему $P_{1},\ldots ,P_{m}$ и соответствующие им гипотезы $H_{1},\ldots ,H_{m}$ (нулевые гипотезы). Вы хотите, чтобы FWER был не выше определенного заранее заданного уровня значимости. $\alpha$ .
Является $P_{1}\leq \alpha /m$ ? Если да, отклоните $H_{1}$ и перейдите к следующему шагу, иначе ВЫХОД.
Является $P_{2}\leq \alpha /(m-1)$ ? Если да, отклоните $H_{2}$ также и перейти к следующему шагу, иначе ВЫХОД.
И так далее: для каждого значения P проверьте, $P_{k}\leq {\frac {\alpha }{m+1-k}}$ . Если да, отклоните $H_{k}$ и продолжайте проверять большие значения P, иначе ВЫХОДИТЕ.

Этот метод гарантирует, что FWER будет не более $\alpha$ в сильном смысле.

Обоснование

Простая поправка Бонферрони отклоняет только нулевые гипотезы со значением p, меньшим или равным ${\frac {\alpha }{m}}$ , чтобы гарантировать, что FWER, т. е. риск отклонения одной или нескольких истинных нулевых гипотез (т. е. совершения одной или нескольких ошибок типа I), не превышает $\alpha$ . Цена такой защиты от ошибок типа I — повышенный риск неспособности отвергнуть одну или несколько ложных нулевых гипотез (т. е. совершения одной или нескольких ошибок типа II).

Метод Холма – Бонферрони также контролирует FWER при $\alpha$ , но с меньшим увеличением риска ошибки II рода, чем классический метод Бонферрони. Метод Холма-Бонферрони сортирует значения p от наименьшего к наибольшему и сравнивает их с номинальными альфа-уровнями ${\frac {\alpha }{m}}$ к $\alpha$ (соответственно), а именно значения ${\frac {\alpha }{m}},{\frac {\alpha }{m-1}},\ldots ,{\frac {\alpha }{2}},{\frac {\alpha }{1}}$ .

Индекс $k$ идентифицирует первое значение p , которое недостаточно низко для подтверждения отклонения. Следовательно, нулевые гипотезы $H_{(1)},\ldots ,H_{(k-1)}$ отвергаются, а нулевые гипотезы $H_{(k)},...,H_{(m)}$ не отвергаются.
Если $k=1$ тогда никакие значения p не были достаточно низкими для отклонения, поэтому никакие нулевые гипотезы не отвергаются.
Если такого индекса нет $k$ можно было найти, то все значения p были достаточно низкими для отклонения, поэтому все нулевые гипотезы отвергаются (ни одна не принимается).

Доказательство

Позволять $H_{(1)}\ldots H_{(m)}$ быть семейством гипотез, отсортированных по их p-значениям $P_{(1)}\leq P_{(2)}\leq \cdots \leq P_{(m)}$ . Позволять $I_{0}$ — набор индексов, соответствующих (неизвестным) истинным нулевым гипотезам, имеющим $m_{0}$ члены.

Утверждение : Если мы ошибочно отвергаем какую-то истинную гипотезу, значит, существует истинная гипотеза. $H_{(\ell )}$ для чего $P_{(\ell )}$ максимум ${\frac {\alpha }{m_{0}}}$ .
Прежде всего заметим, что в этом случае существует хотя бы одна истинная гипотеза, поэтому $m_{0}\geq 1$ . Позволять $\ell$ быть таким, что $H_{(\ell )}$ — первая отвергнутая истинная гипотеза. Затем $H_{(1)},\ldots ,H_{(\ell -1)}$ все отвергаются ложные гипотезы. Отсюда следует, что $\ell -1\leq m-m_{0}$ и, следовательно, ${\frac {1}{m-\ell +1}}\leq {\frac {1}{m_{0}}}$ (1). С $H_{(\ell )}$ отклонено, оно должно быть $P_{(\ell )}\leq {\frac {\alpha }{m-\ell +1}}$ по определению процедуры тестирования. Используя (1), заключаем, что $P_{(\ell )}\leq {\frac {\alpha }{m_{0}}}$ , по желанию.

Итак, давайте определим случайное событие $A=\bigcup _{i\in I_{0}}\left\{P_{i}\leq {\frac {\alpha }{m_{0}}}\right\}$ . Обратите внимание, что для $i\in I_{o}$ , с $H_{i}$ является истинной нулевой гипотезой, мы имеем, что $P\left(\left\{P_{i}\leq {\frac {\alpha }{m_{0}}}\right\}\right)={\frac {\alpha }{m_{0}}}$ . Субаддитивность вероятностной меры означает, что $\Pr(A)\leq \sum _{i\in I_{0}}P\left(\left\{P_{i}\leq {\frac {\alpha }{m_{0}}}\right\}\right)=\sum _{i\in I_{0}}{\frac {\alpha }{m_{0}}}=\alpha$ . Следовательно, вероятность отвергнуть истинную гипотезу не более $\alpha$ .

Альтернативное доказательство

Метод Холма-Бонферрони можно рассматривать как закрытую процедуру тестирования . ^{[ 2 ]} с поправкой Бонферрони, применяемой локально на каждом из пересечений нулевых гипотез.

Принцип замыкания гласит, что гипотеза $H_{i}$ в семье гипотез $H_{1},\ldots ,H_{m}$ отклоняется – при этом контролируя FWER на уровне $\alpha$ – тогда и только тогда, когда все подсемейства пересечений с $H_{i}$ отвергаются на уровне $\alpha$ .

Метод Холма-Бонферрони является упрощенной процедурой , поскольку он делает $m$ или меньше сравнений, при этом количество всех пересечений нулевых гипотез, подлежащих проверке, имеет порядок $2^{m}$ . Он контролирует FWER в строгом смысле этого слова.

В процедуре Холма–Бонферрони мы сначала проверяем $H_{(1)}$ . Если она не отвергнута, то пересечение всех нулевых гипотез $\bigcap \nolimits _{i=1}^{m}H_{i}$ также не отвергается, так что для каждой элементарной гипотезы существует хотя бы одна гипотеза пересечения $H_{1},\ldots ,H_{m}$ это не отвергается, поэтому мы не отвергаем ни одну из элементарных гипотез.

Если $H_{(1)}$ отклоняется на уровне $\alpha /m$ тогда все подсемейства пересечений, которые его содержат, также отклоняются, таким образом $H_{(1)}$ отклонено. Это потому, что $P_{(1)}$ является наименьшим в каждом из подсемейств пересечения, а размер подсемейств не превышает $m$ , такой, что порог Бонферрони больше, чем $\alpha /m$ .

То же самое обоснование справедливо и для $H_{(2)}$ . Однако, поскольку $H_{(1)}$ уже отклонено, достаточно отклонить все пересекающиеся подсемейства $H_{(2)}$ без $H_{(1)}$ . Один раз $P_{(2)}\leq \alpha /(m-1)$ содержит все пересечения, содержащие $H_{(2)}$ отвергаются.

То же самое касается каждого $1\leq i\leq m$ .

Пример

Рассмотрим четыре нулевые гипотезы $H_{1},\ldots ,H_{4}$ с нескорректированными значениями p $p_{1}=0.01$ , $p_{2}=0.04$ , $p_{3}=0.03$ и $p_{4}=0.005$ , подлежит проверке на уровне значимости $\alpha =0.05$ . Поскольку процедура является ступенчатой, мы сначала проверяем $H_{4}=H_{(1)}$ , который имеет наименьшее значение p $p_{4}=p_{(1)}=0.005$ . Значение p сравнивается с $\alpha /4=0.0125$ , нулевая гипотеза отклоняется и мы переходим к следующей. С $p_{1}=p_{(2)}=0.01<0.0167=\alpha /3$ мы отвергаем $H_{1}=H_{(2)}$ так же и продолжаем. Следующая гипотеза $H_{3}$ не отвергается, поскольку $p_{3}=p_{(3)}=0.03>0.025=\alpha /2$ . Мы прекращаем тестирование и приходим к выводу, что $H_{1}$ и $H_{4}$ отвергаются и $H_{2}$ и $H_{3}$ не отклоняются при контроле частоты семейных ошибок на уровне $\alpha =0.05$ . Обратите внимание, что хотя $p_{2}=p_{(4)}=0.04<0.05=\alpha$ применяется, $H_{2}$ не отвергается . Это связано с тем, что процедура тестирования прекращается, как только происходит сбой в отбраковке.

Расширения

Метод Хольма – Шидака

Когда проверки гипотез не имеют отрицательной зависимости, можно заменить ${\frac {\alpha }{m}},{\frac {\alpha }{m-1}},\ldots ,{\frac {\alpha }{1}}$ с:

1-(1-\alpha )^{1/m},1-(1-\alpha )^{1/(m-1)},\ldots ,1-(1-\alpha )^{1}

в результате получается немного более мощный тест.

Взвешенная версия

Позволять $P_{(1)},\ldots ,P_{(m)}$ быть упорядоченными нескорректированными значениями p. Позволять $H_{(i)}$ , $0\leq w_{(i)}$ соответствуют $P_{(i)}$ . Отклонять $H_{(i)}$ пока

P_{(j)}\leq {\frac {w_{(j)}}{\sum _{k=j}^{m}w_{(k)}}}\alpha ,\quad j=1,\ldots ,i

Скорректированные p значения

Скорректированные p значения для метода Холма – Бонферрони:

{\widetilde {p}}_{(i)}=\max _{j\leq i}\left\{(m-j+1)p_{(j)}\right\}_{1},{\text{ where }}\{x\}_{1}\equiv \min(x,1).

В предыдущем примере скорректированные значения p равны ${\widetilde {p}}_{1}=0.03$ , ${\widetilde {p}}_{2}=0.06$ , ${\widetilde {p}}_{3}=0.06$ и ${\widetilde {p}}_{4}=0.02$ . Только гипотезы $H_{1}$ и $H_{4}$ отвергаются на уровне $\alpha =0.05$ .

Подобные скорректированные значения p для метода Холма-Шидака можно рекурсивно определить как ${\widetilde {p}}_{(i)}=\max \left\{{\widetilde {p}}_{(i-1)},1-(1-p_{(i)})^{m-i+1}\right\}$ , где ${\widetilde {p}}_{(1)}=1-(1-p_{(1)})^{m}$ . Ввиду неравенства $1-(1-\alpha )^{1/n}<\alpha /n$ для $n\geq 2$ , метод Холма-Шидака будет более мощным, чем метод Холма-Бонферрони.

Взвешенные скорректированные значения p : ^{[ нужна ссылка ]}

{\widetilde {p}}_{(i)}=\max _{j\leq i}\left\{{\frac {\sum _{k=j}^{m}{w_{(k)}}}{w_{(j)}}}p_{(j)}\right\}_{1},{\text{ where }}\{x\}_{1}\equiv \min(x,1).

Гипотеза отвергается на уровне α тогда и только тогда, когда ее скорректированное значение p меньше α. В предыдущем примере с равными весами скорректированные значения p составляют 0,03, 0,06, 0,06 и 0,02. Это еще один способ увидеть, что при использовании α = 0,05 этой процедурой отклоняются только первая и четвертая гипотезы.

Альтернативы и использование

Метод Холма-Бонферрони «равномерно» более мощный, чем классическая поправка Бонферрони , а это означает, что он всегда не менее эффективен.

Существуют и другие методы управления FWER, более мощные, чем методы Холма-Бонферрони. Например, в процедуре Хохберга отказ от $H_{(1)}\ldots H_{(k)}$ производится после нахождения максимального индекса $k$ такой, что $P_{(k)}\leq {\frac {\alpha }{m+1-k}}$ . Таким образом, процедура Хохберга равномерно более мощна, чем процедура Холма. Однако процедура Хохберга требует, чтобы гипотезы были независимыми или находились в определенных формах положительной зависимости, тогда как процедура Холма – Бонферрони может применяться без таких предположений. Аналогичной процедурой повышения является процедура Хоммеля, которая равномерно более мощна, чем процедура Хохберга. ^{[ 3 ]}

Мы

Карло Эмилио Бонферрони не принимал участия в изобретении описанного здесь метода. Первоначально Холм назвал этот метод «последовательно отвергающим тестом Бонферрони», и только через некоторое время он стал известен как Холм – Бонферрони. Мотивы, по которым Холм назвал свой метод в честь Бонферрони, объясняются в оригинальной статье: «Использование неравенства Буля в теории множественного вывода обычно называется методом Бонферрони, и по этой причине мы будем называть наш тест последовательно отвергающим тестом Бонферрони».

Ссылки

^ Холм, С. (1979). «Простая процедура последовательного отбраковывания множественных испытаний». Скандинавский статистический журнал . 6 (2): 65–70. JSTOR 4615733 . МР 0538597 .
^ Маркус, Р.; Перитц, Э.; Габриэль, КР (1976). «О процедурах закрытого тестирования с особым упором на упорядоченный дисперсионный анализ». Биометрика . 63 (3): 655–660. дои : 10.1093/biomet/63.3.655 .
^ Хоммель, Г. (1988). «Поэтапная процедура отвергающего множественного теста, основанная на модифицированном тесте Бонферрони». Биометрика . 75 (2): 383–386. дои : 10.1093/biomet/75.2.383 . hdl : 2027.42/149272 . ISSN 0006-3444 .

[1] Холм, С. (1979). «Простая процедура последовательного отбраковывания множественных испытаний». Скандинавский статистический журнал . 6 (2): 65–70. JSTOR 4615733 . МР 0538597 .

[2] Маркус, Р.; Перитц, Э.; Габриэль, КР (1976). «О процедурах закрытого тестирования с особым упором на упорядоченный дисперсионный анализ». Биометрика . 63 (3): 655–660. дои : 10.1093/biomet/63.3.655 .

[Hommel1988-3] Хоммель, Г. (1988). «Поэтапная процедура отвергающего множественного теста, основанная на модифицированном тесте Бонферрони». Биометрика . 75 (2): 383–386. дои : 10.1093/biomet/75.2.383 . hdl : 2027.42/149272 . ISSN 0006-3444 .

[ 1 ]

[ 2 ]

[ 3 ]