Взвешивание обратной вероятности

Взвешивание обратной вероятности — это статистический метод оценки величин, относящихся к совокупности, отличной от той, из которой были собраны данные. Часто применяются дизайны исследований с несопоставимой совокупностью выборки и совокупностью целевого вывода (целевой совокупностью). Могут существовать факторы, препятствующие исследователям напрямую брать образцы из целевой популяции, такие как стоимость, время или этические соображения. Решением этой проблемы является использование альтернативной стратегии проектирования, например, стратифицированной выборки . Правильное применение взвешивания потенциально может повысить эффективность и уменьшить погрешность невзвешенных оценок.

Одной из самых первых взвешенных оценок является Хорвица – Томпсона . оценка среднего значения Когда известна вероятность выборки , на основе которой формируется выборочная совокупность из целевой совокупности, то для взвешивания наблюдений используется обратная величина этой вероятности. Этот подход был распространен на многие аспекты статистики в различных рамках. В частности, существуют взвешенные вероятности , взвешенные оценочные уравнения и взвешенные плотности вероятности, на основе которых выводится большая часть статистики. Эти приложения систематизировали теорию других статистических данных и оценок, таких как предельные структурные модели , стандартизированный коэффициент смертности и алгоритм EM для огрубленных или агрегированных данных.

Взвешивание обратной вероятности также используется для учета недостающих данных, когда субъекты с недостающими данными не могут быть включены в первичный анализ. При оценке вероятности выборки или вероятности того, что фактор будет измерен в другом измерении, взвешивание обратной вероятности может использоваться для завышения веса субъектов, которые недостаточно представлены из-за значительной степени отсутствия данных .

Взвешенная оценка обратной вероятности (IPWE)

Оценщик взвешивания обратной вероятности может использоваться для демонстрации причинно-следственной связи, когда исследователь не может провести контролируемый эксперимент, но имеет данные для моделирования. Поскольку предполагается, что лечение назначается не случайно, цель состоит в том, чтобы оценить контрфактический или потенциальный результат, если всем субъектам в популяции будет назначен тот или иной вид лечения.

Предположим, что наблюдаемые данные $\{{\bigl (}X_{i},A_{i},Y_{i}{\bigr )}\}_{i=1}^{n}$ взятый iid (независимый и одинаково распределенный) из неизвестного распределения P, где

• $X\in \mathbb {R} ^{p}$ ковариаты
• $A\in \{0,1\}$ два возможных метода лечения.
• $Y\in \mathbb {R}$ ответ
• Мы не предполагаем, что лечение назначается случайным образом.

Цель состоит в том, чтобы оценить потенциальный результат, $Y^{*}{\bigl (}a{\bigr )}$, что наблюдалось бы, если бы субъекту было назначено лечение $a$. Затем сравните средний результат, если всем пациентам в популяции было назначено любое лечение: $\mu _{a}=\mathbb {E} Y^{*}(a)$. Мы хотим оценить $\mu _{a}$ используя данные наблюдений $\{{\bigl (}X_{i},A_{i},Y_{i}{\bigr )}\}_{i=1}^{n}$.

Формула оценки

${\hat {\mu }}_{a,n}^{IPWE}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}{\frac {\mathbf {1} _{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}$

Создание IPWE

1. $\mu _{a}=\mathbb {E} \left[{\frac {\mathbf {1} _{A=a}Y}{p(A|X)}}\right]$ где $p(a|x)={\frac {P(A=a,X=x)}{P(X=x)}}$
2. построить ${\hat {p}}_{n}(a|x)$ или $p(a|x)$ использование любой модели склонности (часто модели логистической регрессии)
3. ${\hat {\mu }}_{a,n}^{IPWE}=\sum _{i=1}^{n}{\frac {Y_{i}1_{A_{i}=a}}{n{\hat {p}}_{n}(A_{i}|X_{i})}}$

После расчета среднего значения каждой группы лечения можно использовать статистический t-критерий или тест ANOVA для оценки разницы между средними значениями групп и определения статистической значимости эффекта лечения.

Предположения

Напомним совместную вероятностную модель $(X,A,Y)\sim P$ для ковариаты $X$, действие $A$и ответ $Y$. Если $X$ и $A$ известны как $x$ и $a$, соответственно, то ответ $Y(X=x,A=a)=Y(x,a)$ имеет распределение

${\begin{aligned}Y(x,a)\sim {\frac {P(x,a,\cdot )}{\int P(x,a,y)\,dy}}.\end{aligned}}$

Мы делаем следующие предположения.

• ( А1 ) Консистенция: $Y=Y^{*}(A)$
• ( A2 ) Никаких неизмеренных помех: $\{Y^{*}(0),Y^{*}(1)\}\perp A|X$. Более формально, для каждой ограниченной и измеримой функции $f$ и $g$, $${\begin{aligned}\qquad \mathbb {E} _{(A,Y)}\left[f(Y(X,a))\,g(A)\,|\,X\right]=\mathbb {E} _{Y}\left[f(Y(X,a))\,|\,X\right]\,\mathbb {E} _{A}\left[g(A)\,|\,X\right].\end{aligned}}$$Это означает, что назначение лечения основано исключительно на ковариатных данных и не зависит от потенциальных результатов.
• ( A3 ) Позитивность: $P(A=a|X=x)=\mathbb {E} _{A}[\mathbf {1} (A=a)\,|\,X=x]>0$ для всех $a$ и $x$.

Формальный вывод

В предположениях ( A1 )-( A3 ) выведем следующие тождества

${\begin{aligned}\mathbb {E} \left[Y^{*}(a)\right]=\mathbb {E} _{(X,Y)}\left[Y(X,a)\right]=\mathbb {E} _{(X,A,Y)}\left[{\frac {Y\mathbf {1} (A=a)}{P(A=a|X)}}\right].\qquad \cdots \cdots (*)\end{aligned}}$

Первое равенство следует из определения и ( A1 ). Для второго равенства сначала используйте итерированное ожидание, чтобы записать

${\begin{aligned}\mathbb {E} _{(X,Y)}\left[Y(X,a)\right]=\mathbb {E} _{X}\left[\mathbb {E} _{Y}\left[Y(X,a)\,|\,X\right]\right].\end{aligned}}$

По ( А3 ), $\mathbb {E} _{A}[\mathbf {1} (A=a)\,|\,X]>0$ почти наверняка. Затем, используя ( A2 ), обратите внимание, что

${\begin{aligned}\mathbb {E} _{Y}\left[Y(X,a)\,|\,X\right]&={\frac {\mathbb {E} _{Y}\left[Y(X,a)\,|\,X\right]\,\mathbb {E} _{A}[\mathbf {1} (A=a)\,|\,X]}{\mathbb {E} _{A}[\mathbf {1} (A=a)\,|\,X]}}\\&={\frac {\mathbb {E} _{(A,Y)}\left[Y(X,a)\mathbf {1} (A=a)\,|\,X\right]}{\mathbb {E} [\mathbf {1} (A=a)\,|\,X]}}\qquad \cdots \cdots (A2)\\&=\mathbb {E} _{(A,Y)}\left[{\frac {Y(X,a)\mathbf {1} (A=a)}{\mathbb {E} [\mathbf {1} (A=a)\,|\,X]}}\,{\bigg |}\,X\right].\qquad \cdots \cdots ({\text{denominator is a function of X}})\end{aligned}}$

Следовательно, интегрируя последнее выражение относительно $X$ и отмечая, что $Y(X,a)\mathbf {1} (A=a)=Y(X,A)\mathbf {1} (A=a)=Y\,\mathbf {1} (A=a)$ почти наверняка второе равенство в $(*)$ следует.

Уменьшение дисперсии

Известно, что взвешенная оценка обратной вероятности (IPWE) нестабильна, если некоторые оцененные склонности слишком близки к 0 или 1. В таких случаях в IPWE доминирует небольшое количество субъектов с большими весами. Однако недавно разработанные сглаженные оценки IPW с использованием Rao-Blackwellization уменьшают дисперсию IPWE до 7 раз, а также могут защитить расширенную оценку, взвешенную по обратной вероятности, от неправильной спецификации модели.

Дополненная обратная вероятностно-взвешенная оценка (AIPWE)

Альтернативным оценщиком является расширенная обратная оценка, взвешенная по вероятности (AIPWE), которая сочетает в себе свойства оценщика на основе регрессии и оценки, взвешенной по обратной вероятности. Таким образом, это «вдвойне надежный» метод, поскольку он требует правильного указания только модели склонности или результата, но не того и другого. Этот метод дополняет IPWE, уменьшая изменчивость и повышая эффективность оценок. Эта модель содержит те же предположения, что и взвешенная оценка обратной вероятности (IPWE).

Формула оценки

${\begin{aligned}{\hat {\mu }}_{a,n}^{AIPWE}&={\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\frac {Y_{i}1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}-{\frac {1_{A_{i}=a}-{\hat {p}}_{n}(A_{i}|X_{i})}{{\hat {p}}_{n}(A_{i}|X_{i})}}{\hat {Q}}_{n}(X_{i},a){\Biggr )}\\&={\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}Y_{i}+(1-{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}){\hat {Q}}_{n}(X_{i},a){\Biggr )}\\&={\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\hat {Q}}_{n}(X_{i},a){\Biggr )}+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}{\Biggl (}Y_{i}-{\hat {Q}}_{n}(X_{i},a){\Biggr )}\end{aligned}}$

Со следующими обозначениями:

1. $1_{A_{i}=a}$ является индикаторной функцией , если субъект i входит в лечебную группу a (или нет).
2. Постройте оценщик регрессии ${\hat {Q}}_{n}(x,a)$ предсказать результат $Y$ на основе ковариат $X$ и лечение $A$, по какому-то предмету i. Например, используя обычную регрессию наименьших квадратов .
3. Постройте оценку склонности (вероятности) ${\hat {p}}_{n}(A_{i}|X_{i})$. Например, с помощью логистической регрессии .
4. Объедините в AIPWE, чтобы получить ${\hat {\mu }}_{a,n}^{AIPWE}$

Интерпретация и «двойная надежность»

Последующая перестановка формулы помогает раскрыть основную идею: наша оценка основана на среднем прогнозируемом результате с использованием модели (т.е.: ${\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\hat {Q}}_{n}(X_{i},a){\Biggr )}$). Однако, если модель смещена, то остатки модели не будут (в полной группе лечения а) около 0. Мы можем исправить это потенциальное смещение, добавив дополнительный член средних остатков модели (Q) из истинная ценность результата (Y) (т.е.: ${\frac {1}{n}}\sum _{i=1}^{n}{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}{\Biggl (}Y_{i}-{\hat {Q}}_{n}(X_{i},a){\Biggr )}$). Поскольку у нас есть недостающие значения Y, мы даем веса, чтобы увеличить относительную важность каждого остатка (эти веса основаны на обратной склонности, или вероятности, наблюдения каждого субъекта) (см. стр. 10 в ).

Преимущество «двойной устойчивости» такой оценки заключается в том, что достаточно правильно определить одну из двух моделей, чтобы оценка была несмещенной (либо ${\hat {Q}}_{n}(X_{i},a)$ или ${\hat {p}}_{n}(A_{i}|X_{i})$или и то, и другое). Это связано с тем, что если модель результата четко определена, ее остатки будут около 0 (независимо от весов, которые получит каждый остаток). А если модель смещена, но модель взвешивания четко определена, то смещение будет хорошо оценено (и скорректировано) с помощью средневзвешенных остатков.

Смещение дважды робастных оценок называется смещением второго порядка и зависит от произведения разности ${\frac {1}{{\hat {p}}_{n}(A_{i}|X_{i})}}-{\frac {1}{{p}_{n}(A_{i}|X_{i})}}$ и разница ${\hat {Q}}_{n}(X_{i},a)-Q_{n}(X_{i},a)$. Это свойство позволяет нам, имея «достаточно большой» размер выборки, снизить общую погрешность оценщиков с двойной надежностью за счет использования оценщиков машинного обучения (вместо параметрических моделей).

См. также

• Сопоставление оценок склонности