Многомерная пробит-модель

Эта статья посвящена моделированию нескольких коррелирующих бинарных результатов. Для моделирования одного события с несколькими результатами см. полиномиальный пробит .

В статистике и эконометрике многомерная пробит-модель представляет собой обобщение пробит-модели, используемой для совместной оценки нескольких коррелирующих бинарных результатов. Например, если считать, что решения об отправке хотя бы одного ребенка в государственную школу и о голосовании за школьный бюджет коррелируют (оба решения бинарные), то многомерная пробит-модель будет подходящей для совместного прогнозирования этих решений. два варианта индивидуально. Дж. Р. Эшфорд и Р. Р. Соуден первоначально предложили подход к многомерному пробит-анализу. Сиддхартха Чиб и Эдвард Гринберг расширили эту идею, а также предложили методы вывода на основе моделирования для многомерной пробит-модели, которые упростили и обобщили оценку параметров.

Пример: двумерный пробит

В обычной пробит-модели имеется только одна бинарная зависимая переменная. $Y$ и поэтому только одна скрытая переменная $Y^{*}$ используется. Напротив, в двумерной пробит-модели есть две двоичные зависимые переменные. $Y_{1}$ и $Y_{2}$, поэтому есть две скрытые переменные: $Y_{1}^{*}$ и $Y_{2}^{*}$.Предполагается, что каждая наблюдаемая переменная принимает значение 1 тогда и только тогда, когда лежащая в ее основе непрерывная латентная переменная принимает положительное значение:

$Y_{1}={\begin{cases}1&{\text{if }}Y_{1}^{*}>0,\\0&{\text{otherwise}},\end{cases}}$

$Y_{2}={\begin{cases}1&{\text{if }}Y_{2}^{*}>0,\\0&{\text{otherwise}},\end{cases}}$

с

${\begin{cases}Y_{1}^{*}=X_{1}\beta _{1}+\varepsilon _{1}\\Y_{2}^{*}=X_{2}\beta _{2}+\varepsilon _{2}\end{cases}}$

и

${\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\end{bmatrix}}\mid X\sim {\mathcal {N}}\left({\begin{bmatrix}0\\0\end{bmatrix}},{\begin{bmatrix}1&\rho \\\rho &1\end{bmatrix}}\right)$

Подбор двумерной пробит-модели включает оценку значений $\beta _{1},\ \beta _{2},$ и $\rho$. Для этого необходимо максимизировать вероятность модели . Эта вероятность

${\begin{aligned}L(\beta _{1},\beta _{2})={\Big (}\prod &P(Y_{1}=1,Y_{2}=1\mid \beta _{1},\beta _{2})^{Y_{1}Y_{2}}P(Y_{1}=0,Y_{2}=1\mid \beta _{1},\beta _{2})^{(1-Y_{1})Y_{2}}\\[8pt]&{}\qquad P(Y_{1}=1,Y_{2}=0\mid \beta _{1},\beta _{2})^{Y_{1}(1-Y_{2})}P(Y_{1}=0,Y_{2}=0\mid \beta _{1},\beta _{2})^{(1-Y_{1})(1-Y_{2})}{\Big )}\end{aligned}}$

Замена скрытых переменных $Y_{1}^{*}$ и $Y_{2}^{*}$ в функциях вероятности и ведение журналов дает

${\begin{aligned}\sum &{\Big (}Y_{1}Y_{2}\ln P(\varepsilon _{1}>-X_{1}\beta _{1},\varepsilon _{2}>-X_{2}\beta _{2})\\[4pt]&{}\quad {}+(1-Y_{1})Y_{2}\ln P(\varepsilon _{1}<-X_{1}\beta _{1},\varepsilon _{2}>-X_{2}\beta _{2})\\[4pt]&{}\quad {}+Y_{1}(1-Y_{2})\ln P(\varepsilon _{1}>-X_{1}\beta _{1},\varepsilon _{2}<-X_{2}\beta _{2})\\[4pt]&{}\quad {}+(1-Y_{1})(1-Y_{2})\ln P(\varepsilon _{1}<-X_{1}\beta _{1},\varepsilon _{2}<-X_{2}\beta _{2}){\Big )}.\end{aligned}}$

После некоторого переписывания функция логарифмического правдоподобия принимает вид:

${\begin{aligned}\sum &{\Big (}Y_{1}Y_{2}\ln \Phi (X_{1}\beta _{1},X_{2}\beta _{2},\rho )\\[4pt]&{}\quad {}+(1-Y_{1})Y_{2}\ln \Phi (-X_{1}\beta _{1},X_{2}\beta _{2},-\rho )\\[4pt]&{}\quad {}+Y_{1}(1-Y_{2})\ln \Phi (X_{1}\beta _{1},-X_{2}\beta _{2},-\rho )\\[4pt]&{}\quad {}+(1-Y_{1})(1-Y_{2})\ln \Phi (-X_{1}\beta _{1},-X_{2}\beta _{2},\rho ){\Big )}.\end{aligned}}$

Обратите внимание, что $\Phi$ — кумулятивная функция распределения двумерного нормального распределения . $Y_{1}$ и $Y_{2}$ в логарифмической функции правдоподобия наблюдаются переменные, равные единице или нулю.

Многомерный пробит

Для общего случая $\mathbf {y_{i}} =(y_{1},...,y_{j}),\ (i=1,...,N)$ где мы можем взять $j$ как выбор и $i$ как индивиды или наблюдения, вероятность наблюдения за выбором $\mathbf {y_{i}}$ является

${\begin{aligned}\Pr(\mathbf {y_{i}} |\mathbf {X_{i}\beta } ,\Sigma )=&\int _{A_{J}}\cdots \int _{A_{1}}f_{N}(\mathbf {y} _{i}^{*}|\mathbf {X_{i}\beta } ,\Sigma )dy_{1}^{*}\dots dy_{J}^{*}\\\Pr(\mathbf {y_{i}} |\mathbf {X_{i}\beta } ,\Sigma )=&\int \mathbb {1} _{y^{*}\in A}f_{N}(\mathbf {y} _{i}^{*}|\mathbf {X_{i}\beta } ,\Sigma )d\mathbf {y} _{i}^{*}\end{aligned}}$

Где $A=A_{1}\times \cdots \times A_{J}$ и,

$A_{j}={\begin{cases}(-\infty ,0]&y_{j}=0\\(0,\infty )&y_{j}=1\end{cases}}$

Функция логарифмического правдоподобия в этом случае будет иметь вид $\sum _{i=1}^{N}\log \Pr(\mathbf {y_{i}} |\mathbf {X_{i}\beta } ,\Sigma )$

За исключением $J\leq 2$ обычно не существует решения в замкнутой форме для интегралов в уравнении логарифмического правдоподобия. Вместо этого можно использовать методы моделирования для моделирования вероятностей выбора. Методы, использующие выборку по важности, включают алгоритм GHK , AR (принять-отклонить), метод Стерна. Существуют также подходы MCMC к этой проблеме, включая CRB (метод Чиба с Рао-Блэквеллизацией ), CRT (Чиб, Риттер, Таннер), ARK (ядро принятия-отклонения) и ASK (ядро адаптивной выборки). Вариационный подход к масштабированию больших наборов данных предлагается в Probit-LMM.

Дальнейшее чтение

• Грин, Уильям Х. (2012). «Двумерные и многомерные пробит-модели». Эконометрический анализ (Седьмое изд.). Прентис-Холл. стр. 778–799. ISBN  978-0-13-139538-1 .