Идентифицируемость

В статистике должна идентифицируемость — это свойство, которому удовлетворять модель точный вывод , чтобы был возможен . Модель является идентифицируемой , если теоретически возможно узнать истинные значения основных параметров этой модели после получения от нее бесконечного числа наблюдений. Математически это эквивалентно утверждению, что разные значения параметров должны порождать разные распределения вероятностей наблюдаемых переменных. Обычно модель идентифицируема только при определенных технических ограничениях, и в этом случае совокупность этих требований называется условиями идентификации .

Модель, которую невозможно идентифицировать, называется неидентифицируемой или неидентифицируемой : две или более параметризации эквивалентны с точки зрения наблюдения . В некоторых случаях, даже если модель не поддается идентификации, все же можно узнать истинные значения определенного подмножества параметров модели. В этом случае мы говорим, что модель частично идентифицируема . В других случаях можно узнать местоположение истинного параметра до определенной конечной области пространства параметров, и в этом случае модель становится идентифицируемой .

Помимо строго теоретического исследования свойств модели, идентифицируемость можно рассматривать в более широком смысле, когда модель тестируется на наборах экспериментальных данных с использованием анализа идентифицируемости . ^[1]

Определение

Позволять ${\mathcal {P}}=\{P_{\theta }:\theta \in \Theta \}$ быть статистической моделью с пространством параметров $\Theta$ . Мы говорим, что ${\mathcal {P}}$ идентифицируемо , если отображение $\theta \mapsto P_{\theta }$ является один к одному : ^[2]

P_{\theta _{1}}=P_{\theta _{2}}\quad \Rightarrow \quad \theta _{1}=\theta _{2}\quad \ {\text{for all }}\theta _{1},\theta _{2}\in \Theta .

Это определение означает, что различные значения θ должны соответствовать различным распределениям вероятностей: если θ ₁ ≠ θ ₂ , то также P _{θ ₁} ≠ P _{θ ₂} . ^[3] Если распределения определены в терминах функций плотности вероятности (PDF), то две PDF-файлы следует считать различными, только если они различаются по множеству ненулевой меры (например, две функции ƒ ₁ ( x ) = 1 _{0 ≤ x < 1} и ƒ ₂ ( x ) = 1 _{0 ≤ x ≤ 1} различаются только в одной точке x = 1 — наборе нулевой меры — и, следовательно, не могут рассматриваться как отдельные PDF-файлы).

Идентифицируемость модели в смысле обратимости отображения $\theta \mapsto P_{\theta }$ эквивалентно возможности узнать истинный параметр модели, если за моделью можно наблюдать неопределенно долго. Действительно, если { X _t } ⊆ S — последовательность наблюдений модели, то по закону больших чисел усиленному

{\frac {1}{T}}\sum _{t=1}^{T}\mathbf {1} _{\{X_{t}\in A\}}\ {\xrightarrow {\text{a.s.}}}\ \Pr[X_{t}\in A],

для любого измеримого множества A ⊆ S (здесь 1 _{...} — индикаторная функция ). Таким образом, при бесконечном числе наблюдений мы сможем найти истинное распределение вероятностей P ₀ в модели, а поскольку приведенное выше условие идентифицируемости требует, чтобы отображение $\theta \mapsto P_{\theta }$ быть обратимым, мы также сможем найти истинное значение параметра, который породил данное распределение P ₀ .

Примеры

Пример 1

Позволять ${\mathcal {P}}$ быть обычным семейством в масштабе местоположения :

{\mathcal {P}}={\Big \{}\ f_{\theta }(x)={\tfrac {1}{{\sqrt {2\pi }}\sigma }}e^{-{\frac {1}{2\sigma ^{2}}}(x-\mu )^{2}}\ {\Big |}\ \theta =(\mu ,\sigma ):\mu \in \mathbb {R} ,\,\sigma \!>0\ {\Big \}}.

Затем

{\begin{aligned}&f_{\theta _{1}}(x)=f_{\theta _{2}}(x)\\[6pt]\Longleftrightarrow {}&{\frac {1}{{\sqrt {2\pi }}\sigma _{1}}}\exp \left(-{\frac {1}{2\sigma _{1}^{2}}}(x-\mu _{1})^{2}\right)={\frac {1}{{\sqrt {2\pi }}\sigma _{2}}}\exp \left(-{\frac {1}{2\sigma _{2}^{2}}}(x-\mu _{2})^{2}\right)\\[6pt]\Longleftrightarrow {}&{\frac {1}{\sigma _{1}^{2}}}(x-\mu _{1})^{2}+\ln \sigma _{1}={\frac {1}{\sigma _{2}^{2}}}(x-\mu _{2})^{2}+\ln \sigma _{2}\\[6pt]\Longleftrightarrow {}&x^{2}\left({\frac {1}{\sigma _{1}^{2}}}-{\frac {1}{\sigma _{2}^{2}}}\right)-2x\left({\frac {\mu _{1}}{\sigma _{1}^{2}}}-{\frac {\mu _{2}}{\sigma _{2}^{2}}}\right)+\left({\frac {\mu _{1}^{2}}{\sigma _{1}^{2}}}-{\frac {\mu _{2}^{2}}{\sigma _{2}^{2}}}+\ln \sigma _{1}-\ln \sigma _{2}\right)=0\end{aligned}}

Это выражение равно нулю почти для всех x только тогда, когда все его коэффициенты равны нулю, что возможно только при | σ ₁ | = | σ ₂ | и μ ₁ = μ ₂ . Поскольку в масштабе параметр σ ограничен значением больше нуля, мы заключаем, что модель идентифицируема: ƒ _{θ ₁} = ƒ _{θ ₂} ⇔ θ ₁ = θ ₂ .

Пример 2

Позволять ${\mathcal {P}}$ быть стандартной моделью линейной регрессии :

y=\beta 'x+\varepsilon ,\quad \mathrm {E} [\,\varepsilon \mid x\,]=0

матрицы (где ′ обозначает транспонирование ). Тогда параметр β идентифицируем тогда и только тогда, когда матрица $\mathrm {E} [xx']$ является обратимым. Таким образом, это условие идентификации в модели.

Пример 3

Предполагать ${\mathcal {P}}$ — классическая ошибок в переменных линейная модель :

{\begin{cases}y=\beta x^{*}+\varepsilon ,\\x=x^{*}+\eta ,\end{cases}}

где ( ε , η , x* только переменные ( x , y ) — совместно нормальные независимые случайные величины с нулевым ожидаемым значением и неизвестными дисперсиями, и наблюдаются ). Тогда эту модель невозможно идентифицировать, ^[4] только произведение βσ² _∗ (где σ² _∗ — это дисперсия скрытого регрессора x* ). Это также пример модели, идентифицируемой множеством : хотя точное значение β невозможно узнать, мы можем гарантировать, что оно должно лежать где-то в интервале ( β _yx , 1 ÷ β _xy ), где β _yx — коэффициент в МНК. регрессия y по x , а β _xy — коэффициент регрессии OLS x по y . ^[5]

Если отказаться от предположения о нормальности и потребовать, чтобы x* были не нормально распределены, сохранив лишь условие независимости ε ⊥ η ⊥ x* , то модель станет идентифицируемой. ^[4]

См. также

Ссылки

Цитаты

^ Рауэ, А.; Кройц, К.; Майвальд, Т.; Бахманн, Дж.; Шиллинг, М.; Клингмюллер, У.; Тиммер, Дж. (1 августа 2009 г.). «Структурный и практический анализ идентифицируемости частично наблюдаемых динамических моделей с использованием вероятности профиля» . Биоинформатика . 25 (15): 1923–1929. doi : 10.1093/биоинформатика/btp358 . ПМИД 19505944 .
^ Леманн и Казелла 1998 , гл. 1, Определение 5.2
^ ван дер Ваарт 1998 , с. 62
^ Перейти обратно: ^а ^б Разлив креветок 1950 г.
^ Казелла и Бергер 2002 , с. 583

Источники

Казелла, Джордж ; Бергер, Роджер Л. (2002), Статистический вывод (2-е изд.), ISBN 0-534-24312-6 , LCCN 2001025794
Сяо, Ченг (1983), Идентификация , Справочник по эконометрике, Том. 1, гл.4, Издательство «Северная Голландия»
Леманн, Эль ; Казелла, Г. (1998), Теория точечной оценки (2-е изд.), Springer, ISBN 0-387-98502-6
Рейерсол, Олав (1950), «Идентифицируемость линейной связи между переменными, которые подвержены ошибкам», Econometrica , 18 (4): 375–389, doi : 10.2307/1907835 , JSTOR 1907835
ван дер Ваарт, AW (1998), Асимптотическая статистика , Издательство Кембриджского университета , ISBN 978-0-521-49603-2

Дальнейшее чтение

Уолтер, Э. ; Пронцато, Л. (1997), Идентификация параметрических моделей на основе экспериментальных данных , Springer

Эконометрика

Льюбель, Артур (01 декабря 2019 г.). «Зоопарк идентификации: значения идентификации в эконометрике» . Журнал экономической литературы . 57 (4). Американская экономическая ассоциация: 835–903. дои : 10.1257/jel.20181361 . ISSN 0022-0515 . S2CID 125792293 .
Мацкин, Роза Л. (2013). «Непараметрическая идентификация в структурных экономических моделях». Ежегодный обзор экономики . 5 (1): 457–486. doi : 10.1146/annurev- Economics-082912-110231 .
Ротенберг, Томас Дж. (1971). «Идентификация в параметрических моделях». Эконометрика . 39 (3): 577–591. дои : 10.2307/1913267 . ISSN 0012-9682 . JSTOR 1913267 .

[1] Рауэ, А.; Кройц, К.; Майвальд, Т.; Бахманн, Дж.; Шиллинг, М.; Клингмюллер, У.; Тиммер, Дж. (1 августа 2009 г.). «Структурный и практический анализ идентифицируемости частично наблюдаемых динамических моделей с использованием вероятности профиля» . Биоинформатика . 25 (15): 1923–1929. doi : 10.1093/биоинформатика/btp358 . ПМИД 19505944 .

[2] Леманн и Казелла 1998 , гл. 1, Определение 5.2

[3] ван дер Ваарт 1998 , с. 62

[riersol-4] Перейти обратно: ^а ^б Разлив креветок 1950 г.

[5] Казелла и Бергер 2002 , с. 583

[1]

[2]

[3]

[4]

[5]