На первый взгляд несвязанные регрессии

В эконометрике , казалось бы, несвязанные регрессии ( SUR ) ^[1]^: 306^[2]^: 279^[3]^: 332 или, казалось бы, несвязанные уравнения регрессии ( УВЕРЕНО ) ^[4]^[5]^: 2 Модель, предложенная Арнольдом Зеллнером в (1962), представляет собой обобщение модели линейной регрессии , состоящей из нескольких уравнений регрессии, каждое из которых имеет свою собственную зависимую переменную и потенциально разные наборы экзогенных объясняющих переменных. Каждое уравнение само по себе является допустимой линейной регрессией и может быть оценено отдельно, поэтому систему называют кажущейся несвязанной . ^[3]^: 332 хотя некоторые авторы предполагают, что термин «кажущаяся родственность» был бы более подходящим, ^[1]^: 306 поскольку предполагается, что члены ошибок коррелируют во всех уравнениях.

Модель можно оценить по каждому уравнению с использованием стандартного метода наименьших квадратов (OLS). Такие оценки последовательны , однако, как правило, не так эффективны , как метод SUR, который сводится к осуществимому обобщенному методу наименьших квадратов с определенной формой дисперсионно-ковариационной матрицы. Два важных случая, когда SUR фактически эквивалентен OLS, - это когда члены ошибок фактически не коррелируют между уравнениями (так что они действительно не связаны) и когда каждое уравнение содержит точно такой же набор регрессоров в правой части.

Модель SUR можно рассматривать как упрощение общей линейной модели, в которой определенные коэффициенты в матрице $\mathrm {B}$ ограничены равными нулю или являются обобщением общей линейной модели , где регрессоры в правой части могут быть разными в каждом уравнении. Модель SUR можно далее обобщить в модель одновременных уравнений , где правые регрессоры также могут быть эндогенными переменными.

Модель

Предположим, что существует m уравнений регрессии

y_{ir}=x_{ir}^{\mathsf {T}}\;\!\beta _{i}+\varepsilon _{ir},\quad i=1,\ldots ,m.

Здесь i представляет номер уравнения, r = 1,…, R — индивидуальное наблюдение, и мы берем транспонирование $x_{ir}$ вектор-столбец. Число наблюдений R предполагается большим, поэтому при анализе принимаем R → $\infty$ , тогда как количество уравнений m остается фиксированным.

Каждое уравнение i имеет одну переменную отклика y _ir и k _i -мерный вектор регрессоров x _ir . Если мы сложим наблюдения, соответствующие i -му уравнению, в R -мерные векторы и матрицы, то модель можно записать в векторной форме как

y_{i}=X_{i}\beta _{i}+\varepsilon _{i},\quad i=1,\ldots ,m,

где y _i и ε _i — векторы R × 1, X _i — матрица R × k _i , а β _i — вектор k _i × 1.

Наконец, если мы сложим эти m векторных уравнений друг на друга, система примет вид ^[4]^{: экв. (2.2)}

{\begin{pmatrix}y_{1}\\y_{2}\\\vdots \\y_{m}\end{pmatrix}}={\begin{pmatrix}X_{1}&0&\ldots &0\\0&X_{2}&\ldots &0\\\vdots &\vdots &\ddots &\vdots \\0&0&\ldots &X_{m}\end{pmatrix}}{\begin{pmatrix}\beta _{1}\\\beta _{2}\\\vdots \\\beta _{m}\end{pmatrix}}+{\begin{pmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\vdots \\\varepsilon _{m}\end{pmatrix}}=X\beta +\varepsilon \,.

( 1 )

Предположение модели состоит в том, что члены ошибок ε _ir независимы между наблюдениями, но могут иметь корреляции перекрестных уравнений внутри наблюдений. Таким образом, мы предполагаем, что [ ε _ir ε _| E X ] = 0 всякий раз, когда r ≠ s , тогда как E[ ε _ir ε _jr | Икс ] знак равно σ _ij . Обозначая Σ = [ σ _ij ] матрицу скедастичности m × m каждого наблюдения, ковариационная матрица суммированных ошибок ε будет равна ^[4]^{: экв. (2.4)}^[3]^: 332

\Omega \equiv \operatorname {E} [\,\varepsilon \varepsilon ^{\mathsf {T}}\,|X\,]=\Sigma \otimes I_{R},

где I _R — R -мерная единичная матрица , а ⊗ обозначает матричное произведение Кронекера .

Оценка

Модель SUR обычно оценивается с использованием метода обобщенных наименьших квадратов (FGLS). Это двухэтапный метод, в котором на первом этапе мы запускаем наименьших квадратов обычную регрессию для ( 1 ). Остатки этой регрессии используются для оценки элементов матрицы $\Sigma$ : ^[6]^: 198

{\hat {\sigma }}_{ij}={\frac {1}{R}}\,{\hat {\varepsilon }}_{i}^{\mathsf {T}}{\hat {\varepsilon }}_{j}.

На втором этапе мы запускаем обобщенную регрессию наименьших квадратов для ( 1 ), используя матрицу отклонений. $\scriptstyle {\hat {\Omega }}\;=\;{\hat {\Sigma }}\,\otimes \,I_{R}$ :

{\hat {\beta }}={\Big (}X^{\mathsf {T}}({\hat {\Sigma }}^{-1}\otimes I_{R})X{\Big )}^{\!-1}X^{\mathsf {T}}({\hat {\Sigma }}^{-1}\otimes I_{R})\,y.

Эта оценка является несмещенной в небольших выборках, если предположить, что члены ошибок ε _ir имеют симметричное распределение; в больших выборках оно непротиворечиво и асимптотически нормально с предельным распределением ^[6]^: 198

{\sqrt {R}}({\hat {\beta }}-\beta )\ {\xrightarrow {d}}\ {\mathcal {N}}{\Big (}\,0,\;{\Big (}{\tfrac {1}{R}}X^{\mathsf {T}}(\Sigma ^{-1}\otimes I_{R})X{\Big )}^{\!-1}\,{\Big )}.

Для модели SUR были предложены другие методы оценки, помимо FGLS: ^[7] метод максимального правдоподобия (ML) в предположении, что ошибки нормально распределены; итеративный обобщенный метод наименьших квадратов (IGLS), где остатки второго шага FGLS используются для пересчета матрицы $\scriptstyle {\hat {\Sigma }}$ , то оцените $\scriptstyle {\hat {\beta }}$ снова используя GLS и так далее, пока не будет достигнута сходимость; итерационная схема обычных наименьших квадратов (IOLS), где оценка выполняется на основе каждого уравнения, но каждое уравнение включает в качестве дополнительных регрессоров остатки из ранее оцененных уравнений, чтобы учесть корреляции между уравнениями, оценка выполнять итеративно, пока не будет достигнута сходимость. Кмента и Гилберт (1968) провели исследование Монте-Карло и установили, что все три метода — IGLS, IOLS и ML — дают численно эквивалентные результаты. Они также обнаружили, что асимптотическое распределение этих оценок такое же, как распределение оценки FGLS. , тогда как в небольших выборках ни одна из оценок не превосходила другие. ^[8] Зеллнер и Андо (2010) разработали прямой метод Монте-Карло для байесовского анализа модели SUR. ^[9]

Эквивалентность OLS

Есть два важных случая, когда оценки SUR оказываются эквивалентными МНК для каждого уравнения. Эти случаи:

Когда известно, что матрица Σ диагональна, то есть между членами ошибок нет корреляций перекрестных уравнений. В этом случае система становится не кажущейся, а действительно несвязанной.
Когда каждое уравнение содержит один и тот же набор регрессоров, то есть X ₁ = X ₂ = … = X _m . То, что оценки оказываются численно идентичными оценкам МНК, следует из теоремы Краскала о дереве : ^[1]^: 313 или может быть показано прямым расчетом. ^[6]^: 197

Статистические пакеты

В R SUR можно оценить с помощью пакета systemfit. ^[10]^[11]^[12]^[13]
В SAS SUR можно оценить с помощью syslin процедура. ^[14]
В Stata SUR можно оценить с помощью sureg и suest команды. ^[15]^[16]^[17]
В Limdep SUR можно оценить с помощью sure команда ^[18]
В Python SUR можно оценить с помощью команды SUR в пакете «линейные модели». ^[19]
В gretl SUR можно оценить с помощью system команда.

См. также

Ссылки

^ Jump up to: ^а ^б ^с Дэвидсон, Рассел; Маккиннон, Джеймс Г. (1993). Оценка и вывод в эконометрике . Издательство Оксфордского университета. ISBN 978-0-19-506011-9 .
^ Хаяси, Фумио (2000). Эконометрика . Издательство Принстонского университета. ISBN 978-0-691-01018-2 .
^ Jump up to: ^а ^б ^с Грин, Уильям Х. (2012). Эконометрический анализ (Седьмое изд.). Река Аппер-Седл: Пирсон Прентис-Холл. стр. 332–344. ISBN 978-0-273-75356-8 .
^ Jump up to: ^а ^б ^с Зеллнер, Арнольд (1962). «Эффективный метод оценки, казалось бы, несвязанных уравнений регрессии и тестов на предвзятость агрегирования». Журнал Американской статистической ассоциации . 57 (298): 348–368. дои : 10.2307/2281644 . JSTOR 2281644 .
^ Шривастава, Вирендра К.; Джайлз, Дэвид Э.А. (1987). На вид несвязанные модели уравнений регрессии: оценка и вывод . Нью-Йорк: Марсель Деккер. ISBN 978-0-8247-7610-7 .
^ Jump up to: ^а ^б ^с Амемия, Такеши (1985). Продвинутая эконометрика . Кембридж, Массачусетс: Издательство Гарвардского университета. п. 197 . ISBN 978-0-674-00560-0 .
^ Шривастава, В.К.; Двиведи, Т.Д. (1979). «Оценка, казалось бы, несвязанных между собой уравнений регрессии: краткий обзор». Журнал эконометрики . 10 (1): 15–32. дои : 10.1016/0304-4076(79)90061-7 .
^ Кмента, Ян ; Гилберт, Рой Ф. (1968). «Небольшие выборочные свойства альтернативных оценок, казалось бы, несвязанных регрессий». Журнал Американской статистической ассоциации . 63 (324): 1180–1200. дои : 10.2307/2285876 . JSTOR 2285876 .
^ Зеллнер, А.; Андо, Т. (2010). «Прямой подход Монте-Карло для байесовского анализа, казалось бы, несвязанной модели регрессии». Журнал эконометрики . 159 : 33–45. CiteSeerX 10.1.1.553.7799 . doi : 10.1016/j.jeconom.2010.04.005 .
^ пакета Примеры доступны в виньетке .
^ Зейлейс, Ахим (2008). «Представление задач CRAN: вычислительная эконометрика» . {{cite journal}}: Для цитирования журнала требуется |journal= ( помощь )
^ Кляйбер, Кристиан; Зейлейс, Ахим (2008). Прикладная эконометрика с Р. Нью-Йорк: Спрингер. стр. 89–90. ISBN 978-0-387-77318-6 .
^ Винод, Хришикеш Д. (2008). «Идентификация моделей одновременных уравнений» . Практическое занятие по эконометрике среднего уровня с использованием R . Всемирная научная. стр. 282–88. ISBN 978-981-281-885-0 .
^ «Оценка SUR, 3SLS и FIML» . Поддержка САС .
^ «sureg — казалось бы, несвязанная регрессия Зеллнера» (PDF) . Руководство по Стате .
^ Баум, Кристофер Ф. (2006). Введение в современную эконометрику с использованием Stata . Колледж-Стейшн: Stata Press. стр. 236–242. ISBN 978-1-59718-013-9 .
^ Кэмерон, А. Колин; Триведи, Правин К. (2010). «Система линейных регрессий» . Микроэконометрика с использованием Stata (пересмотренная ред.). Колледж-Стейшн: Stata Press. стр. 162–69. ISBN 978-1-59718-073-3 .
^ «Архивная копия» . Архивировано из оригинала 24 апреля 2016 г. Проверено 13 апреля 2016 г. {{cite web}}: CS1 maint: архивная копия в заголовке ( ссылка )
^ «Оценщики системной регрессии — документация по линейным моделям 3.5» . bashtage.github.io . Проверено 3 июля 2017 г.

Дальнейшее чтение

Дэвидсон, Джеймс (2000). Эконометрическая теория . Оксфорд: Блэквелл. стр. 308–314. ISBN 978-0-631-17837-8 .
Фибиг, Дензил Г. (2001). «Казалось бы несвязанная регрессия». В Балтаги, Бади Х. (ред.). Спутник теоретической эконометрики . Оксфорд: Блэквелл. стр. 101–121. ISBN 978-0-631-21254-6 .
Грин, Уильям Х. (2012). Эконометрический анализ (Седьмое изд.). Река Аппер-Седл: Пирсон Прентис-Холл. стр. 332–344. ISBN 978-0-273-75356-8 .

[DavidsonMacKinnon1993-1] Jump up to: ^а ^б ^с Дэвидсон, Рассел; Маккиннон, Джеймс Г. (1993). Оценка и вывод в эконометрике . Издательство Оксфордского университета. ISBN 978-0-19-506011-9 .

[2] Хаяси, Фумио (2000). Эконометрика . Издательство Принстонского университета. ISBN 978-0-691-01018-2 .

[Greene2012-3] Jump up to: ^а ^б ^с Грин, Уильям Х. (2012). Эконометрический анализ (Седьмое изд.). Река Аппер-Седл: Пирсон Прентис-Холл. стр. 332–344. ISBN 978-0-273-75356-8 .

[Zellner1962-4] Jump up to: ^а ^б ^с Зеллнер, Арнольд (1962). «Эффективный метод оценки, казалось бы, несвязанных уравнений регрессии и тестов на предвзятость агрегирования». Журнал Американской статистической ассоциации . 57 (298): 348–368. дои : 10.2307/2281644 . JSTOR 2281644 .

[5] Шривастава, Вирендра К.; Джайлз, Дэвид Э.А. (1987). На вид несвязанные модели уравнений регрессии: оценка и вывод . Нью-Йорк: Марсель Деккер. ISBN 978-0-8247-7610-7 .

[Amemiya1985-6] Jump up to: ^а ^б ^с Амемия, Такеши (1985). Продвинутая эконометрика . Кембридж, Массачусетс: Издательство Гарвардского университета. п. 197 . ISBN 978-0-674-00560-0 .

[7] Шривастава, В.К.; Двиведи, Т.Д. (1979). «Оценка, казалось бы, несвязанных между собой уравнений регрессии: краткий обзор». Журнал эконометрики . 10 (1): 15–32. дои : 10.1016/0304-4076(79)90061-7 .

[8] Кмента, Ян ; Гилберт, Рой Ф. (1968). «Небольшие выборочные свойства альтернативных оценок, казалось бы, несвязанных регрессий». Журнал Американской статистической ассоциации . 63 (324): 1180–1200. дои : 10.2307/2285876 . JSTOR 2285876 .

[9] Зеллнер, А.; Андо, Т. (2010). «Прямой подход Монте-Карло для байесовского анализа, казалось бы, несвязанной модели регрессии». Журнал эконометрики . 159 : 33–45. CiteSeerX 10.1.1.553.7799 . doi : 10.1016/j.jeconom.2010.04.005 .

[10] пакета Примеры доступны в виньетке .

[Zeileis2008-11] Зейлейс, Ахим (2008). «Представление задач CRAN: вычислительная эконометрика» . {{cite journal}}: Для цитирования журнала требуется |journal= ( помощь )

[12] Кляйбер, Кристиан; Зейлейс, Ахим (2008). Прикладная эконометрика с Р. Нью-Йорк: Спрингер. стр. 89–90. ISBN 978-0-387-77318-6 .

[13] Винод, Хришикеш Д. (2008). «Идентификация моделей одновременных уравнений» . Практическое занятие по эконометрике среднего уровня с использованием R . Всемирная научная. стр. 282–88. ISBN 978-981-281-885-0 .

[14] «Оценка SUR, 3SLS и FIML» . Поддержка САС .

[15] «sureg — казалось бы, несвязанная регрессия Зеллнера» (PDF) . Руководство по Стате .

[16] Баум, Кристофер Ф. (2006). Введение в современную эконометрику с использованием Stata . Колледж-Стейшн: Stata Press. стр. 236–242. ISBN 978-1-59718-013-9 .

[17] Кэмерон, А. Колин; Триведи, Правин К. (2010). «Система линейных регрессий» . Микроэконометрика с использованием Stata (пересмотренная ред.). Колледж-Стейшн: Stata Press. стр. 162–69. ISBN 978-1-59718-073-3 .

[18] «Архивная копия» . Архивировано из оригинала 24 апреля 2016 г. Проверено 13 апреля 2016 г. {{cite web}}: CS1 maint: архивная копия в заголовке ( ссылка )

[19] «Оценщики системной регрессии — документация по линейным моделям 3.5» . bashtage.github.io . Проверено 3 июля 2017 г.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]

[17]

[18]

[19]