Теорема Фриша – Во – Ловелла.

В эконометрике теорема Фриша -Во-Ловелла (FWL) названа в честь эконометриков Рагнара Фриша , Фредерика В. Во и Майкла К. Ловелла . ^[1]^[2]^[3]

Теорема Фриша-Во-Ловелла утверждает, что если интересующая нас регрессия выражается через два отдельных набора переменных-предикторов:

Y=X_{1}\beta _{1}+X_{2}\beta _{2}+u

где $X_{1}$ и $X_{2}$ являются матрицами , $\beta _{1}$ и $\beta _{2}$ являются векторами (и $u$ – член ошибки), то оценка $\beta _{2}$ будет таким же, как его оценка из модифицированной регрессии вида:

M_{X_{1}}Y=M_{X_{1}}X_{2}\beta _{2}+M_{X_{1}}u,

где $M_{X_{1}}$ на ортогональное дополнение изображения проецируется проекции матрицы $X_{1}(X_{1}^{\mathsf {T}}X_{1})^{-1}X_{1}^{\mathsf {T}}$ . Эквивалентно, M _{X ₁} проецируется на ортогональное дополнение пространства столбцов X ₁ . Конкретно,

M_{X_{1}}=I-X_{1}(X_{1}^{\mathsf {T}}X_{1})^{-1}X_{1}^{\mathsf {T}},

и эта конкретная матрица ортогональной проекции известна как матрица создателя остатков или матрица аннигилятора . ^[4]^[5]

Вектор ${\textstyle M_{X_{1}}Y}$ — вектор остатков регрессии ${\textstyle Y}$ на колоннах ${\textstyle X_{1}}$ .

Наиболее важным следствием теоремы является то, что параметры в ${\textstyle \beta _{2}}$ не обращаться к ${\textstyle X_{2}}$ но чтобы ${\textstyle M_{X_{1}}X_{2}}$ , то есть: часть ${\textstyle X_{2}}$ не коррелирует с ${\textstyle X_{1}}$ . Это основа для понимания вклада каждой отдельной переменной в многомерную регрессию (см., например, гл. 13 в ^[6]).

Из теоремы также следует, что вторичная регрессия, используемая для получения $M_{X_{1}}$ нет необходимости, когда переменные-предикторы некоррелированы: использование матриц проекций для того, чтобы сделать независимые переменные ортогональными друг другу, приведет к тем же результатам, что и запуск регрессии со всеми включенными неортогональными объяснителями.

Более того, стандартные ошибки частичной регрессии равны ошибкам полной регрессии. ^[7]

История

Происхождение теоремы неясно, но она была хорошо известна в области линейной регрессии до статьи Фриша и Во. Всесторонний анализ частичных регрессий Джорджа Удни Юла , опубликованный в 1907 году, включал теорему в раздел 9 на странице 184. ^[8] Юл подчеркнул важность теоремы для понимания коэффициентов множественной и частичной регрессии и корреляции, как упоминалось в разделе 10 той же статьи. ^[8]

К 1933 году открытия Юла были общепризнаны. ^{[ ласковые слова ]}отчасти благодаря подробному обсуждению частичной корреляции и введению его новаторских обозначений в 1907 году. ^{[ нужна ссылка ]} Теорема, позже связанная с Фришем, Во и Ловеллом, также была включена в главу 10 успешного учебника Юла по статистике, впервые опубликованного в 1911 году. К 1932 году книга вышла в десятое издание. ^[9]

В статье 1931 года, написанной в соавторстве с Маджеттом, Фриш процитировал результаты Юла. ^[10] Формулы Юла для частичной регрессии были процитированы и явно приписывались ему, чтобы исправить неправильную цитату другого автора. ^[10] Хотя Юл не упоминался явно в статье Фриша и Во 1933 года, они использовали обозначения для коэффициентов частичной регрессии, первоначально введенные Юлом в 1907 году, которые получили широкое признание к 1933 году. ^{[ оригинальное исследование? ]}.

В 1963 году Ловелл опубликовал доказательство. ^[11] считается более простым и интуитивно понятным. В знак признания люди обычно добавляют его имя к названию теоремы.

Ссылки

^ Фриш, Рагнар; Во, Фредерик В. (1933). «Частичная временная регрессия по сравнению с индивидуальными тенденциями». Эконометрика . 1 (4): 387–401. дои : 10.2307/1907330 . JSTOR 1907330 .
^ Ловелл, М. (1963). «Сезонная корректировка экономических временных рядов и множественный регрессионный анализ». Журнал Американской статистической ассоциации . 58 (304): 993–1010. дои : 10.1080/01621459.1963.10480682 .
^ Ловелл, М. (2008). «Простое доказательство теоремы FWL». Журнал экономического образования . 39 (1): 88–91. doi : 10.3200/JECE.39.1.88-91 . S2CID 154907484 .
^ Хаяси, Фумио (2000). Эконометрика . Принстон: Издательство Принстонского университета. стр. 18–19. ISBN 0-691-01018-8 .
^ Дэвидсон, Джеймс (2000). Эконометрическая теория . Молден: Блэквелл. п. 7. ISBN 0-631-21584-0 .
^ Мостеллер, Ф.; Тьюки, JW (1977). Анализ данных и регрессия — второй курс статистики . Аддисон-Уэсли.
^ Пэн, Дин (2021). «Теорема Фриша--Во-Ловелла для стандартных ошибок» . Статистика и вероятностные буквы . 168 :108945.
^ Перейти обратно: ^а ^б Юл, Джордж Удный (1907). «К теории корреляции для любого числа переменных, трактуемой новой системой обозначений» . Труды Королевского общества А. 79 (529): 182–193. дои : 10.1098/rspa.1907.0028 . hdl : 2027/coo.31924081088423 .
^ Юл, Джордж Удни (1932). Введение в теорию статистики, 10-е издание . Лондон: Чарльз Гриффин и компания.
^ Перейти обратно: ^а ^б Фриш, Рагнар; Маджетт, Б.Д. (1931). «Статистическая корреляция и теория типов кластеров» (PDF) . Журнал Американской статистической ассоциации . 21 (176): 375–392. дои : 10.1080/01621459.1931.10502225 .
^ Ловелл, М. (1963). «Сезонная корректировка экономических временных рядов и множественный регрессионный анализ». Журнал Американской статистической ассоциации . 58 (304): 993–1010. дои : 10.1080/01621459.1963.10480682 .

Дальнейшее чтение

Дэвидсон, Рассел; Маккиннон, Джеймс Г. (1993). Оценка и вывод в эконометрике . Нью-Йорк: Издательство Оксфордского университета. стр. 19–24. ISBN 0-19-506011-3 .
Дэвидсон, Рассел; Маккиннон, Джеймс Г. (2004). Эконометрическая теория и методы . Нью-Йорк: Издательство Оксфордского университета. стр. 62–75 . ISBN 0-19-512372-7 .
Хасти, Тревор ; Тибширани, Роберт ; Фридман, Джером (2017). «Множественная регрессия на основе простой одномерной регрессии» (PDF) . Элементы статистического обучения: интеллектуальный анализ данных, вывод и прогнозирование (2-е изд.). Нью-Йорк: Спрингер. стр. 52–55. ISBN 978-0-387-84857-0 .
Рууд, Пенсильвания (2000). Введение в классическую эконометрическую теорию . Нью-Йорк: Издательство Оксфордского университета. стр. 54–60. ISBN 0-19-511164-8 .
Стачурски, Джон (2016). Букварь по эконометрической теории . МТИ Пресс. стр. 311–314. ISBN 9780262337465 .

[1] Фриш, Рагнар; Во, Фредерик В. (1933). «Частичная временная регрессия по сравнению с индивидуальными тенденциями». Эконометрика . 1 (4): 387–401. дои : 10.2307/1907330 . JSTOR 1907330 .

[2] Ловелл, М. (1963). «Сезонная корректировка экономических временных рядов и множественный регрессионный анализ». Журнал Американской статистической ассоциации . 58 (304): 993–1010. дои : 10.1080/01621459.1963.10480682 .

[3] Ловелл, М. (2008). «Простое доказательство теоремы FWL». Журнал экономического образования . 39 (1): 88–91. doi : 10.3200/JECE.39.1.88-91 . S2CID 154907484 .

[4] Хаяси, Фумио (2000). Эконометрика . Принстон: Издательство Принстонского университета. стр. 18–19. ISBN 0-691-01018-8 .

[5] Дэвидсон, Джеймс (2000). Эконометрическая теория . Молден: Блэквелл. п. 7. ISBN 0-631-21584-0 .

[6] Мостеллер, Ф.; Тьюки, JW (1977). Анализ данных и регрессия — второй курс статистики . Аддисон-Уэсли.

[7] Пэн, Дин (2021). «Теорема Фриша--Во-Ловелла для стандартных ошибок» . Статистика и вероятностные буквы . 168 :108945.

[:0-8] Перейти обратно: ^а ^б Юл, Джордж Удный (1907). «К теории корреляции для любого числа переменных, трактуемой новой системой обозначений» . Труды Королевского общества А. 79 (529): 182–193. дои : 10.1098/rspa.1907.0028 . hdl : 2027/coo.31924081088423 .

[9] Юл, Джордж Удни (1932). Введение в теорию статистики, 10-е издание . Лондон: Чарльз Гриффин и компания.

[:1-10] Перейти обратно: ^а ^б Фриш, Рагнар; Маджетт, Б.Д. (1931). «Статистическая корреляция и теория типов кластеров» (PDF) . Журнал Американской статистической ассоциации . 21 (176): 375–392. дои : 10.1080/01621459.1931.10502225 .

[11] Ловелл, М. (1963). «Сезонная корректировка экономических временных рядов и множественный регрессионный анализ». Журнал Американской статистической ассоциации . 58 (304): 993–1010. дои : 10.1080/01621459.1963.10480682 .

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]