Многомерный дисперсионный анализ

На изображении выше показано визуальное сравнение многомерного дисперсионного анализа (MANOVA) и одномерного дисперсионного анализа (ANOVA). В MANOVA исследователи изучают групповые различия единственной независимой переменной по нескольким переменным результата, тогда как в ANOVA исследователи изучают групповые различия иногда нескольких независимых переменных в единственной переменной результата. В приведенном примере уровни IV могут включать среднюю школу, колледж и аспирантуру. Результаты MANOVA могут сказать нам, показал ли человек, окончивший аспирантуру, более высокую удовлетворенность жизнью И работой, чем человек, окончивший только среднюю школу или колледж. Результаты ANOVA могут сообщить нам только эту информацию об удовлетворенности жизнью. Анализ групповых различий по нескольким переменным результата часто дает более точную информацию, поскольку чистая связь только между X и только Y редко существует в природе.

В статистике многомерный дисперсионный анализ ( МАНОВА ) — это процедура сравнения средних значений многомерной выборки. Как многомерная процедура, она используется при наличии двух и более зависимых переменных . и часто за ним следуют тесты значимости, включающие отдельные зависимые переменные по отдельности.

Независимо от изображения, зависимыми переменными могут быть k показателей удовлетворенности жизнью, измеренные в последовательные моменты времени, и p показателей удовлетворенности работой, измеренные в последовательные моменты времени. В этом случае существуют k + p зависимые переменные, линейная комбинация которых соответствует многомерному нормальному распределению, однородности многомерной дисперсионно-ковариационной матрицы и линейной зависимости, без мультиколлинеарности и каждая без выбросов.

Модель

Предполагать ${\textstyle n}$ ${\textstyle q}$-мерные наблюдения, где ${\textstyle i}$'е наблюдение ${\textstyle y_{i}}$ закреплен за группой ${\textstyle g(i)\in \{1,\dots ,m\}}$ и распределяется вокруг центра группы ${\textstyle \mu ^{(g(i))}\in \mathbb {R} ^{q}}$ с многомерным гауссовским шумом:

$$y_{i}=\mu ^{(g(i))}+\varepsilon _{i}\quad \varepsilon _{i}{\overset {\text{i.i.d.}}{\sim }}{\mathcal {N}}_{q}(0,\Sigma )\quad {\text{ for }}i=1,\dots ,n,$$

где ${\textstyle \Sigma }$ — ковариационная матрица . Затем мы формулируем нашу нулевую гипотезу как

$$H_{0}\!:\;\mu ^{(1)}=\mu ^{(2)}=\dots =\mu ^{(m)}.$$

с

MANOVA — это обобщенная форма одномерного дисперсионного анализа (ANOVA), хотя, в отличие от одномерного дисперсионного анализа , он использует ковариацию между переменными результата при проверке статистической значимости средних различий.

Там, где в одномерном дисперсионном анализе появляются суммы квадратов , в многомерном дисперсионном анализе определенные положительно определенные матрицы появляются . Диагональные элементы представляют собой те же суммы квадратов, которые появляются в одномерном дисперсионном анализе. Внедиагональные записи представляют собой соответствующие суммы произведений. При предположениях о нормальности распределения ошибок аналог суммы квадратов ошибок имеет распределение Уишарта .

Проверка гипотез

Сначала определите следующее ${\textstyle n\times q}$ матрицы:

• ${\textstyle Y}$: где ${\textstyle i}$-я строка равна ${\textstyle y_{i}}$

• ${\textstyle {\hat {Y}}}$: где ${\textstyle i}$-я строка — лучший прогноз с учетом членства в группе ${\textstyle g(i)}$. Это среднее значение по всем наблюдениям в группе. ${\textstyle g(i)}$: ${\textstyle {\frac {1}{{\text{size of group }}g(i)}}\sum _{k:g(k)=g(i)}y_{k}}$.

• ${\textstyle {\bar {Y}}}$: где ${\textstyle i}$-я строка — лучший прогноз при отсутствии информации. Это эмпирическое среднее значение для всех ${\textstyle n}$ наблюдения ${\textstyle {\frac {1}{n}}\sum _{k=1}^{n}y_{k}}$

Тогда матрица ${\textstyle S_{\text{model}}:=({\hat {Y}}-{\bar {Y}})^{T}({\hat {Y}}-{\bar {Y}})}$ является обобщением суммы квадратов, объясненной группой, и ${\textstyle S_{\text{res}}:=(Y-{\hat {Y}})^{T}(Y-{\hat {Y}})}$ является обобщением остаточной суммы квадратов . Обратите внимание, что в качестве альтернативы можно также говорить о ковариациях, когда вышеупомянутые матрицы масштабируются на 1/(n-1), поскольку последующая тестовая статистика не меняется при умножении ${\textstyle S_{\text{model}}}$ и ${\textstyle S_{\text{res}}}$ той же ненулевой константой.

Самый распространенный статистика представляет собой сводку, основанную на корнях (или собственных значениях) ${\textstyle \lambda _{p}}$ матрицы ${\textstyle A:=S_{\text{model}}S_{\text{res}}^{-1}}$

• Сэмюэл Стэнли Уилкс $\Lambda _{\text{Wilks}}=\prod _{1,\ldots ,p}(1/(1+\lambda _{p}))=\det(I+A)^{-1}=\det(S_{\text{res}})/\det(S_{\text{res}}+S_{\text{model}})$ распределяется как лямбда (Λ)
• KC Sreedharan Pillai – MS Bartlett трасса , $\Lambda _{\text{Pillai}}=\sum _{1,\ldots ,p}(\lambda _{p}/(1+\lambda _{p}))=\operatorname {tr} (A(I+A)^{-1})$
• след Лоули- Хотеллинга , $\Lambda _{\text{LH}}=\sum _{1,\ldots ,p}(\lambda _{p})=\operatorname {tr} (A)$
• Самый большой корень Роя (также называемый самым большим корнем Роя ), $\Lambda _{\text{Roy}}=\max _{p}(\lambda _{p})$

Продолжается обсуждение достоинств каждого из них. хотя величайший корень приводит только к границе значимости, которая обычно не представляет практического интереса. Еще одна сложность заключается в том, что, за исключением наибольшего корня Роя, распределение этих статистических данных при нулевой гипотезе не является прямым и может быть только аппроксимировано, за исключением нескольких случаев малой размерности.Алгоритм распределения наибольшего корня Роя при нулевой гипотезе был получен в а распределение при альтернативе изучается в .

Самое известное приближение для лямбды Уилкса было получено Ч.Р. Рао .

В случае двух групп все статистические данные эквивалентны, и критерий сводится к Т-квадрату Хотеллинга .

Введение ковариат (MANCOVA)

Основная статья: Многомерный ковариационный анализ

Можно также проверить, существует ли групповой эффект после поправки на ковариаты. Для этого выполните описанную выше процедуру, но замените ${\textstyle {\hat {Y}}}$ с предсказаниями общей линейной модели , содержащей группу и ковариаты, и заменить ${\textstyle {\bar {Y}}}$ с предсказаниями общей линейной модели, содержащей только ковариаты (и отрезок). Затем ${\textstyle S_{\text{model}}}$ представляют собой дополнительную сумму квадратов, объясняемую добавлением информации о группировке и ${\textstyle S_{\text{res}}}$ — остаточная сумма квадратов модели, содержащей группировку и ковариаты.

Обратите внимание, что в случае несбалансированных данных порядок добавления ковариат имеет значение.

Корреляция зависимых переменных

Это графическое изображение необходимой взаимосвязи между переменными результата в многомерном дисперсионном анализе. Часть анализа включает создание составной переменной, по которой анализируются групповые различия независимой переменной. Составные переменные, поскольку их может быть несколько, представляют собой различные комбинации результирующих переменных. Затем анализ определяет, какая комбинация показывает наибольшие групповые различия для независимой переменной. Затем описательный дискриминантный анализ используется в качестве апостериорного теста, чтобы определить, какой состав этой составной переменной создает наибольшие групповые различия.

Это простое визуальное представление эффекта двух сильно коррелирующих зависимых переменных в MANOVA. Если две (или более) зависимые переменные сильно коррелируют, вероятность возникновения ошибки типа I снижается, но компромисс заключается в том, что мощность теста MANOVA также снижается.

На мощность MANOVA влияют корреляции зависимых переменных и размеры эффекта, связанные с этими переменными. Например, при наличии двух групп и двух зависимых переменных мощность MANOVA минимальна, когда корреляция равна отношению меньшего к большему стандартизованному размеру эффекта.

См. также

• Перестановочный анализ дисперсии для непараметрической альтернативы
• Дискриминантный функциональный анализ
• Канонический корреляционный анализ
• Многомерный дисперсионный анализ (Викиверситет)
• Проектирование повторяющихся мер