Двусторонний дисперсионный анализ

В статистике двусторонний дисперсионный анализ ( ANOVA ) является расширением однофакторного дисперсионного анализа , который исследует влияние двух разных категориальных независимых переменных на одну непрерывную зависимую переменную . Двусторонний дисперсионный анализ направлен не только на оценку основного эффекта каждой независимой переменной, но также на то, существует ли какое-либо взаимодействие между ними.

История

В 1925 году Рональд Фишер упоминает двусторонний дисперсионный анализ в своей знаменитой книге «Статистические методы для научных работников» (главы 7 и 8). В 1934 году Фрэнк Йейтс опубликовал процедуры для несбалансированного случая. ^[1] С тех пор была выпущена обширная литература. Тема была рассмотрена в 1993 году Ясунори Фудзикоши . ^[2] В 2005 году Эндрю Гельман предложил другой подход ANOVA, рассматриваемый как многоуровневая модель . ^[3]

Набор данных

Давайте представим себе набор данных , для которого на зависимую переменную могут влиять два фактора , которые являются потенциальными источниками вариаций. Первый фактор имеет $I$ уровни ( $i\in \{1,\ldots ,I\}$ ), а второй имеет $J$ уровни ( $j\in \{1,\ldots ,J\}$ ) . Каждая комбинация $(i,j)$ определяет лечение , в общей сложности $I\times J$ методы лечения. Представляем количество повторов для лечения $(i,j)$ к $n_{ij}$ , и пусть $k$ быть индексом реплики в этой обработке ( $k\in \{1,\ldots ,n_{ij}\}$ ) .

По этим данным мы можем построить таблицу сопряженности , где $n_{i+}=\sum _{j=1}^{J}n_{ij}$ и $n_{+j}=\sum _{i=1}^{I}n_{ij}$ , а общее количество повторов равно $n=\sum _{i,j}n_{ij}=\sum _{i}n_{i+}=\sum _{j}n_{+j}$ .

План эксперимента является сбалансированным, если каждая обработка имеет одинаковое количество повторов. $K$ . В таком случае план также называют ортогональным , что позволяет полностью различать влияние обоих факторов. Следовательно, мы можем написать $\forall i,j\;n_{ij}=K$ , и $\forall i,j\;n_{ij}={\frac {n_{i+}\cdot n_{+j}}{n}}$ .

Модель

Наблюдая вариации среди всех $n$ точки данных, например, с помощью гистограммы , « вероятность может быть использована для описания такого изменения». ^[4] Поэтому обозначим через $Y_{ijk}$ случайная величина, наблюдаемое значение которой $y_{ijk}$ это $k$ -е мероприятие по лечению $(i,j)$ . Двусторонний дисперсионный анализ моделирует все эти переменные как изменяющиеся независимо и обычно вокруг среднего значения. $\mu _{ij}$ , с постоянной дисперсией, $\sigma ^{2}$ ( гомоскедастичность ):

$Y_{ijk}\,|\,\mu _{ij},\sigma ^{2}\;{\overset {\mathrm {i.i.d.} }{\sim }}\;{\mathcal {N}}(\mu _{ij},\sigma ^{2})$ .

В частности, среднее значение переменной ответа моделируется как линейная комбинация объясняющих переменных:

$\mu _{ij}=\mu +\alpha _{i}+\beta _{j}+\gamma _{ij}$ ,

где $\mu$ это среднее значение, $\alpha _{i}$ является аддитивным основным эффектом уровня $i$ от первого фактора ( i -я строка таблицы сопряженности), $\beta _{j}$ является аддитивным основным эффектом уровня $j$ от второго фактора ( j -й столбец таблицы сопряженности) и $\gamma _{ij}$ - эффект неаддитивного взаимодействия лечения $(i,j)$ для образцов $k=1,...,n_{ij}$ от обоих факторов (ячейка в строке i и столбце j в таблице непредвиденных обстоятельств).

Другой эквивалентный способ описания двустороннего дисперсионного анализа — это упоминание о том, что помимо вариаций, объясняемых факторами, остается некоторый статистический шум . Такое количество необъяснимых вариаций обрабатывается путем введения одной случайной величины в каждую точку данных. $\epsilon _{ijk}$ , называется ошибкой . Эти $n$ случайные величины рассматриваются как отклонения от среднего значения и считаются независимыми и нормально распределенными:

$Y_{ijk}=\mu _{ij}+\epsilon _{ijk}{\text{ with }}\epsilon _{ijk}{\overset {\mathrm {i.i.d.} }{\sim }}{\mathcal {N}}(0,\sigma ^{2})$ .

Предположения

Согласно Гельману и Хиллу , предположения ANOVA и, в более общем смысле, общей линейной модели , расположены в порядке убывания важности: ^[5]

данные имеют отношение к исследуемому научному вопросу;
на среднее значение переменной ответа влияют факторы аддитивно (если не на фактор взаимодействия) и линейно;
ошибки независимы;
ошибки имеют одинаковую дисперсию;
ошибки распределены нормально.

Оценка параметров

Чтобы обеспечить идентифицируемость параметров, мы можем добавить следующие ограничения «сумма к нулю»:

$\sum _{i}\alpha _{i}=\sum _{j}\beta _{j}=\sum _{i}\gamma _{ij}=\sum _{j}\gamma _{ij}=0$

Проверка гипотез

В классическом подходе проверка нулевых гипотез (о том, что факторы не оказывают влияния) достигается через их значимость , что требует вычисления суммы квадратов .

Проверка значимости члена взаимодействия может быть затруднена из-за потенциально большого числа степеней свободы . ^[6]

Пример

Следующий гипотетический пример показывает урожайность 15 растений, подверженных двум различным изменениям окружающей среды и трем различным удобрениям.

	Дополнительный CO ₂	Дополнительная влажность
Без удобрений	7, 2, 1	7, 6
Нитрат	11, 6	10, 7, 3
Фосфат	5, 3, 4	11, 4

Рассчитываются пять сумм квадратов:

Фактор	Расчет	Сумма	$\sigma ^{2}$
Индивидуальный	$7^{2}+2^{2}+1^{2}+7^{2}+6^{2}+11^{2}+6^{2}+10^{2}+7^{2}+3^{2}+5^{2}+3^{2}+4^{2}+11^{2}+4^{2}$	641	15
Удобрения × Окружающая среда	${\frac {(7+2+1)^{2}}{3}}+{\frac {(7+6)^{2}}{2}}+{\frac {(11+6)^{2}}{2}}+{\frac {(10+7+3)^{2}}{3}}+{\frac {(5+3+4)^{2}}{3}}+{\frac {(11+4)^{2}}{2}}$	556.1667	6
Удобрения	${\frac {(7+2+1+7+6)^{2}}{5}}+{\frac {(11+6+10+7+3)^{2}}{5}}+{\frac {(5+3+4+11+4)^{2}}{5}}$	525.4	3
Среда	${\frac {(7+2+1+11+6+5+3+4)^{2}}{8}}+{\frac {(7+6+10+7+3+11+4)^{2}}{7}}$	519.2679	2
Композитный	${\frac {(7+2+1+11+6+5+3+4+7+6+10+7+3+11+4)^{2}}{15}}$	504.6	1

суммы квадратов отклонений, необходимые для дисперсионного анализа Наконец, можно рассчитать .

Фактор	Сумма	$\sigma ^{2}$	Общий	Среда	Удобрения	Удобрения × Окружающая среда	Остаточный
Индивидуальный	641	15	1				1
Удобрения × Окружающая среда	556.1667	6				1	−1
Удобрения	525.4	3			1	−1
Среда	519.2679	2		1		−1
Композитный	504.6	1	−1	−1	−1	1

Квадратные отклонения			136.4	14.668	20.8	16.099	84.833
Степени свободы			14	1	2	2	9

См. также

Дисперсионный анализ
F-тест ( включает пример однофакторного дисперсионного анализа )
Смешанная модель
Многомерный дисперсионный анализ (MANOVA)
Односторонний дисперсионный анализ
Повторные измерения ANOVA
Тест аддитивности Тьюки

Примечания

^ Йейтс, Фрэнк (март 1934 г.). «Анализ нескольких классификаций с неодинаковым количеством в разных классах». Журнал Американской статистической ассоциации . 29 (185): 51–66. дои : 10.1080/01621459.1934.10502686 . JSTOR 2278459 .
^ Фудзикоси, Ясунори (1993). «Двусторонние модели ANOVA с несбалансированными данными» . Дискретная математика . 116 (1): 315–334. дои : 10.1016/0012-365X(93)90410-U .
^ Гельман, Эндрю (февраль 2005 г.). «Дисперсионный анализ? Почему он важен как никогда». Анналы статистики . 33 (1): 1–53. arXiv : math/0504499 . дои : 10.1214/009053604000001048 . S2CID 125025956 .
^ Касс, Роберт Э (1 февраля 2011 г.). «Статистический вывод: общая картина» . Статистическая наука . 26 (1): 1–9. arXiv : 1106.2895 . дои : 10.1214/10-стс337 . ПМК 3153074 . ПМИД 21841892 .
^ Гельман, Эндрю; Хилл, Дженнифер (18 декабря 2006 г.). Анализ данных с использованием регрессии и многоуровневых/иерархических моделей . Издательство Кембриджского университета . стр. 45–46. ISBN 978-0521867061 .
^ Йи-Ан Ко; и др. (сентябрь 2013 г.). «Новые тесты отношения правдоподобия для скрининга взаимодействий ген-ген и ген-окружающая среда с использованием несбалансированных данных повторных измерений» . Генетическая эпидемиология . 37 (6): 581–591. дои : 10.1002/gepi.21744 . ПМК 4009698 . ПМИД 23798480 .

Ссылки

Джордж Казелла (18 апреля 2008 г.). Статистический дизайн . Тексты Спрингера в статистике. Спрингер . ISBN 978-0-387-75965-4 .

[1] Йейтс, Фрэнк (март 1934 г.). «Анализ нескольких классификаций с неодинаковым количеством в разных классах». Журнал Американской статистической ассоциации . 29 (185): 51–66. дои : 10.1080/01621459.1934.10502686 . JSTOR 2278459 .

[2] Фудзикоси, Ясунори (1993). «Двусторонние модели ANOVA с несбалансированными данными» . Дискретная математика . 116 (1): 315–334. дои : 10.1016/0012-365X(93)90410-U .

[3] Гельман, Эндрю (февраль 2005 г.). «Дисперсионный анализ? Почему он важен как никогда». Анналы статистики . 33 (1): 1–53. arXiv : math/0504499 . дои : 10.1214/009053604000001048 . S2CID 125025956 .

[4] Касс, Роберт Э (1 февраля 2011 г.). «Статистический вывод: общая картина» . Статистическая наука . 26 (1): 1–9. arXiv : 1106.2895 . дои : 10.1214/10-стс337 . ПМК 3153074 . ПМИД 21841892 .

[5] Гельман, Эндрю; Хилл, Дженнифер (18 декабря 2006 г.). Анализ данных с использованием регрессии и многоуровневых/иерархических моделей . Издательство Кембриджского университета . стр. 45–46. ISBN 978-0521867061 .

[6] Йи-Ан Ко; и др. (сентябрь 2013 г.). «Новые тесты отношения правдоподобия для скрининга взаимодействий ген-ген и ген-окружающая среда с использованием несбалансированных данных повторных измерений» . Генетическая эпидемиология . 37 (6): 581–591. дои : 10.1002/gepi.21744 . ПМК 4009698 . ПМИД 23798480 .

[1]

[2]

[3]

[4]

[5]

[6]