Обобщенная линейная модель

Не путать с общей линейной моделью или обобщенным методом наименьших квадратов .

В статистике обобщенная линейная модель ( GLM ) является гибким обобщением обычной линейной регрессии . GLM обобщает линейную регрессию, позволяя связать линейную модель с переменной отклика через функцию связи и позволяя величине дисперсии каждого измерения быть функцией его прогнозируемого значения.

Обобщенные линейные модели были сформулированы Джоном Нелдером и Робертом Веддерберном как способ объединения различных других статистических моделей, включая линейную регрессию , логистическую регрессию и регрессию Пуассона . Они предложили наименьших квадратов итеративно перевзвешенный метод для оценки максимального правдоподобия (MLE) параметров модели. MLE остается популярным и является методом по умолчанию во многих пакетах статистических вычислений. и другие подходы, включая байесовскую регрессию и метод наименьших квадратов, соответствующий ответам , стабилизированным дисперсией Были разработаны .

Интуиция

Обычная линейная регрессия предсказывает ожидаемое значение данной неизвестной величины ( переменной отклика , случайной величины ) как линейную комбинацию набора наблюдаемых значений ( предикторов ). Это означает, что постоянное изменение предиктора приводит к постоянному изменению переменной отклика (т. е. модель линейного отклика ). Это целесообразно, когда переменная отклика может изменяться, с хорошим приближением, бесконечно в любом направлении или, в более общем смысле, для любой величины, которая изменяется лишь на относительно небольшую величину по сравнению с изменением прогнозируемых переменных, например, роста человека.

Однако эти предположения неприемлемы для некоторых типов переменных отклика. Например, в тех случаях, когда ожидается, что переменная отклика всегда будет положительной и будет изменяться в широком диапазоне, постоянные изменения входных данных приводят к геометрическим (т.е. экспоненциальным) изменениям, а не к постоянно меняющимся изменениям выходных данных. В качестве примера предположим, что модель линейного прогнозирования на основе некоторых данных (возможно, в основном полученных с больших пляжей) узнает, что снижение температуры на 10 градусов приведет к тому, что пляж будет посещать на 1000 человек меньше. Эта модель вряд ли будет хорошо обобщаться для пляжей разного размера. Более конкретно, проблема заключается в том, что если вы используете модель для прогнозирования новой посещаемости при падении температуры на 10 для пляжа, который регулярно принимает 50 посетителей, вы спрогнозируете невозможное значение посещаемости, равное -950. Логично, что более реалистичная модель вместо этого предсказывала бы постоянную скорость увеличения посещаемости пляжей (например, увеличение на 10 градусов приводит к удвоению посещаемости пляжей, а падение на 10 градусов приводит к уменьшению посещаемости вдвое). Такая модель называется модель экспоненциального ответа (или логарифмически-линейная модель , поскольку прогнозируется, что логарифм ответа будет изменяться линейно).

Точно так же модель, которая предсказывает вероятность выбора да/нет ( переменная Бернулли ), еще менее подходит в качестве модели линейного отклика, поскольку вероятности ограничены с обеих сторон (они должны находиться в диапазоне от 0 до 1). Представьте себе, например, модель, которая предсказывает вероятность того, что данный человек пойдет на пляж, в зависимости от температуры. Разумная модель могла бы, например, предсказать, что при изменении температуры на 10 градусов вероятность того, что человек пойдет на пляж, в два раза увеличится или уменьшится. Но что означает «вдвое более вероятно» с точки зрения вероятности? Это не может буквально означать удвоение значения вероятности (например, 50% становится 100%, 75% становится 150% и т. д.). Скорее, удваиваются шансы : с коэффициентов 2:1 до коэффициентов 4:1, до коэффициентов 8:1 и т. д. Такая модель представляет собой логарифмическую или логистическую модель .

Обобщенные линейные модели охватывают все эти ситуации, позволяя переменным отклика иметь произвольные распределения (а не просто нормальное распределение ), а также произвольной функции переменной отклика ( функции связи ) изменяться линейно в зависимости от предикторов (вместо того, чтобы предполагать, что сам ответ должен изменяться линейно). Например, приведенный выше случай прогнозируемого количества посетителей пляжа обычно моделируется с помощью распределения Пуассона и логарифмической связи, тогда как случай прогнозируемой вероятности посещения пляжа обычно моделируется с помощью распределения Бернулли (или биномиального распределения , в зависимости от точного количества посетителей). как сформулирована проблема) и функция связи log-odds (или logit ).

Обзор

В обобщенной линейной модели (GLM) предполагается, что каждый результат Y зависимых переменных генерируется из определенного распределения в экспоненциальном семействе , большом классе вероятностных распределений , который включает нормальное , биномиальное , пуассоновское и гамма- , среди прочего, распределения. . Условное среднее значение распределения зависит от независимых переменных X посредством:

$\operatorname {E} (\mathbf {Y} \mid \mathbf {X} )={\boldsymbol {\mu }}=g^{-1}(\mathbf {X} {\boldsymbol {\beta }}),$

где E( Y | X ) — значение Y X условии при ожидаемое ; X β — линейный предиктор , линейная комбинация неизвестных параметров β ; g — функция связи.

В этой схеме дисперсия обычно является функцией V от среднего значения:

$\operatorname {Var} (\mathbf {Y} \mid \mathbf {X} )=\operatorname {V} (g^{-1}(\mathbf {X} {\boldsymbol {\beta }})).$

Удобно, если V следует из экспоненциального семейства распределений, но может быть просто, что дисперсия является функцией прогнозируемого значения.

Неизвестные параметры β обычно оцениваются с помощью методов максимального правдоподобия , максимального квазиправдоподобия или байесовских методов.

Компоненты модели

GLM состоит из трех элементов:

1. Особый дистрибутив для моделирования $Y$ из числа тех, которые считаются экспоненциальными семействами вероятностных распределений,

2. Линейный предиктор $\eta =X\beta$, и

3. Функция ссылки $g$ такой, что $\operatorname {E} (Y\mid X)=\mu =g^{-1}(\eta )$.

Распределение вероятностей

Экспоненциальное семейство распределений со сверхдисперсией является обобщением экспоненциального семейства и модели экспоненциальной дисперсии распределений и включает в себя те семейства вероятностных распределений, параметризованные ${\boldsymbol {\theta }}$ и $\tau$, чьи функции плотности f (или функция массы вероятности для случая дискретного распределения ) могут быть выражены в виде

$f_{Y}(\mathbf {y} \mid {\boldsymbol {\theta }},\tau )=h(\mathbf {y} ,\tau )\exp \left({\frac {\mathbf {b} ({\boldsymbol {\theta }})^{\rm {T}}\mathbf {T} (\mathbf {y} )-A({\boldsymbol {\theta }})}{d(\tau )}}\right).\,\!$

Параметр дисперсии , $\tau$, обычно известен и обычно связан с дисперсией распределения. Функции $h(\mathbf {y} ,\tau )$, $\mathbf {b} ({\boldsymbol {\theta }})$, $\mathbf {T} (\mathbf {y} )$, $A({\boldsymbol {\theta }})$, и $d(\tau )$ известны. В это семейство входят многие распространенные распределения, включая нормальное, экспоненциальное, гамма-распределение, распределение Пуассона, распределение Бернулли и (для фиксированного количества испытаний) биномиальное, полиномиальное и отрицательное биномиальное.

Для скаляра $\mathbf {y}$ и ${\boldsymbol {\theta }}$ (обозначается $y$ и $\theta$ в данном случае) это сводится к

$f_{Y}(y\mid \theta ,\tau )=h(y,\tau )\exp \left({\frac {b(\theta )T(y)-A(\theta )}{d(\tau )}}\right).\,\!$

${\boldsymbol {\theta }}$ связано со средним значением распределения. Если $\mathbf {b} ({\boldsymbol {\theta }})$ — тождественная функция, то говорят, что распределение имеет каноническую форму (или естественную форму ). Обратите внимание, что любое распределение можно преобразовать к канонической форме, переписав ${\boldsymbol {\theta }}$ как ${\boldsymbol {\theta }}'$ а затем применив преобразование ${\boldsymbol {\theta }}=\mathbf {b} ({\boldsymbol {\theta }}')$. Всегда можно конвертировать $A({\boldsymbol {\theta }})$ с точки зрения новой параметризации, даже если $\mathbf {b} ({\boldsymbol {\theta }}')$ не является однозначной функцией ; см. комментарии на странице экспоненциальных семейств . Если, кроме того, $\mathbf {T} (\mathbf {y} )$ это личность и $\tau$ известно, то ${\boldsymbol {\theta }}$ называется каноническим параметром (или натуральным параметром ) и связан со средним значением через

${\boldsymbol {\mu }}=\operatorname {E} (\mathbf {y} )=\nabla A({\boldsymbol {\theta }}).\,\!$

Для скаляра $\mathbf {y}$ и ${\boldsymbol {\theta }}$, это сводится к

$\mu =\operatorname {E} (y)=A'(\theta ).$

Можно показать, что в этом сценарии дисперсия распределения равна

$\operatorname {Var} (\mathbf {y} )=\nabla ^{2}A({\boldsymbol {\theta }})d(\tau ).\,\!$

Для скаляра $\mathbf {y}$ и ${\boldsymbol {\theta }}$, это сводится к

$\operatorname {Var} (y)=A''(\theta )d(\tau ).\,\!$

Линейный предиктор

Линейный предиктор — это величина, которая включает в модель информацию о независимых переменных. Символ η ( греч. « эта ») обозначает линейный предиктор. Это связано с ожидаемым значением данных через функцию связи.

η выражается как линейные комбинации (таким образом, «линейные») неизвестных параметров β . Коэффициенты линейной комбинации представляются в виде матрицы независимых X. переменных Таким образом, η можно выразить как

$\eta =\mathbf {X} {\boldsymbol {\beta }}.\,$

Функция связи

Функция связи обеспечивает связь между линейным предиктором и средним значением функции распределения. Существует множество часто используемых функций ссылок, и их выбор определяется несколькими соображениями. Всегда существует четко определенная каноническая ответа функция связи, которая получается из экспоненты функции плотности . Однако в некоторых случаях имеет смысл попытаться сопоставить область определения функции связи с диапазоном среднего значения функции распределения или использовать неканоническую функцию связи для алгоритмических целей, например, байесовскую пробит-регрессию .

При использовании функции распределения с каноническим параметром $\theta ,$ функция канонической ссылки — это функция, которая выражает $\theta$ с точки зрения $\mu ,$ т.е. $\theta =b(\mu ).$ Для наиболее распространенных распределений среднее значение $\mu$ распределения — один из параметров стандартной формы функции плотности , а затем $b(\mu )$ — это функция, определенная выше, которая отображает функцию плотности в ее каноническую форму. При использовании функции канонической ссылки $b(\mu )=\theta =\mathbf {X} {\boldsymbol {\beta }},$ что позволяет $\mathbf {X} ^{\rm {T}}\mathbf {Y}$ быть достаточной статистикой для ${\boldsymbol {\beta }}$.

Ниже приводится таблица нескольких широко используемых распределений экспоненциального семейства и данных, для которых они обычно используются, а также канонических функций связи и их обратных функций (иногда называемых средней функцией, как это сделано здесь).

Распространенные дистрибутивы с типичным использованием и функциями канонических ссылок.

Распределение	Поддержка дистрибуции	Типичное использование	Имя ссылки	Функция связи, $\mathbf {X} {\boldsymbol {\beta }}=g(\mu )\,\!$	Средняя функция
Нормальный	настоящий: $(-\infty ,+\infty )$	Данные линейного отклика	Личность	$\mathbf {X} {\boldsymbol {\beta }}=\mu \,\!$	$\mu =\mathbf {X} {\boldsymbol {\beta }}\,\!$
Экспоненциальный	настоящий: $(0,+\infty )$	Данные экспоненциального отклика, параметры шкалы	Отрицательный обратный	$\mathbf {X} {\boldsymbol {\beta }}=-\mu ^{-1}\,\!$	$\mu =-(\mathbf {X} {\boldsymbol {\beta }})^{-1}\,\!$
Гамма
Обратный Гауссовский	настоящий: $(0,+\infty )$		Обратный в квадрате	$\mathbf {X} {\boldsymbol {\beta }}=\mu ^{-2}\,\!$	$\mu =(\mathbf {X} {\boldsymbol {\beta }})^{-1/2}\,\!$
Пуассон	целое число: $0,1,2,\ldots$	количество вхождений в фиксированный промежуток времени/пространства	Бревно	$\mathbf {X} {\boldsymbol {\beta }}=\ln(\mu )\,\!$	$\mu =\exp(\mathbf {X} {\boldsymbol {\beta }})\,\!$
Бернулли	целое число: $\{0,1\}$	результат единичного события да/нет	Логит	$\mathbf {X} {\boldsymbol {\beta }}=\ln \left({\frac {\mu }{1-\mu }}\right)\,\!$	$\mu ={\frac {\exp(\mathbf {X} {\boldsymbol {\beta }})}{1+\exp(\mathbf {X} {\boldsymbol {\beta }})}}={\frac {1}{1+\exp(-\mathbf {X} {\boldsymbol {\beta }})}}\,\!$
Биномиальный	целое число: $0,1,\ldots ,N$	количество вхождений «да» из N вхождений «да/нет»		$\mathbf {X} {\boldsymbol {\beta }}=\ln \left({\frac {\mu }{n-\mu }}\right)\,\!$
Категорический	целое число: $[0,K)$	результат единичного K возникновения -пути		$\mathbf {X} {\boldsymbol {\beta }}=\ln \left({\frac {\mu }{1-\mu }}\right)\,\!$
	K -вектор целого числа: $[0,1]$, где ровно один элемент вектора имеет значение 1
Полиномиальный	K -вектор целого числа: $[0,N]$	количество вхождений разных типов (1, ..., K ) из N общего числа K вхождений -способа

В случаях экспоненциального и гамма-распределений область канонической функции связи не совпадает с разрешенным диапазоном среднего значения. В частности, линейный предиктор может быть положительным, что дало бы невозможное отрицательное среднее значение. При максимизации вероятности необходимо принять меры предосторожности, чтобы избежать этого. Альтернативой является использование неканонической функции ссылки.

В случае распределений Бернулли, биномиального, категориального и полиномиального распределения поддержка распределений не является тем же типом данных, что и прогнозируемый параметр. Во всех этих случаях прогнозируемый параметр представляет собой одну или несколько вероятностей, то есть действительные числа в диапазоне $[0,1]$. Полученная модель известна как логистическая регрессия (или полиномиальная логистическая регрессия в случае, когда K прогнозируются -образные, а не двоичные значения).

Для распределений Бернулли и биномиального распределения параметром является одна вероятность, указывающая вероятность возникновения одного события. Модель Бернулли по-прежнему удовлетворяет основному условию обобщенной линейной модели: даже если единственный результат всегда будет либо 0, либо 1, ожидаемое значение , тем не менее, будет действительной вероятностью, то есть вероятностью появления ответа «да». (или 1) результат. Аналогично, в биномиальном распределении ожидаемое значение равно Np , т.е. ожидаемая доля результатов «да» будет вероятностью, которую следует предсказать.

Для категориальных и полиномиальных распределений прогнозируемый параметр представляет собой K -вектор вероятностей с дополнительным ограничением, согласно которому сумма всех вероятностей должна составлять 1. Каждая вероятность указывает вероятность появления одного из K возможных значений. Для полиномиального распределения и векторной формы категориального распределения ожидаемые значения элементов вектора могут быть связаны с предсказанными вероятностями аналогично биномиальному распределению и распределению Бернулли.

Примерка

Максимальная вероятность

Оценки максимального правдоподобия можно найти с помощью итеративно перевзвешенного алгоритма наименьших квадратов или метода Ньютона с обновлениями формы:

${\boldsymbol {\beta }}^{(t+1)}={\boldsymbol {\beta }}^{(t)}+{\mathcal {J}}^{-1}({\boldsymbol {\beta }}^{(t)})u({\boldsymbol {\beta }}^{(t)}),$

где ${\mathcal {J}}({\boldsymbol {\beta }}^{(t)})$ — наблюдаемая информационная матрица (отрицательная сторона матрицы Гессе ) и $u({\boldsymbol {\beta }}^{(t)})$ – функция оценки ; или оценки Фишера метод :

${\boldsymbol {\beta }}^{(t+1)}={\boldsymbol {\beta }}^{(t)}+{\mathcal {I}}^{-1}({\boldsymbol {\beta }}^{(t)})u({\boldsymbol {\beta }}^{(t)}),$

где ${\mathcal {I}}({\boldsymbol {\beta }}^{(t)})$ – информационная матрица Фишера . Обратите внимание: если используется функция канонической ссылки, то они одинаковы.

Байесовские методы

В общем, апостериорное распределение невозможно найти в замкнутой форме , поэтому его необходимо аппроксимировать, обычно с использованием аппроксимации Лапласа или какого-либо типа метода Монте-Карло с использованием цепей Маркова, такого как выборка Гиббса .

Примеры

Общие линейные модели

Дополнительная информация: Общая линейная модель.

Возможная путаница связана с различием между обобщенными линейными моделями и общими линейными моделями , двумя широкими статистическими моделями. Соавтор Джон Нелдер выразил сожаление по поводу этой терминологии.

Общую линейную модель можно рассматривать как частный случай обобщенной линейной модели с тождественной связью и нормально распределенными откликами. Поскольку наиболее точные интересующие нас результаты получены только для общей линейной модели, общая линейная модель претерпела несколько более длительное историческое развитие. Результаты для обобщенной линейной модели с нетождественной связью являются асимптотическими (имеют тенденцию хорошо работать с большими выборками).

Линейная регрессия

Простой и очень важный пример обобщенной линейной модели (также пример общей линейной модели) — линейная регрессия . В линейной регрессии использование метода наименьших квадратов оправдано теоремой Гаусса-Маркова , которая не предполагает, что распределение нормальное.

Однако с точки зрения обобщенных линейных моделей полезно предположить, что функция распределения — это нормальное распределение с постоянной дисперсией, а функция связи — это тождество, которое является канонической связью, если дисперсия известна. При этих предположениях оценка методом наименьших квадратов получается как оценка параметра максимального правдоподобия.

Для нормального распределения обобщенная линейная модель имеет выражение в замкнутом виде для оценок максимального правдоподобия, что удобно. В большинстве других GLM отсутствуют оценки в закрытой форме .

Двоичные данные

См. Также: Бинарная регрессия.

Когда данные ответа Y являются двоичными (принимают только значения 0 и 1), функция распределения обычно выбирается как распределение Бернулли , и интерпретация µ _i тогда является вероятностью p , того, что Y _i принимает значение один.

Существует несколько популярных функций связи для биномиальных функций.

Функция логической связи

Наиболее типичной функцией ссылки является каноническая логит- ссылка:

$g(p)=\operatorname {logit} p=\ln \left({p \over 1-p}\right).$

GLM с такой настройкой представляют собой модели логистической регрессии (или логит-модели ).

Функция пробит-связи как популярный выбор обратной кумулятивной функции распределения

В качестве альтернативы для канала можно использовать обратную функцию любой непрерывной кумулятивной функции распределения (CDF), поскольку диапазон CDF равен $[0,1]$, диапазон биномиального среднего. Обычный CDF $\Phi$ является популярным выбором и дает пробит-модель . Его ссылка

$g(p)=\Phi ^{-1}(p).\,\!$

Причина использования пробит-модели заключается в том, что постоянное масштабирование входной переменной до нормального CDF (которое можно получить за счет эквивалентного масштабирования всех параметров) дает функцию, практически идентичную логит-функции, но пробит-функцию. в некоторых ситуациях модели более удобны, чем логит-модели. (В байесовской настройке, в которой нормально распределенные априорные распределения помещаются в параметры, связь между нормальными априорными значениями и нормальной функцией связи CDF означает, что пробит-модель может быть вычислена с использованием выборки Гиббса , тогда как логит-модель обычно не может быть вычислена.)

Дополнительный журнал (cloglog)

Также можно использовать дополнительную функцию log-log:

$g(p)=\log(-\log(1-p)).$

Эта функция связи асимметрична и часто дает результаты, отличные от функций связи логит и пробит. Модель засорения соответствует приложениям, в которых мы наблюдаем либо ноль событий (например, дефекты), либо одно или несколько событий, где предполагается, что количество событий соответствует распределению Пуассона . Предположение Пуассона означает, что

$\Pr(0)=\exp(-\mu ),$

где μ — положительное число, обозначающее ожидаемое количество событий. Если p представляет долю наблюдений хотя бы с одним событием, его дополнение

$1-p=\Pr(0)=\exp(-\mu ),$

а потом

$-\log(1-p)=\mu .$

Линейная модель требует, чтобы переменная ответа принимала значения по всей реальной линии. Поскольку µ должно быть положительным, мы можем добиться этого, взяв логарифм и позволив log( µ ) быть линейной моделью. Это приводит к преобразованию «засор».

$\log(-\log(1-p))=\log(\mu ).$

Идентификационная ссылка

Тождественная связь g(p) = p также иногда используется для биномиальных данных, чтобы получить линейную вероятностную модель . Однако идентификационная связь может предсказывать бессмысленные «вероятности» меньше нуля или больше единицы. Этого можно избежать, используя такие преобразования, как cloglog, probit или logit (или любую обратную кумулятивную функцию распределения). Основное достоинство тождественной связи состоит в том, что ее можно оценить с помощью линейной математики, а другие стандартные функции связи приблизительно линейны, согласуясь с тождественной связью вблизи p = 0,5.

Функция дисперсии

Функция дисперсии для " квазибиномиальные данные:

$\operatorname {Var} (Y_{i})=\tau \mu _{i}(1-\mu _{i})\,\!$

где параметр дисперсии τ равен ровно 1 для биномиального распределения. Действительно, стандартная биномиальная вероятность опускает τ . Когда оно присутствует, модель называется «квазибиномиальной», а модифицированное правдоподобие называется квазиправдоподобием , поскольку обычно оно не является правдоподобием, соответствующим какому-либо реальному семейству вероятностных распределений. Если τ превышает 1, говорят, что модель демонстрирует сверхдисперсию .

Полиномиальная регрессия

Биномиальный случай можно легко расширить, чтобы учесть полиномиальное распределение в качестве ответа (также обобщенную линейную модель для подсчетов с ограниченным итогом). Обычно это делается двумя способами:

Заказной ответ

Если переменная ответа имеет порядковый номер , то можно использовать модельную функцию вида:

$g(\mu _{m})=\eta _{m}=\beta _{0}+X_{1}\beta _{1}+\cdots +X_{p}\beta _{p}+\gamma _{2}+\cdots +\gamma _{m}=\eta _{1}+\gamma _{2}+\cdots +\gamma _{m}{\text{ where }}\mu _{m}=\operatorname {P} (Y\leq m).\,$

для m > 2. Различные связи g приводят к порядковой регрессии, моделям таким как модели пропорциональных шансов или модели упорядоченной пробита .

Неупорядоченный ответ

Если переменная ответа является номинальным измерением или данные не удовлетворяют предположениям упорядоченной модели, можно использовать модель следующей формы:

$g(\mu _{m})=\eta _{m}=\beta _{m,0}+X_{1}\beta _{m,1}+\cdots +X_{p}\beta _{m,p}{\text{ where }}\mu _{m}=\mathrm {P} (Y=m\mid Y\in \{1,m\}).\,$

для m > 2. Различные связи g приводят к полиномиальным логит- или полиномиальным пробит- моделям. Они более общие, чем модели упорядоченного ответа, и оцениваются больше параметров.

Данные подсчета

Другой пример обобщенных линейных моделей включает регрессию Пуассона , которая моделирует подсчет данных с использованием распределения Пуассона . Ссылка обычно представляет собой логарифм, каноническую ссылку.

Функция дисперсии пропорциональна среднему значению

$\operatorname {var} (Y_{i})=\tau \mu _{i},\,$

где параметр дисперсии τ обычно равен единице. Если это не так, результирующую модель квазиправдоподобия часто называют пуассоновской со сверхдисперсией или квазипуассоновской .

Расширения

Коррелированные или кластеризованные данные

Стандарт GLM предполагает, что наблюдения некоррелированы . Были разработаны расширения, позволяющие коррелировать между наблюдениями, как это происходит, например, в продольных исследованиях и кластерных планах:

• Обобщенные уравнения оценки (GEE) допускают корреляцию между наблюдениями без использования явной вероятностной модели происхождения корреляций, поэтому явная вероятность отсутствует . Они подходят, когда случайные эффекты и их дисперсии не представляют интереса, поскольку допускают корреляцию, не объясняя ее происхождения. Основное внимание уделяется оценке средней реакции по популяции («среднепопуляционные» эффекты), а не параметрам регрессии, которые позволили бы предсказать эффект изменения одного или нескольких компонентов X на данного человека. GEE обычно используются в сочетании со стандартными ошибками Хубера-Уайта .
• Обобщенные линейные смешанные модели (GLMM) являются расширением GLM, которое включает случайные эффекты в линейный предиктор, предоставляя явную вероятностную модель, объясняющую происхождение корреляций. Полученные в результате оценки параметров, специфичные для конкретного субъекта, подходят, когда основное внимание уделяется оценке влияния изменения одного или нескольких компонентов X на данного человека. GLMM также называют многоуровневыми моделями и смешанными моделями . В целом, подгонка GLMM является более сложной и трудоемкой в ​​вычислительном отношении, чем подгонка GEE.

Обобщенные аддитивные модели

Обобщенные аддитивные модели (GAM) являются еще одним расширением GLM, в котором линейный предиктор η не ограничен линейностью по ковариатам X , но представляет собой сумму функций сглаживания, применяемых к x _i s:

$\eta =\beta _{0}+f_{1}(x_{1})+f_{2}(x_{2})+\cdots \,\!$

Функции сглаживания f _i оцениваются по данным. Как правило, это требует большого количества точек данных и требует больших вычислительных ресурсов.

См. также

• Методика моделирования реагирования
• Сравнение общих и обобщенных линейных моделей – Статистическая линейная модель. Страницы с краткими описаниями целей перенаправления.
• Дробная модель
• Обобщенная модель линейного массива - модель, используемая для анализа наборов данных с массивовыми структурами. Страницы, отображающие описания викиданных в качестве запасного варианта.
• GLIM (программное обеспечение) - статистическая программа для подбора обобщенных линейных моделей. Страницы, отображающие описания викиданных в качестве запасного варианта.
• Квазидисперсия
• Естественное экспоненциальное семейство - класс вероятностных распределений, который является частным случаем экспоненциального семейства. Страницы, отображающие описания викиданных в качестве запасного варианта.
• Распределение Твиди - семейство вероятностных распределений
• Функции дисперсии — функция сглаживания в статистике. Страницы с краткими описаниями целей перенаправления.
• Векторная обобщенная линейная модель (VGLM)
• Обобщенное оценочное уравнение

Ссылки

Библиография

• Хасти, Ти Джей ; Тибширани, Р.Дж. (1990). Обобщенные аддитивные модели . Чепмен и Холл/CRC. ISBN  978-0-412-34390-2 .
• Мэдсен, Хенрик; Тирегод, Пол (2011). Введение в общие и обобщенные линейные модели . Чепмен и Холл/CRCC. ISBN  978-1-4200-9155-7 .
• МакКаллах, Питер ; Нелдер, Джон (1989). Обобщенные линейные модели (2-е изд.). Бока-Ратон , Флорида: Чепмен и Холл/CRC. ISBN  0-412-31760-5 .
• Вуд, Саймон (2006). Обобщенные аддитивные модели: введение в R. Чепмен и Холл/CRC. ISBN  1-58488-474-6 .

Дальнейшее чтение

• Данн, ПК; Смит, ГК (2018). Обобщенные линейные модели с примерами в R. Нью-Йорк: Спрингер. дои : 10.1007/978-1-4419-0118-7 . ISBN  978-1-4419-0118-7 .
• Добсон, Эй Джей; Барнетт, AG (2008). Введение в обобщенные линейные модели (3-е изд.). Бока-Ратон, Флорида: Чепмен и Холл/CRC. ISBN  978-1-58488-165-0 .
• Хардин, Джеймс; Хильбе, Джозеф (2007). Обобщенные линейные модели и расширения (2-е изд.). Колледж-Стейшн: Stata Press. ISBN  978-1-59718-014-6 .

Внешние ссылки

• СМИ, связанные с обобщенными линейными моделями, на Викискладе?