Нелинейная модель смешанных эффектов

Нелинейные модели смешанных эффектов составляют класс статистических моделей, обобщающих линейные модели смешанных эффектов . Как и линейные модели смешанных эффектов, они особенно полезны в условиях, когда в пределах одних и тех же статистических единиц проводится несколько измерений или когда существуют зависимости между измерениями на связанных статистических единицах. Нелинейные модели смешанных эффектов применяются во многих областях, включая медицину , здравоохранение , фармакологию и экологию .

Определение

Хотя любая статистическая модель, содержащая как фиксированные эффекты , так и случайные эффекты, является примером нелинейной модели смешанных эффектов, наиболее часто используемые модели являются членами класса нелинейных моделей смешанных эффектов для повторяющихся измерений.

${y}_{ij}=f(\phi _{ij},{v}_{ij})+\epsilon _{ij},\quad i=1,\ldots ,M,\,j=1,\ldots ,n_{i}$

где

• $M$ количество групп/предметов,
• $n_{i}$ количество наблюдений за $i$группа/предмет,
• $f$ - это дифференцируемая функция с действительным знаком вектора параметров, специфичного для группы. $\phi _{ij}$ и ковариатный вектор $v_{ij}$,
• $\phi _{ij}$ моделируется как линейная модель смешанных эффектов $\phi _{ij}={\boldsymbol {A}}_{ij}\beta +{\boldsymbol {B}}_{ij}{\boldsymbol {b}}_{i},$ где $\beta$ представляет собой вектор фиксированных эффектов и ${\boldsymbol {b}}_{i}$ представляет собой вектор случайных эффектов, связанных с группой $i$, и
• $\epsilon _{ij}$ — случайная величина, описывающая аддитивный шум.

Оценка

Когда модель нелинейна только по фиксированным эффектам, а случайные эффекты являются гауссовскими, оценка максимального правдоподобия может быть выполнена с использованием нелинейных методов наименьших квадратов , хотя асимптотические свойства средств оценки и тестовой статистики могут отличаться от обычной общей линейной модели . В более общей ситуации существует несколько методов оценки максимального правдоподобия или максимальной апостериорной оценки в определенных классах нелинейных моделей со смешанными эффектами - обычно в предположении о нормально распределенных случайных величинах. Популярным подходом является алгоритм Линдстрема-Бейтса. который основан на итеративной оптимизации нелинейной задачи, локальной линеаризации модели вокруг этого оптимума, а затем использовании традиционных методов из линейных моделей со смешанными эффектами для оценки максимального правдоподобия. Стохастическая аппроксимация алгоритма максимизации ожидания дает альтернативный подход для оценки максимального правдоподобия.

Приложения

Пример: моделирование прогрессирования заболевания

Нелинейные модели смешанных эффектов использовались для моделирования прогрессирования заболевания. При прогрессирующем заболевании временные закономерности прогрессирования переменных результата могут иметь нелинейную временную форму, которая одинакова у разных пациентов. Однако стадия заболевания человека может быть неизвестна или известна лишь частично на основании того, что можно измерить. Следовательно, в модель можно включить переменную латентного времени, которая описывает индивидуальную стадию заболевания (т. е. состояние пациента на нелинейной средней кривой).

Пример: Моделирование снижения когнитивных функций при болезни Альцгеймера.

Пример моделирования прогрессирования заболевания по продольным показателям ADAS-Cog с использованием progmod R. пакета

Болезнь Альцгеймера характеризуется прогрессирующим ухудшением когнитивных функций. Однако пациенты могут сильно различаться по когнитивным способностям и резервам , поэтому когнитивное тестирование в один момент времени часто может использоваться только для грубой группировки людей на разных стадиях заболевания . Теперь предположим, что у нас есть набор продольных когнитивных данных. $(y_{i1},\ldots ,y_{in_{i}})$ от $i=1,\ldots ,M$ лица, каждый из которых классифицируется как имеющий нормальное когнитивное мышление (CN), легкое когнитивное нарушение (MCI) или деменцию (DEM) (время на исходном визите $t_{i1}=0$ соответствующий измерению $y_{i1}$). Эти продольные траектории можно смоделировать с использованием нелинейной модели смешанных эффектов, которая допускает различия в состоянии заболевания на основе базовой категоризации:

${y}_{ij}=f_{\tilde {\beta }}(t_{ij}+A_{i}^{MCI}\beta ^{MCI}+A_{i}^{DEM}\beta ^{DEM}+b_{i})+\epsilon _{ij},\quad i=1,\ldots ,M,\,j=1,\ldots ,n_{i}$

где

• $f_{\tilde {\beta }}$ — это функция, моделирующая средний временной профиль снижения когнитивных функций, форма которого определяется параметрами ${\tilde {\beta }}$,
• $t_{ij}$ представляет время наблюдения (например, время с момента начала исследования),
• $A_{i}^{MCI}$ и $A_{i}^{DEM}$ являются фиктивными переменными, которые равны 1, если отдельные $i$ имеет MCI или деменцию на исходном уровне и 0 в противном случае,
• $\beta ^{MCI}$ и $\beta ^{DEM}$ являются параметрами, которые моделируют разницу в прогрессировании заболевания в группах MCI и деменции по сравнению с когнитивно нормальными,
• $b_{i}$ разница в стадии заболевания у отдельных людей $i$ относительно его/ее базовой категории, и
• $\epsilon _{ij}$ — случайная величина, описывающая аддитивный шум.

Пример такой модели с экспоненциальной средней функцией, адаптированной к продольным измерениям когнитивной подшкалы шкалы оценки болезни Альцгеймера (ADAS-Cog), показан в рамке. Как показано, включение фиксированных эффектов исходной категоризации (MCI или деменция по отношению к нормальному познанию) и случайного эффекта отдельной стадии непрерывного заболевания $b_{i}$ выравнивает траектории когнитивного ухудшения, чтобы выявить общую картину когнитивного снижения.

Пример: анализ роста

Оценка средней кривой роста мальчиков по результатам исследования роста Беркли с деформацией и без нее. Модель деформации подбирается как нелинейная модель смешанных эффектов с использованием pavpop R. пакета

Явления роста часто следуют нелинейным закономерностям (например, логистический рост , экспоненциальный рост и гиперболический рост ). Такие факторы, как дефицит питательных веществ, могут как непосредственно влиять на измеряемый результат (например, организмы с недостатком питательных веществ, в конечном итоге становятся меньше), так и, возможно, также на время (например, организмы с недостатком питательных веществ растут более медленными темпами). Если модель не может учесть различия во времени, расчетные кривые на уровне популяции могут сгладить более мелкие детали из-за отсутствия синхронизации между организмами. Нелинейные модели смешанных эффектов позволяют одновременно моделировать индивидуальные различия в результатах и ​​сроках роста.

Пример: моделирование роста человека

Модели для оценки средних кривых роста и веса человека в зависимости от возраста и естественного отклонения от среднего значения используются для создания диаграмм роста . Однако рост детей может стать десинхронизированным из-за генетических факторов и факторов окружающей среды. Например, возраст начала полового созревания и связанный с ним скачок роста у разных подростков могут различаться на несколько лет. Следовательно, перекрестные исследования могут недооценивать величину скачка роста в пубертатном периоде, поскольку возраст не синхронизирован с биологическим развитием. Различия в биологическом развитии можно смоделировать с помощью случайных эффектов. ${\boldsymbol {w}}_{i}$ которые описывают сопоставление наблюдаемого возраста со скрытым биологическим возрастом с использованием так называемой функции деформации. $v(\cdot ,{\boldsymbol {w}}_{i})$. Простая нелинейная модель смешанных эффектов с такой структурой имеет вид

${y}_{ij}=f_{\beta }(v(t_{ij},{\boldsymbol {w}}_{i}))+\epsilon _{ij},\quad i=1,\ldots ,M,\,j=1,\ldots ,n_{i}$

где

• $f_{\beta }$ — это функция, которая представляет рост типичного ребенка в зависимости от возраста. Его форма определяется параметрами $\beta$,
• $t_{ij}$ возраст ребенка $i$ соответствует измерению высоты $y_{ij}$,
• $v(\cdot ,{\boldsymbol {w}}_{i})$ — это функция деформации, которая сопоставляет возраст с биологическим развитием для синхронизации. Его форма определяется случайными эффектами ${\boldsymbol {w}}_{i}$,
• $\epsilon _{ij}$ – это случайная переменная, описывающая аддитивную вариацию (например, постоянную разницу в росте между детьми и шум измерений).

Существует несколько методов и программных пакетов для настройки таких моделей. Так называемая SITAR модель могут соответствовать таким моделям, используя функции деформации, которые представляют собой аффинные преобразования времени (т.е. аддитивные сдвиги биологического возраста и различия в скорости созревания), в то время как так называемая pavpop модель подходят модели с плавно меняющимися функциями деформирования. Пример последнего показан на рамке.

Пример: популяционное фармакокинетическое/фармакодинамическое моделирование.

Основные фармакокинетические процессы, влияющие на судьбу поступивших в организм веществ. Нелинейное моделирование смешанных эффектов можно использовать для оценки эффектов этих процессов на уровне популяции, а также для моделирования индивидуальных различий между субъектами.

Модели PK/PD для описания взаимосвязей воздействия и реакции, такие как модель Emax, могут быть сформулированы как нелинейные модели смешанных эффектов. Подход смешанной модели позволяет моделировать как популяционный уровень, так и индивидуальные различия в эффектах, которые оказывают нелинейное влияние на наблюдаемые результаты, например, скорость, с которой соединение метаболизируется или распределяется в организме.

Пример: эпидемиологическое моделирование COVID-19.

Экстраполированные траектории распространения инфекции в 40 странах, серьезно пострадавших от COVID-19, и средний показатель по населению до 14 мая.

Платформу нелинейных моделей смешанного эффекта можно использовать для описания траекторий заражения субъектов и понимания некоторых общих особенностей, присущих всем субъектам. В эпидемиологических проблемах субъектами могут быть страны, штаты или округа и т. д. Это может быть особенно полезно при оценке будущей тенденции эпидемии на ранней стадии пандемии, когда информации о заболевании известно очень мало.

Пример: Прогноз кривой добычи нефти из сланцевых нефтяных скважин на новом месте с использованием скрытого кригинга.

Прогноз кривой падения дебита нефти, полученный методом скрытого кригинга. 324 обучающие скважины и две испытательные скважины в сланцевом коллекторе Игл-Форд в Южном Техасе (вверху слева); Схематический пример горизонтальной скважины с гидроразрывом пласта (слева внизу); Прогнозные кривые на тестовых скважинах методом скрытого кригинга (справа)

Конечный успех проектов по разработке нефтяных месторождений во многом зависит от затрат на строительство скважин. Что касается нетрадиционных залежей нефти и газа, из-за очень низкой проницаемости и механизма течения, сильно отличающегося от механизма течения в традиционных пластах, оценки стоимости строительства скважин часто содержат высокий уровень неопределенности, и нефтяным компаниям приходится делать значительные инвестиции в бурение. и этап заканчивания скважин. Известно, что общий уровень коммерческого успеха горизонтальных скважин в США в последнее время составляет 65%, а это означает, что только 2 из 3 пробуренных скважин будут коммерчески успешными. По этой причине одной из важнейших задач инженеров-нефтяников является количественная оценка неопределенности, связанной с добычей нефти или газа из сланцевых коллекторов, и, кроме того, прогнозирование приблизительного поведения добычи новой скважины на новом месте с учетом конкретных данных по завершению до фактического Бурение происходит для значительной экономии затрат на строительство скважин.

Платформу нелинейных моделей смешанного эффекта можно расширить, чтобы учесть пространственную связь, включив геостатистические процессы, такие как гауссовский процесс , на второй этап модели следующим образом:

${y}_{it}=\mu (t;\theta _{1i},\theta _{2i},\theta _{3i})+\epsilon _{it},\quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad i=1,\ldots ,N,\,t=1,\ldots ,T_{i},$

$\theta _{li}=\theta _{l}(s_{i})=\alpha _{l}+\sum _{j=1}^{p}\beta _{lj}x_{j}+\epsilon _{l}(s_{i})+\eta _{l}(s_{i}),\quad \epsilon _{l}(\cdot )\sim GWN(\sigma _{l}^{2}),\quad \quad l=1,2,3,$$\eta _{l}(\cdot )\sim GP(0,K_{\gamma _{l}}(\cdot ,\cdot )),\quad K_{\gamma _{l}}(s_{i},s_{j})=\gamma _{l}^{2}\exp(-e^{\rho _{l}}\|s_{i}-s_{j}\|^{2}),\quad \quad \quad l=1,2,3,$$\beta _{lj}|\lambda _{lj},\tau _{l},\sigma _{l}\sim N(0,\sigma _{l}^{2}\tau _{l}^{2}\lambda _{lj}^{2}),\quad \sigma ,\lambda _{lj},\tau _{l},\sigma _{l}\sim C^{+}(0,1),\quad \quad \quad \quad \quad \quad \quad l=1,2,3,\,j=1,\cdots ,p,$$\alpha _{l}\sim \pi (\alpha )\propto 1,\quad \sigma _{l}^{2}\sim \pi (\sigma ^{2})\propto 1/\sigma ^{2},\quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad l=1,2,3,$

где

• $\mu (t;\theta _{1},\theta _{2},\theta _{3})$ - это функция, моделирующая средний временной профиль логарифмического дебита нефти, форма которого определяется параметрами $(\theta _{1},\theta _{2},\theta _{3})$. Функция получается путем логарифмирования кривой снижения ставок, используемой при анализе кривой снижения .
• $x_{i}=(x_{i1},\cdots ,x_{ip})^{\top }$ представляет собой ковариаты, полученные в результате завершения процесса гидроразрыва пласта и горизонтально- направленного бурения для $i$-ну что ж,
• $s_{i}=(s_{i1},s_{i2})^{\top }$ представляет пространственное положение (долгота, широта) $i$-ну что ж,
• $\epsilon _{l}(\cdot )$ представляет гауссовский белый шум с дисперсией ошибок $\sigma _{l}^{2}$ (также называемый эффектом самородка),
• $\eta _{l}(\cdot )$ представляет гауссовский процесс с гауссовой ковариационной функцией $K_{\gamma _{l}}(\cdot ,\cdot )$,
• $\beta$ представляет собой априорную подковообразную усадку.

Регрессии гауссовского процесса, используемые на скрытом уровне (второй этап), в конечном итоге дают предикторы кригинга для параметров кривой. $(\theta _{1i},\theta _{2i},\theta _{3i}),(i=1,\cdots ,N),$ которые определяют форму средней кривой $\mu (t;\theta _{1},\theta _{2},\theta _{3})$ на уровне даты (первый уровень). Поскольку методы кригинга используются на скрытом уровне, этот метод называется скрытым кригингом. На правой панели показаны результаты прогнозирования метода скрытого кригинга, примененного к двум испытательным скважинам в сланцевом коллекторе Игл-Форд в Южном Техасе.

Байесовская нелинейная модель смешанных эффектов

Цикл байесовских исследований с использованием байесовской нелинейной модели смешанных эффектов: (а) стандартный исследовательский цикл и (б) рабочий процесс, специфичный для Байеса.

Структура байесовского иерархического моделирования часто используется в различных приложениях. В частности, в последнее время значительное внимание получили байесовские нелинейные модели смешанных эффектов. Базовая версия байесовской нелинейной модели смешанных эффектов представлена ​​в виде следующей трехэтапной схемы:

Этап 1: Модель индивидуального уровня

${y}_{ij}=f(t_{ij};\theta _{1i},\theta _{2i},\ldots ,\theta _{li},\ldots ,\theta _{Ki})+\epsilon _{ij},\quad \epsilon _{ij}\sim N(0,\sigma ^{2}),\quad i=1,\ldots ,N,\,j=1,\ldots ,M_{i}.$

Этап 2: Модель населения

$\theta _{li}=\alpha _{l}+\sum _{b=1}^{P}\beta _{lb}x_{ib}+\eta _{li},\quad \eta _{li}\sim N(0,\omega _{l}^{2}),\quad i=1,\ldots ,N,\,l=1,\ldots ,K.$

Этап 3: Приор

$\sigma ^{2}\sim \pi (\sigma ^{2}),\quad \alpha _{l}\sim \pi (\alpha _{l}),\quad (\beta _{l1},\ldots ,\beta _{lb},\ldots ,\beta _{lP})\sim \pi (\beta _{l1},\ldots ,\beta _{lb},\ldots ,\beta _{lP}),\quad \omega _{l}^{2}\sim \pi (\omega _{l}^{2}),\quad l=1,\ldots ,K.$

Здесь, $y_{ij}$ обозначает непрерывный отклик $i$-й субъект в данный момент времени $t_{ij}$, и $x_{ib}$ это $b$-я ковариата $i$-й предмет. Параметры, участвующие в модели, написаны греческими буквами. $f(t;\theta _{1},\ldots ,\theta _{K})$ — известная функция, параметризованная $K$-мерный вектор $(\theta _{1},\ldots ,\theta _{K})$. Как правило, $f$ является «нелинейной» функцией и описывает временную траекторию движения индивидуумов. В модели $\epsilon _{ij}$ и $\eta _{li}$ описывают внутрииндивидуальную изменчивость и межиндивидуальную изменчивость соответственно. Если этап 3: Приоритет не рассматривается, то модель сводится к частотной нелинейной модели со смешанным эффектом.

Центральной задачей при применении байесовских нелинейных моделей смешанного эффекта является оценка апостериорной плотности:

$\pi (\{\theta _{li}\}_{i=1,l=1}^{N,K},\sigma ^{2},\{\alpha _{l}\}_{l=1}^{K},\{\beta _{lb}\}_{l=1,b=1}^{K,P},\{\omega _{l}\}_{l=1}^{K}|\{y_{ij}\}_{i=1,j=1}^{N,M_{i}})$

$\propto \pi (\{y_{ij}\}_{i=1,j=1}^{N,M_{i}},\{\theta _{li}\}_{i=1,l=1}^{N,K},\sigma ^{2},\{\alpha _{l}\}_{l=1}^{K},\{\beta _{lb}\}_{l=1,b=1}^{K,P},\{\omega _{l}\}_{l=1}^{K})$

$=\underbrace {\pi (\{y_{ij}\}_{i=1,j=1}^{N,M_{i}}|\{\theta _{li}\}_{i=1,l=1}^{N,K},\sigma ^{2})} _{Stage1:Individual-LevelModel}\times \underbrace {\pi (\{\theta _{li}\}_{i=1,l=1}^{N,K}|\{\alpha _{l}\}_{l=1}^{K},\{\beta _{lb}\}_{l=1,b=1}^{K,P},\{\omega _{l}\}_{l=1}^{K})} _{Stage2:PopulationModel}\times \underbrace {p(\sigma ^{2},\{\alpha _{l}\}_{l=1}^{K},\{\beta _{lb}\}_{l=1,b=1}^{K,P},\{\omega _{l}\}_{l=1}^{K})} _{Stage3:Prior}$

На панели справа показан байесовский исследовательский цикл с использованием байесовской нелинейной модели смешанных эффектов. Цикл исследования с использованием байесовской нелинейной модели смешанных эффектов состоит из двух этапов: (а) стандартный исследовательский цикл и (б) рабочий процесс, специфичный для Байеса. Стандартный цикл исследования включает обзор литературы, определение проблемы, определение вопроса и гипотезы исследования. Рабочий процесс, специфичный для Байеса, состоит из трех подэтапов: (b)–(i) формализация предшествующих распределений на основе базовых знаний и предварительного выявления; (b)–(ii) определение функции правдоподобия на основе нелинейной функции $f$; и (b)–(iii) сделать апостериорный вывод. Полученный апостериорный вывод можно использовать для начала нового исследовательского цикла.

См. также

• Смешанная модель
• Модель с фиксированными эффектами
• Обобщенная линейная смешанная модель
• Линейная регрессия
• Дисперсионный анализ смешанного плана
• Многоуровневая модель
• Модель случайных эффектов
• Проектирование повторяющихся мер