Матрица моментов

В математике матрица моментов — это специальная симметричная квадратная матрица , строки и столбцы которой индексируются мономами . Элементы матрицы зависят только от произведения индексирующих мономов (см. матрицы Ганкеля ).

Матрицы моментов играют важную роль в полиномиальной аппроксимации , полиномиальной оптимизации (поскольку положительные полуопределенные матрицы моментов соответствуют полиномам, которые являются суммами квадратов ) и эконометрика .

Приложение в регрессии

Модель множественной линейной регрессии можно записать как

$y=\beta _{0}+\beta _{1}x_{1}+\beta _{2}x_{2}+\dots \beta _{k}x_{k}+u$

где $y$ — объясняемая переменная, $x_{1},x_{2}\dots ,x_{k}$ являются объясняющими переменными, $u$ это ошибка, и $\beta _{0},\beta _{1}\dots ,\beta _{k}$ неизвестные коэффициенты, подлежащие оценке. Учитывая наблюдения $\left\{y_{i},x_{1i},x_{2i},\dots ,x_{ki}\right\}_{i=1}^{n}$, у нас есть система $n$ линейные уравнения, которые можно выразить в матричной записи.

${\begin{bmatrix}y_{1}\\y_{2}\\\vdots \\y_{n}\end{bmatrix}}={\begin{bmatrix}1&x_{11}&x_{12}&\dots &x_{1k}\\1&x_{21}&x_{22}&\dots &x_{2k}\\\vdots &\vdots &\vdots &\ddots &\vdots \\1&x_{n1}&x_{n2}&\dots &x_{nk}\\\end{bmatrix}}{\begin{bmatrix}\beta _{0}\\\beta _{1}\\\vdots \\\beta _{k}\end{bmatrix}}+{\begin{bmatrix}u_{1}\\u_{2}\\\vdots \\u_{n}\end{bmatrix}}$

или

$\mathbf {y} =\mathbf {X} {\boldsymbol {\beta }}+\mathbf {u}$

где $\mathbf {y}$ и $\mathbf {u}$ каждый является вектором размерности $n\times 1$, $\mathbf {X}$ это проектная матрица порядка $N\times (k+1)$, и ${\boldsymbol {\beta }}$ вектор размерности $(k+1)\times 1$. В предположениях Гаусса–Маркова лучшая линейная несмещенная оценка ${\boldsymbol {\beta }}$ это линейная методом наименьших квадратов оценка $\mathbf {b} =\left(\mathbf {X} ^{\mathsf {T}}\mathbf {X} \right)^{-1}\mathbf {X} ^{\mathsf {T}}\mathbf {y}$, включающий две матрицы моментов $\mathbf {X} ^{\mathsf {T}}\mathbf {X}$ и $\mathbf {X} ^{\mathsf {T}}\mathbf {y}$ определяется как

$\mathbf {X} ^{\mathsf {T}}\mathbf {X} ={\begin{bmatrix}n&\sum x_{i1}&\sum x_{i2}&\dots &\sum x_{ik}\\\sum x_{i1}&\sum x_{i1}^{2}&\sum x_{i1}x_{i2}&\dots &\sum x_{i1}x_{ik}\\\sum x_{i2}&\sum x_{i1}x_{i2}&\sum x_{i2}^{2}&\dots &\sum x_{i2}x_{ik}\\\vdots &\vdots &\vdots &\ddots &\vdots \\\sum x_{ik}&\sum x_{i1}x_{ik}&\sum x_{i2}x_{ik}&\dots &\sum x_{ik}^{2}\end{bmatrix}}$

и

$\mathbf {X} ^{\mathsf {T}}\mathbf {y} ={\begin{bmatrix}\sum y_{i}\\\sum x_{i1}y_{i}\\\vdots \\\sum x_{ik}y_{i}\end{bmatrix}}$

где $\mathbf {X} ^{\mathsf {T}}\mathbf {X}$ представляет собой квадратную нормальную матрицу размерности $(k+1)\times (k+1)$, и $\mathbf {X} ^{\mathsf {T}}\mathbf {y}$ вектор размерности $(k+1)\times 1$.

См. также

• Матрица проектирования
• Матрица Грамиана
• Матрица проекции

Внешние ссылки

• «Матрица моментов» , Математическая энциклопедия , EMS Press , 2001 [1994]