Идемпотентная матрица

В линейной алгебре идемпотентная матрица — это матрица , которая при умножении сама на себя дает себя. То есть матрица $A$ идемпотентен тогда и только тогда, когда $A^{2}=A$. Для этого продукта $A^{2}$ быть определены , $A$ обязательно должна быть квадратной матрицей . С этой точки зрения идемпотентные матрицы являются идемпотентными элементами колец матриц .

Пример

Примеры $2\times 2$ идемпотентные матрицы:

$${\begin{bmatrix}1&0\\0&1\end{bmatrix}}\qquad {\begin{bmatrix}3&-6\\1&-2\end{bmatrix}}$$

Примеры $3\times 3$ идемпотентные матрицы:

$${\begin{bmatrix}1&0&0\\0&1&0\\0&0&1\end{bmatrix}}\qquad {\begin{bmatrix}2&-2&-4\\-1&3&4\\1&-2&-3\end{bmatrix}}$$

Реальный случай 2 × 2

Если матрица ${\begin{pmatrix}a&b\\c&d\end{pmatrix}}$ идемпотент, то

• $a=a^{2}+bc,$
• $b=ab+bd,$ подразумевая $b(1-a-d)=0$ так $b=0$ или $d=1-a,$
• $c=ca+cd,$ подразумевая $c(1-a-d)=0$ так $c=0$ или $d=1-a,$
• $d=bc+d^{2}.$

Таким образом, необходимым условием $2\times 2$ Идемпотентность матрицы заключается в том, что она либо диагональна , либо ее след равен 1.Для идемпотентных диагональных матриц $a$ и $d$ должно быть либо 1, либо 0.

Если $b=c$, матрица ${\begin{pmatrix}a&b\\b&1-a\end{pmatrix}}$ будет идемпотентным при условии $a^{2}+b^{2}=a,$ поэтому a удовлетворяет квадратному уравнению

$a^{2}-a+b^{2}=0,$ или $\left(a-{\frac {1}{2}}\right)^{2}+b^{2}={\frac {1}{4}}$

который представляет собой круг с центром (1/2, 0) и радиусом 1/2. С точки зрения угла θ,

$A={\frac {1}{2}}{\begin{pmatrix}1-\cos \theta &\sin \theta \\\sin \theta &1+\cos \theta \end{pmatrix}}$ является идемпотентным.

Однако, $b=c$ не является необходимым условием: любая матрица

${\begin{pmatrix}a&b\\c&1-a\end{pmatrix}}$ с $a^{2}+bc=a$ является идемпотентным.

Свойства

Необычность и закономерность

Единственной несингулярной идемпотентной матрицей является единичная матрица ; то есть, если неединичная матрица идемпотентна, количество ее независимых строк (и столбцов) меньше количества строк (и столбцов).

Это видно из написанного $A^{2}=A$, предполагая, что A имеет полный ранг (не является сингулярным), и предварительно умножив на $A^{-1}$ чтобы получить $A=IA=A^{-1}A^{2}=A^{-1}A=I$.

Когда идемпотентная матрица вычитается из единичной матрицы, результат также идемпотентен. Это справедливо с тех пор, как

$(I-A)(I-A)=I-A-A+A^{2}=I-A-A+A=I-A.$

Если матрица A идемпотентна, то для всех натуральных чисел n $A^{n}=A$. Это можно показать с помощью доказательства по индукции. Очевидно, мы имеем результат для $n=1$, как $A^{1}=A$. Предположим, что $A^{k-1}=A$. Затем, $A^{k}=A^{k-1}A=AA=A$, поскольку A идемпотент. Отсюда по принципу индукции следует результат.

Собственные значения

Идемпотентная матрица всегда диагонализуема . Его собственные значения равны 0 или 1: если $\mathbf {x}$ является ненулевым собственным вектором некоторой идемпотентной матрицы $A$ и $\lambda$ связанное с ним собственное значение, то ${\textstyle \lambda \mathbf {x} =A\mathbf {x} =A^{2}\mathbf {x} =A\lambda \mathbf {x} =\lambda A\mathbf {x} =\lambda ^{2}\mathbf {x} ,}$ что подразумевает $\lambda \in \{0,1\}.$ Это также означает, что определитель идемпотентной матрицы всегда равен 0 или 1. Как указано выше, если определитель равен единице, матрица обратима и, следовательно, является единичной матрицей .

След

След . идемпотентной матрицы — сумма элементов на ее главной диагонали — равен рангу матрицы и, следовательно, всегда является целым числом Это обеспечивает простой способ вычисления ранга или, альтернативно, простой способ определения следа матрицы, элементы которой конкретно не известны (что полезно в статистике , например, при определении степени систематической ошибки при использовании выборочной дисперсии как оценка генеральной дисперсии ).

Отношения между идемпотентными матрицами

В регрессионном анализе матрица $M=I-X(X'X)^{-1}X'$ известно, что он производит остатки $e$ из регрессии вектора зависимых переменных $y$ по матрице ковариат $X$. (См. раздел «Приложения».) Теперь позвольте $X_{1}$ быть матрицей, сформированной из подмножества столбцов $X$, и пусть $M_{1}=I-X_{1}(X_{1}'X_{1})^{-1}X_{1}'$. Легко показать, что оба $M$ и $M_{1}$ идемпотентны, но несколько удивительным фактом является то, что $MM_{1}=M$. Это потому, что $MX_{1}=0$или, другими словами, остатки регрессии столбцов $X_{1}$ на $X$ 0, так как $X_{1}$ может быть идеально интерполирован, поскольку является подмножеством $X$ (прямой заменой также несложно показать, что $MX=0$). Это приводит к двум другим важным результатам: один из них заключается в том, что $(M_{1}-M)$ симметричен и идемпотент, а другой состоит в том, что $(M_{1}-M)M=0$, то есть, $(M_{1}-M)$ ортогонален $M$. Эти результаты играют ключевую роль, например, при выводе F-теста.

Любые подобные матрицы идемпотентной матрицы также идемпотентны. Идемпотентность сохраняется при изменении базиса . Это можно показать путем умножения преобразованной матрицы $SAS^{-1}$ с $A$ будучи идемпотентным: $(SAS^{-1})^{2}=(SAS^{-1})(SAS^{-1})=SA(S^{-1}S)AS^{-1}=SA^{2}S^{-1}=SAS^{-1}$.

Приложения

Идемпотентные матрицы часто возникают в регрессионном анализе и эконометрике . Например, в обычном методе наименьших квадратов проблема регрессии состоит в том, чтобы выбрать вектор β оценок коэффициентов так, чтобы минимизировать сумму квадратов остатков (ошибочных прогнозов) e _i : в матричной форме,

Свернуть $(y-X\beta )^{\textsf {T}}(y-X\beta )$

где $y$ представляет собой вектор наблюдений зависимых переменных , а $X$ — матрица, каждый из столбцов которой представляет собой столбец наблюдений за одной из независимых переменных . Полученная оценка

${\hat {\beta }}=\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}y$

где верхний индекс T указывает на транспонирование , а вектор остатков равен

${\hat {e}}=y-X{\hat {\beta }}=y-X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}y=\left[I-X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}\right]y=My.$

Здесь оба $M$ и $X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}$(последняя известна как шляпная матрица ) являются идемпотентными и симметричными матрицами, что позволяет упростить вычисление суммы квадратов остатков:

${\hat {e}}^{\textsf {T}}{\hat {e}}=(My)^{\textsf {T}}(My)=y^{\textsf {T}}M^{\textsf {T}}My=y^{\textsf {T}}MMy=y^{\textsf {T}}My.$

Идемпотентность $M$ играет роль и в других вычислениях, например, при определении дисперсии оценки ${\hat {\beta }}$.

Идемпотентный линейный оператор $P$ является оператором проекции на пространство диапазонов $R(P)$ вдоль своего нулевого пространства $N(P)$. $P$ является оператором ортогонального проектирования тогда и только тогда, когда он идемпотентен и симметричен .

См. также

• Идемпотентность
• Нильпотентный
• Проекция (линейная алгебра)
• Матрица шляпы