Определенная матрица

Не путать с положительной матрицей и полностью положительной матрицей .

В математике симметричная матрица $\ M\$ с действительными записями положительно определена, если действительное число $\ \mathbf {x} ^{\top }M\mathbf {x} \$ положителен для каждого ненулевого действительного вектора-столбца $\ \mathbf {x} \ ,$ где $\ \mathbf {x} ^{\top }\$ — вектор-строка транспонированная , $\ \mathbf {x} ~.$ В более общем смысле, эрмитова матрица (то есть комплексная матрица , равная ее сопряженной транспонированной ) является положительно определенной, если действительное число $\ \mathbf {z} ^{*}M\mathbf {z} \$ положителен для каждого ненулевого комплексного вектора-столбца $\ \mathbf {z} \ ,$ где $\ \mathbf {z} ^{*}\$ обозначает сопряженное транспонирование $\ \mathbf {z} ~.$

Положительные полуопределенные матрицы определяются аналогично, за исключением того, что скаляры $\ \mathbf {x} ^{\top }M\mathbf {x} \$ и $\ \mathbf {z} ^{*}M\mathbf {z} \$должны быть положительными или нулевыми (т. е. не отрицательными). Отрицательно-определенные и отрицательно-полуопределенные матрицы определяются аналогично. Матрицу, которая не является ни положительно-полуопределенной, ни отрицательно-полуопределенной, иногда называют неопределенной .

Разветвления

Из приведенных выше определений следует, что матрица является положительно определенной тогда и только тогда, когда она является матрицей положительно определенной квадратичной формы или эрмитовой формы . Другими словами, матрица является положительно определенной тогда и только тогда, когда она определяет скалярный продукт .

Положительно-определенные и положительно-полуопределенные матрицы можно охарактеризовать по-разному, что может объяснить важность этой концепции в различных частях математики. Матрица M является положительно определенной тогда и только тогда, когда она удовлетворяет любому из следующих эквивалентных условий.

• $\ M\$ конгруэнтна . диагональной матрице с положительными вещественными элементами
• $\ M\$ симметрична или эрмитова, и все ее собственные значения вещественны и положительны.
• $\ M\$ является симметричным или эрмитовым, и все его главные миноры положительны.
• Существует обратимая матрица $\ B\$ с сопряженным транспонированием $\ B^{*}\$ такой, что $\ M=B^{*}B~.$

Матрица является положительно-полуопределенной, если она удовлетворяет аналогичным эквивалентным условиям, где «положительная» заменяется на «неотрицательную», «обратимая матрица» заменяется на «матрица», а слово «ведущая» удаляется.

Положительно-определенные и положительно-полуопределенные вещественные матрицы лежат в основе выпуклой оптимизации , поскольку, если дана функция нескольких действительных переменных , дважды дифференцируемая , то если ее матрица Гессе (матрица ее вторых частных производных) положительно определена при точка $\ p\ ,$ то функция выпукла вблизи p , и, наоборот, если функция выпукла вблизи p $\ p\ ,$ то матрица Гессе является положительно-полуопределенной в точке $\ p~.$

Множество положительно определенных матриц представляет собой открытый выпуклый конус , а множество положительно определенных матриц — замкнутый выпуклый конус.

Некоторые авторы используют более общие определения определенности, включая некоторые несимметричные действительные матрицы или неэрмитовы комплексные.

Определения

В следующих определениях $\ \mathbf {x} ^{\top }\$ это транспонирование $\ \mathbf {x} \ ,$ $\ \mathbf {z} ^{*}\$ является сопряженным транспонированием $\ \mathbf {z} \ ,$ и $\ \mathbf {0} \$ обозначает n -мерный нулевой вектор.

Определения действительных матриц

Ан $n\times n$ симметричная действительная матрица $\ M\$ называется положительно определенным , если $\ \mathbf {x} ^{\top }M\ \mathbf {x} >0\$ для всех ненулевых $\ \mathbf {x} \$ в $\ \mathbb {R} ^{n}~.$ Формально,

$\ M{\text{ positive-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} >0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}\setminus \{\mathbf {0} \}\$

Ан $\ n\times n\$ симметричная действительная матрица $\ M\$ называется положительно-полуопределенным или неотрицательно-определенным, если $\ \mathbf {x} ^{\top }M\ \mathbf {x} \geq 0\$ для всех $\ \mathbf {x} \$ в $\ \mathbb {R} ^{n}~.$ Формально,

$\ M{\text{ positive semi-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} \geq 0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}\$

Ан $\ n\times n\$ симметричная действительная матрица $\ M\$ называется отрицательно определенным , если $\ \mathbf {x} ^{\top }M\ \mathbf {x} <0\$ для всех ненулевых $\ \mathbf {x} \$ в $\ \mathbb {R} ^{n}~.$ Формально,

$\ M{\text{ negative-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} <0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}\setminus \{\mathbf {0} \}\$

Ан $\ n\times n\$ симметричная действительная матрица $\ M\$ называется отрицательно-полуопределенным или неположительно-определенным, если $\ \mathbf {x} ^{\top }M\ \mathbf {x} \leq 0\$ для всех $\ \mathbf {x} \$ в $\ \mathbb {R} ^{n}~.$ Формально,

$M{\text{ negative semi-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} \leq 0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}$

Ан $n\times n$ Симметричная вещественная матрица, которая не является ни положительно-полуопределенной, ни отрицательно-полуопределенной, называется неопределенной .

Определения комплексных матриц

Все следующие определения включают термин $\ \mathbf {z} ^{*}M\ \mathbf {z} ~.$ Обратите внимание, что это всегда действительное число для любой эрмитовой квадратной матрицы. $\ M~.$

Ан $\ n\times n\$ Эрмитова комплексная матрица $\ M\$ называется положительно определенным , если $\ \mathbf {z} ^{*}M\ \mathbf {z} >0\$ для всех ненулевых $\ \mathbf {z} \$ в $\ \mathbb {C} ^{n}~.$ Формально,

$\ M{\text{ positive-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} >0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\setminus \{\mathbf {0} \}\$

Ан $\ n\times n\$ Эрмитова комплексная матрица $\ M\$ называется положительно-полуопределенным или неотрицательно-определенным, если $\ \mathbf {z} ^{*}M\ \mathbf {z} \geq 0\$ для всех $\ \mathbf {z} \$ в $\ \mathbb {C} ^{n}~.$ Формально,

$\ M{\text{ positive semi-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} \geq 0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\$

Ан $\ n\times n\$ Эрмитова комплексная матрица $\ M\$ называется отрицательно определенным , если $\ \mathbf {z} ^{*}M\ \mathbf {z} <0\$ для всех ненулевых $\ \mathbf {z} \$ в $\ \mathbb {C} ^{n}~.$ Формально,

$\ M{\text{ negative-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} <0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\setminus \{\mathbf {0} \}\$

Ан $\ n\times n\$ Эрмитова комплексная матрица $\ M\$ называется отрицательно-полуопределенным или неположительно-определенным, если $\ \mathbf {z} ^{*}M\ \mathbf {z} \leq 0\$ для всех $\ \mathbf {z} \$ в $\ \mathbb {C} ^{n}~.$ Формально,

$\ M{\text{ negative semi-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} \leq 0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\$

Ан $\ n\times n\$ Эрмитова комплексная матрица, которая не является ни положительно-полуопределенной, ни отрицательно-полуопределенной, называется неопределенной .

между реальными и

Поскольку каждая действительная матрица также является комплексной матрицей, определения «определенности» для этих двух классов должны согласовываться.

Для сложных матриц наиболее распространенное определение гласит, что $\ M\$ положительно определен тогда и только тогда, когда $\ \mathbf {z} ^{*}M\ \mathbf {z} \$ является действительным и положительным для любых ненулевых комплексных векторов-столбцов $\mathbf {z} ~.$ Это условие подразумевает, что $M$ является эрмитовым (т.е. его транспонирование равно сопряженному), поскольку $\mathbf {z} ^{*}M\ \mathbf {z}$ будучи действительным, он равен своему сопряженному транспонированию $\ \mathbf {z} ^{*}\ M^{*}\ \mathbf {z} \$ для каждого $\ \mathbf {z} \ ,$ что подразумевает $\ M=M^{*}~.$

По этому определению положительно определенная действительная матрица $\ M\$является эрмитовым, следовательно, симметричным; и $\ \mathbf {z} ^{\top }M\ \mathbf {z} \$ положителен для всех ненулевых действительных векторов-столбцов $\ \mathbf {z} ~.$ Однако одного только последнего условия недостаточно для $\ M\$быть положительно-определенным. Например, если

$$\ M={\begin{bmatrix}~1~&~1~\\-1~&~1~\end{bmatrix}},$$

тогда для любого вещественного вектора $\ \mathbf {z} \$ с записями $\ a\$ и $\ b\$ у нас есть $\ \mathbf {z} ^{\top }M\ \mathbf {z} =\left(a+b\right)a+\left(-a+b\right)b=a^{2}+b^{2}\ ,$ что всегда положительно, если $\ \mathbf {z} \$не равен нулю. Однако, если $\ \mathbf {z} \$ — комплексный вектор с записями 1 и $\ i\ ,$ каждый получает

$$\mathbf {z} ^{*}M\ \mathbf {z} ={\begin{bmatrix}~1~&-i~\end{bmatrix}}\ M\ {\begin{bmatrix}~1~\\~i~\end{bmatrix}}={\begin{bmatrix}~1+i~&~1-i~\end{bmatrix}}\ {\begin{bmatrix}~1~\\~i~\end{bmatrix}}=2+2i~.$$

что не реально. Поэтому, $\ M\$ не является положительно-определенным.

С другой стороны, для симметричной вещественной матрицы $\ M\ ,$ состояние " $\ \mathbf {z} ^{\top }M\ \mathbf {z} >0\$ для всех ненулевых действительных векторов $\ \mathbf {z} \$ подразумевает , что $\ M\$ положительно определена в комплексном смысле.

Обозначения

Если эрмитова матрица $\ M\$ положительно полуопределенен, иногда пишут $\ M\succeq 0\$ и если $\ M\$ положительно определен, пишут $\ M\succ 0~.$ Чтобы обозначить это $\ M\$ является отрицательным полуопределенным, пишут $\ M\preceq 0\$ и обозначить это $\ M\$ отрицательно определен, пишут $\ M\prec 0~.$

Это понятие пришло из функционального анализа , где положительные полуопределенные матрицы определяют положительные операторы . Если две матрицы $\ A\$ и $\ B\$ удовлетворить $\ B-A\succeq 0\ ,$ мы можем определить нестрогий частичный порядок $\ B\succeq A\$это рефлексивно , антисимметрично и транзитивно ; Однако это не тотальный порядок , поскольку $\ B-A\ ,$ вообще может быть неопределенным.

Распространенное альтернативное обозначение: $\ M\geq 0\ ,$ $\ M>0\ ,$ $\ M\leq 0\ ,$ и $\ M<0\$для положительно-полуопределенных и положительно-определенных, отрицательно-полуопределенных и отрицательно-определенных матриц соответственно. Это может сбить с толку, поскольку иногда неотрицательные матрицы так обозначают и (соответственно, неположительные).

Примеры

• Матрица идентичности $I={\begin{bmatrix}1&0\\0&1\end{bmatrix}}$положительно определен (а значит, и положительно полуопределенен). Это действительная симметричная матрица, и для любого ненулевого вектора-столбца z с действительными элементами a и b имеем
  $$\mathbf {z} ^{\top }I\mathbf {z} ={\begin{bmatrix}a&b\end{bmatrix}}{\begin{bmatrix}1&0\\0&1\end{bmatrix}}{\begin{bmatrix}a\\b\end{bmatrix}}=a^{2}+b^{2}.$$
  Если рассматривать комплексную матрицу, для любого ненулевого вектора-столбца z с комплексными элементами a и b имеем
  $$\mathbf {z} ^{*}I\mathbf {z} ={\begin{bmatrix}{\overline {a}}&{\overline {b}}\end{bmatrix}}{\begin{bmatrix}1&0\\0&1\end{bmatrix}}{\begin{bmatrix}a\\b\end{bmatrix}}={\overline {a}}a+{\overline {b}}b=|a|^{2}+|b|^{2}.$$
  В любом случае результат положительный, так как $\mathbf {z}$ не является нулевым вектором (то есть хотя бы одним из $a$ и $b$ не равен нулю).
• Настоящая симметричная матрица
  $$M={\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-1&2\end{bmatrix}}$$
  положительно определен, поскольку для любого ненулевого вектора-столбца z с записями a , b и c мы имеем
  $${\begin{aligned}\mathbf {z} ^{\top }M\mathbf {z} =\left(\mathbf {z} ^{\top }M\right)\mathbf {z} &={\begin{bmatrix}(2a-b)&(-a+2b-c)&(-b+2c)\end{bmatrix}}{\begin{bmatrix}a\\b\\c\end{bmatrix}}\\&=(2a-b)a+(-a+2b-c)b+(-b+2c)c\\&=2a^{2}-ba-ab+2b^{2}-cb-bc+2c^{2}\\&=2a^{2}-2ab+2b^{2}-2bc+2c^{2}\\&=a^{2}+a^{2}-2ab+b^{2}+b^{2}-2bc+c^{2}+c^{2}\\&=a^{2}+(a-b)^{2}+(b-c)^{2}+c^{2}\end{aligned}}$$
  Этот результат представляет собой сумму квадратов и, следовательно, неотрицательен; и равен нулю, только если $\ a=b=c=0\ ,$ то есть, когда $\ \mathbf {z} \$ – нулевой вектор.
• Для любой реальной обратимой матрицы $\ A\ ,$ продукт $\ A^{\top }A\$является положительно определенной матрицей (если средние значения столбцов A равны 0, то это также называется ковариационной матрицей ). Простое доказательство состоит в том, что для любого ненулевого вектора $\ \mathbf {z} \ ,$ состояние $\ \mathbf {z} ^{\top }A^{\top }A\mathbf {z} =(A\mathbf {z} )^{\top }(A\mathbf {z} )=\|A\mathbf {z} \|^{2}>0\ ,$ поскольку обратимость матрицы $A$ Значит это $A\mathbf {z} \neq 0~.$
• Пример $M$Выше показано, что матрица, в которой некоторые элементы отрицательны, все же может быть положительно определенной. И наоборот, матрица, все элементы которой положительны, не обязательно является положительно определенной, как, например,
  $$\ N={\begin{bmatrix}1&2\\2&1\end{bmatrix}}\ ,$$
  для которого ${\begin{bmatrix}-1&1\end{bmatrix}}N{\begin{bmatrix}-1&1\end{bmatrix}}^{\top }=-2<0~.$

Собственные значения

Позволять $M$ быть $n\times n$ Эрмитова матрица (сюда входят вещественные симметричные матрицы ). Все собственные значения $M$ действительны, и их знак характеризует ее определенность:

• $M$ положительно определен тогда и только тогда, когда все его собственные значения положительны.
• $M$ является положительно-полуопределенным тогда и только тогда, когда все его собственные значения неотрицательны.
• $M$ отрицательно определен тогда и только тогда, когда все его собственные значения отрицательны.
• $M$ является отрицательно-полуопределенным тогда и только тогда, когда все его собственные значения неположительны.
• $M$ является неопределенным тогда и только тогда, когда оно имеет как положительные, так и отрицательные собственные значения.

Позволять $\ PDP^{-1}\$ быть собственным разложением $\ M\ ,$ где $\ P\$ — унитарная комплексная матрица столбцы которой содержат ортонормированный базис собственных векторов , $\ M\ ,$ и $\ D\$— действительная диагональная матрица, которой главная диагональ содержит соответствующие собственные значения . Матрица $\ M\$ можно рассматривать как диагональную матрицу $\ D\$ что было перевыражено в координатах базиса (собственных векторов) $\ P~.$ Иными словами, применяя $M$ к некоторому вектору $\ \mathbf {z} \ ,$ предоставление $\ M\mathbf {z} \ ,$ то же самое, что изменить основу системы координат собственного вектора с помощью $\ P^{-1}\ ,$ предоставление $\ P^{-1}\mathbf {z} \ ,$ применение преобразования растяжения $\ D\$ к результату, давая $\ DP^{-1}\mathbf {z} \ ,$ а затем снова изменив основу, используя $\ P\ ,$ предоставление $\ PDP^{-1}\mathbf {z} ~.$

Учитывая это, замена переменной один к одному $\ \mathbf {y} =P\mathbf {z} \$ показывает, что $\ \mathbf {z} ^{*}M\mathbf {z} \$ действителен и положителен для любого комплексного вектора $\ \mathbf {z} \$ если и только если $\ \mathbf {y} ^{*}D\mathbf {y} \$ является реальным и позитивным для любого $\ y\ ;$ другими словами, если $\ D\$является положительно определенным. Для диагональной матрицы это верно только в том случае, если каждый элемент главной диагонали, то есть каждое собственное значение $\ M\$– положительно. Поскольку спектральная теорема гарантирует вещественность всех собственных значений эрмитовой матрицы, положительность собственных значений можно проверить с помощью правила чередования знаков Декарта, когда характеристический полином действительной симметричной матрицы $\ M\$ доступен.

Разложение

См. Также: Матрица Грамма.

Позволять $\ M\$ быть $\ n\times n\$ Эрмитова матрица . $\ M\$ является положительно полуопределенным тогда и только тогда, когда его можно разложить в произведение

$$\ M=B^{*}B\$$

матрицы $\ B\$ с его сопряженным транспонированием .

Когда $\ M\$ реально, $\ B\$ также может быть действительным, и разложение можно записать как

$$\ M=B^{\top }B~.$$

$M$ положительно определен тогда и только тогда, когда такое разложение существует с $\ B\$ обратимый . В более общем смысле, $\ M\$ положительно полуопределен с рангом $\ k\$ тогда и только тогда, когда существует разложение с $\ k\times n\$ матрица $\ B\$ полного ранга строки (т.е. ранга $\ k\$). Более того, при любом разложении $\ M=B^{*}B\ ,$ $\ \operatorname {rank} (M)=\operatorname {rank} (B)~.$

Доказательство

Если $\ M=B^{*}B\ ,$ затем $\ x^{*}Mx=(x^{*}B^{*})(Bx)=\|Bx\|^{2}\geq 0\ ,$ так $\ M\$является положительно полуопределенным. Если к тому же $B$ обратимо, то неравенство является строгим при $\ x\neq 0\ ,$ так $M$является положительно определенным. Если $B$ является $k\times n$ ранга $\ k\ ,$ затем $\ \operatorname {rank} (M)=\operatorname {rank} (B^{*})=k~.$

В другом направлении, предположим, $\ M\$является положительно полуопределенным. С $\ M\$ является эрмитовым, имеет собственное разложение $\ M=Q^{-1}DQ\$ где $\ Q\$ является унитарным и $\ D\$ — диагональная матрица, элементы которой являются собственными значениями $\ M\$ С $\ M\$ положительно полуопределен, собственные значения являются неотрицательными действительными числами, поэтому можно определить $\ D^{\frac {1}{2}}\$как диагональная матрица, элементы которой являются неотрицательными квадратными корнями из собственных значений. Затем $\ M=Q^{-1}DQ=Q^{*}DQ=Q^{*}D^{\frac {1}{2}}D^{\frac {1}{2}}Q=Q^{*}D^{{\frac {1}{2}}*}D^{\frac {1}{2}}Q=B^{*}B\$ для $\ B=D^{\frac {1}{2}}Q~.$ Если к тому же $M$ положительно определен, то собственные значения (строго) положительны, поэтому $\ D^{\frac {1}{2}}\$ обратима, и, следовательно, $\ B=D^{\frac {1}{2}}Q\$также обратима. Если $\ M\$ имеет ранг $\ k\ ,$ тогда это точно $k$ положительные собственные значения, а остальные равны нулю, следовательно, в $\ B=D^{\frac {1}{2}}Q\$ Все кроме $k$все строки обнулены. Обрезание нулевых строк дает $\ k\times n\$ матрица $\ B'\$ такой, что $\ B'^{*}B'=B^{*}B=M~.$

Столбцы $\ b_{1},\dots ,b_{n}\$ из $\ B\$ можно рассматривать как векторы в комплексном или действительном векторном пространстве. $\ \mathbb {R} ^{k}\ ,$соответственно. Тогда записи $M$ являются внутренними продуктами (то есть скалярными произведениями в реальном случае) этих векторов

$$\ M_{ij}=\langle b_{i},b_{j}\rangle ~.$$

Другими словами, эрмитова матрица $\ M\$ положительно полуопределена тогда и только тогда, когда она является матрицей Грама некоторых векторов $\ b_{1},\dots ,b_{n}~.$Она положительно определена тогда и только тогда, когда она является матрицей Грама некоторых линейно независимых векторов. В общем случае ранг матрицы Грама векторов $\ b_{1},\dots ,b_{n}\$ равна размерности пространства, натянутого этими векторами.

Единственность с точностью до унитарных преобразований

Разложение не уникально: если $\ M=B^{*}B\$ для некоторых $\ k\times n\$ матрица $\ B\$ и если $\ Q\$ есть ли унитарный $k\times k$ матрица (значение $\ Q^{*}Q=QQ^{*}=I\$), затем $\ M=B^{*}B=B^{*}Q^{*}QB=A^{*}\$ для $\ A=QB~.$

Однако это единственный способ, которым два разложения могут различаться: Разложение уникально с точностью до унитарных преобразований . Более формально, если $\ A\$ это $\ k\times n\$ матрица и $\ B\$ это $\ \ell \times n\$ матрица такая, что $\ A^{*}A=B^{*}B\ ,$ тогда есть $\ \ell \times k\$ матрица $Q$ с ортонормированными столбцами (имеется в виду $\ Q^{*}Q=I_{k\times k}\$) такой, что $\ B=QA~.$ Когда $\ell =k$ это означает $Q$ является унитарным .

Это утверждение имеет интуитивную геометрическую интерпретацию в реальном случае: пусть столбцы $A$ и $B$ быть векторами $a_{1},\dots ,a_{n}$ и $\ b_{1},\dots ,b_{n}\$ в $\ \mathbb {R} ^{k}~.$ Действительная унитарная матрица — это ортогональная матрица , описывающая жесткое преобразование (изометрию евклидова пространства). $\mathbb {R} ^{k}$) с сохранением нулевой точки (т.е. вращения и отражения , без перемещений). Следовательно, скалярные произведения $a_{i}\cdot a_{j}$ и $b_{i}\cdot b_{j}$ равны тогда и только тогда, когда некоторое жесткое преобразование $\mathbb {R} ^{k}$ преобразует векторы $a_{1},\dots ,a_{n}$ к $b_{1},\dots ,b_{n}$ (и от 0 до 0).

Квадратный корень

Основная статья: Квадратный корень из матрицы

Эрмитова матрица $\ M\$ положительно полуопределена тогда и только тогда, когда существует положительно полуопределенная матрица $\ B\$ (в частности $\ B\$ является эрмитовым, поэтому $\ B^{*}=B\$) удовлетворение $\ M=BB~.$ Эта матрица $\ B\$ уникален, называется неотрицательным квадратным корнем из $\ M\ ,$ и обозначается $\ B=M^{\frac {1}{2}}~.$ Когда $M$ положительно определен, поэтому $\ M^{\frac {1}{2}}\ ,$ поэтому его также называют положительным квадратным корнем из $\ M~.$

Неотрицательный квадратный корень не следует путать с другими разложениями. $\ M=B^{*}B~.$ Некоторые авторы используют название квадратный корень и $M^{\frac {1}{2}}$для любого такого разложения или конкретно для разложения Холецкого , или любое разложение формы $\ M=BB\ ;$ другие используют его только для получения неотрицательного квадратного корня.

Если $\ M>N>0\$ затем $\ M^{\frac {1}{2}}>N^{\frac {1}{2}}>0~.$

Разложение Холецкого

Эрмитова положительно полуопределенная матрица $\ M\$ можно записать как $\ M=LL^{*}\ ,$ где $\ L\$ является нижним треугольником с неотрицательной диагональю (что эквивалентно $M=B^{*}B$ где $\ B=L^{*}\$имеет верхнюю треугольную форму); это разложение Холецкого . Если $\ M\$ положительно определена, то диагональ $\ L\$положительно, а разложение Холецкого уникально. И наоборот, если $\ L\$ является нижним треугольником с неотрицательной диагональю, тогда $\ LL^{*}\$является положительно полуопределенным. Разложение Холецкого особенно полезно для эффективных численных расчетов. Близко родственным разложением является разложение ЛПНП , $\ M=LDL^{*}\ ,$ где $D$ является диагональным и $\ L\$ является нижним унитреугольным .

Другие характеристики

Позволять $\ M\$ быть $\ n\times n\$ вещественная симметричная матрица , и пусть $\ B_{1}(M)\equiv \{\mathbf {x} \in \mathbb {R} ^{n}:\mathbf {x} ^{\top }M\ \mathbf {x} \leq 1\}\$ быть «единичным шаром», определяемым формулой $\ M~.$ Тогда мы имеем следующее

• $\ B_{1}(\mathbf {v} \ \mathbf {v} ^{\top })$ представляет собой твердую плиту, зажатую между $\ \pm \{\mathbf {w} :\langle \mathbf {w} ,\mathbf {v} \rangle =1\}~.$
• $\ M\succeq 0\$ если и только если $\ B_{1}(M)\$ представляет собой эллипсоид или эллипсоидный цилиндр.
• $\ M\succ 0\$ если и только если $\ B_{1}(M)\$ ограничен, то есть является эллипсоидом.
• Если $\ N\succ 0\ ,$ затем $\ M\succeq N\$ если и только если $\ B_{1}(M)\subseteq B_{1}(N)\ ;$ $\ M\succ N\$ если и только если $\ B_{1}(M)\subseteq \operatorname {int} \!{\bigl (}\ B_{1}(N)\ {\bigr )}~.$
• Если $\ N\succ 0\ ,$ затем $\ M\succeq {\frac {\mathbf {v} \ \mathbf {v} ^{\top }}{\ \mathbf {v} ^{\top }N\ \mathbf {v} \ }}\$ для всех $v\neq 0$ если и только если ${\textstyle \ B_{1}(M)\subset \bigcap _{\mathbf {v} ^{\top }N\ \mathbf {v} =1}B_{1}(\mathbf {v} \mathbf {v} ^{\top })~.}$ Итак, поскольку полярно-двойственный эллипсоид также является эллипсоидом с теми же главными осями, но с обратными длинами, мы имеем
  $$\ B_{1}(N^{-1})=\bigcap _{\mathbf {v} ^{\top }N\ \mathbf {v} =1}B_{1}(\mathbf {v} \ \mathbf {v} ^{\top })=\bigcap _{\mathbf {v} ^{\top }N\ \mathbf {v} =1}\{\mathbf {w} :|\langle \mathbf {w} ,\mathbf {v} \rangle |\leq 1\}~.$$
  То есть, если $\ N\$ положительно определен, то $\ M\succeq {\frac {\mathbf {v} \mathbf {v} ^{\top }}{\ \mathbf {v} ^{\top }N\ \mathbf {v} \ }}\$ для всех $\ \mathbf {v} \neq \mathbf {0} \$ если и только если $\ M\succeq N^{-1}~.$

Позволять $M$ быть $\ n\times n\$ Эрмитова матрица . Следующие свойства эквивалентны $\ M\$ будучи положительно определенным:

Соответствующая полуторалинейная форма является внутренним продуктом

Полуторалинейная форма , определяемая $M$ это функция $\ \langle \cdot ,\cdot \rangle \$ от $\ \mathbb {C} ^{n}\times \mathbb {C} ^{n}\$ к $\ \mathbb {C} ^{n}\$ такой, что $\ \langle \mathbf {x} ,\mathbf {y} \rangle \equiv \mathbf {y} ^{*}M\ \mathbf {x} \$ для всех $\ \mathbf {x} \$ и $\ \mathbf {y} \$ в $\ \mathbb {C} ^{n}\ ,$ где $\ \mathbf {y} ^{*}\$ является сопряженным транспонированием $\ \mathbf {y} ~.$ Для любой сложной матрицы $\ M\ ,$ эта форма линейна по $x$ и полулинейный по $\ \mathbf {y} ~.$ Следовательно, форма является внутренним продуктом на $\ \mathbb {C} ^{n}\$ если и только если $\ \langle \mathbf {z} ,\mathbf {z} \rangle \$ действителен и положителен для всех ненулевых $\ \mathbf {z} \ ;$ это тогда и только тогда, когда $\ M\$является положительно определенным. (Фактически, каждый внутренний продукт на $\ \mathbb {C} ^{n}\$ возникает таким образом из эрмитовой положительно определенной матрицы.)

Все его ведущие основные миноры положительные.

k - й главный минор матрицы $\ M\$ является определителем его верхнего левого $\ k\times k\$подматрица. Оказывается, матрица положительно определена тогда и только тогда, когда все эти определители положительны. Это условие известно как критерий Сильвестра и обеспечивает эффективную проверку положительной определенности симметричной вещественной матрицы. А именно, матрица сводится к верхней треугольной матрице с помощью элементарных операций над строками , как в первой части метода исключения Гаусса , стараясь сохранить знак ее определителя во время процесса поворота . Поскольку k-й главный минор треугольной матрицы представляет собой произведение ее диагональных элементов до строки $\ k\ ,$Критерий Сильвестра эквивалентен проверке того, все ли его диагональные элементы положительны. Это условие можно проверять каждый раз, когда появляется новая строка. $\ k\$ треугольной матрицы.

Положительная полуопределенная матрица является положительно определенной тогда и только тогда, когда она обратима . Матрица $\ M\$ отрицательно (полу)определено тогда и только тогда, когда $\ -M\$ является положительно (полу)определенным.

Квадратичные формы

Основная статья: Определенная квадратичная форма

(Чисто) квадратичная форма , связанная с действительным $\ n\times n\$ матрица $\ M\$ это функция $\ Q:\mathbb {R} ^{n}\to \mathbb {R} \$ такой, что $\ Q(\mathbf {x} )=\mathbf {x} ^{\top }M\mathbf {x} \$ для всех $\ \mathbf {x} ~.$ $\ M\$ можно считать симметричным, заменив его на $\ {\tfrac {1}{2}}\left(M+M^{\top }\right)\ ,$ поскольку в двустороннем изделии любая асимметричная часть будет обнулена.

Симметричная матрица $\ M\$ положительно определена тогда и только тогда, когда ее квадратичная форма является строго выпуклой функцией .

В более общем смысле, любая квадратичная функция из $\ \mathbb {R} ^{n}\$ к $\mathbb {R}$ можно записать как $\ \mathbf {x} ^{\top }M\mathbf {x} +\mathbf {b} ^{\top }\mathbf {x} +c\$ где $\ M\$ представляет собой симметричный $\ n\times n\$ матрица, $\ \mathbf {b} \$ является вещественным вектором n , и $\ c\$настоящая константа. в $\ n=1\$ случае это парабола, и так же, как и в $\ n=1\$ случай, у нас есть

Теорема: Эта квадратичная функция строго выпукла и, следовательно, имеет единственный конечный глобальный минимум тогда и только тогда, когда $\ M\$ является положительно определенным.

Доказательство: если $\ M\$положительно определена, то функция строго выпуклая. Его градиент равен нулю в единственной точке $\ M^{-1}\mathbf {b} \ ,$что должно быть глобальным минимумом, поскольку функция строго выпуклая. Если $\ M\$ не является положительно определенным, то существует некоторый вектор $\ \mathbf {v} \$ такой, что $\ \mathbf {v} ^{\top }M\mathbf {v} \leq 0\ ,$ поэтому функция $\ f(t)\equiv (t\mathbf {v} )^{\top }M(t\mathbf {v} )+b^{\top }(t\mathbf {v} )+c\$ представляет собой линию или нисходящую параболу, поэтому не строго выпуклую и не имеющую глобального минимума.

По этой причине положительно определенные матрицы играют важную роль в оптимизации задачах .

Одновременная диагонализация

Одну симметричную матрицу и другую матрицу, одновременно симметричную и положительно определенную, можно одновременно диагонализировать . Это так, хотя одновременная диагонализация не обязательно выполняется с преобразованием подобия . Этот результат не распространяется на случай трех и более матриц. В этом разделе мы пишем для реального случая. Распространение на сложный случай происходит немедленно.

Позволять $\ M\$ быть симметричным и $\ N\$симметричная и положительно определенная матрица. Запишите обобщенное уравнение собственных значений в виде $\ \left(M-\lambda N\right)\mathbf {x} =0\$ где мы это навязываем $\ \mathbf {x} \$ быть нормализованным, т.е. $\ \mathbf {x} ^{\top }N\mathbf {x} =1~.$ Теперь мы воспользуемся разложением Холецкого, чтобы записать обратную величину $\ N\$ как $\ Q^{\top }Q~.$ Умножение на $\ Q\$ и позволяя $\ \mathbf {x} =Q^{\top }\mathbf {y} \ ,$ мы получаем $\ Q\left(M-\lambda N\right)Q^{\top }\mathbf {y} =0\ ,$ который можно переписать как $\ \left(QMQ^{\top }\right)\mathbf {y} =\lambda \mathbf {y} \$ где $\mathbf {y} ^{\top }\mathbf {y} =1~.$ Манипулирование теперь дает результат $MX=NX\Lambda$ где $X$ представляет собой матрицу, имеющую в качестве столбцов обобщенные собственные векторы и $\Lambda$— диагональная матрица обобщенных собственных значений. Теперь предварительное умножение с $X^{\top }$ дает окончательный результат: $\ X^{\top }MX=\Lambda \$ и $\ X^{\top }NX=I\ ,$ но обратите внимание, что это больше не ортогональная диагонализация относительно внутреннего продукта, где $\ \mathbf {y} ^{\top }\mathbf {y} =1~.$ По сути, мы диагонализовали $\ M\$ относительно внутреннего продукта, индуцированного $\ N~.$

Обратите внимание, что этот результат не противоречит тому, что сказано об одновременной диагонализации в статье Диагонализуемая матрица , где говорится об одновременной диагонализации преобразованием подобия. Наш результат больше похож на одновременную диагонализацию двух квадратичных форм и полезен для оптимизации одной формы при условиях другой.

Свойства

Индуцированный частичный порядок

Для произвольных квадратных матриц $\ M\ ,$ $\ N\$ мы пишем $\ M\geq N\$ если $\ M-N\geq 0\$ то есть $\ M-N\$является положительно полуопределенным. Это определяет частичный порядок на множестве всех квадратных матриц. Аналогично можно определить строгий частичный порядок $\ M>N~.$ Этот порядок называется порядком Левнера .

положительно

Любая положительно определенная матрица обратима, и ее обратная также положительно определена. Если $\ M\geq N>0\$ затем $\ N^{-1}\geq M^{-1}>0~.$ Более того, по теореме о мин-максе наибольшее k-е собственное значение $\ M\$ больше или равно k-му наибольшему собственному значению $\ N~.$

Масштабирование

Если $\ M\$ положительно определен и $\ r>0\$ действительное число, то $\ rM\$ является положительно определенным.

Дополнение

• Если $M$ и $N$ положительно определены, то сумма $M+N$ также положительно определена.
• Если $M$ и $N$ положительно-полуопределены, то сумма $M+N$ также является положительно-полуопределенным.
• Если $M$ положительно определен и $N$ положительно-полуопределена, то сумма $M+N$ также положительно определена.

Умножение

• Если $\ M\$ и $\ N\$ положительно определены, то произведения $\ MNM\$ и $NMN$также положительно определены. Если $\ MN=NM\ ,$ затем $\ MN\$ также положительно определена.
• Если $\ M\$ положительно полуопределена, то $\ A^{*}MA\$ положительно полуопределена для любой (возможно, прямоугольной) матрицы $\ A~.$ Если $\ M\$ положительно определен и $A$ имеет полный ранг столбца, тогда $\ A^{*}MA\$ является положительно определенным.

След

Диагональные записи $\ m_{ii}\$положительно-полуопределенной матрицы вещественны и неотрицательны. В результате след , $\ \operatorname {tr} (M)\geq 0~.$ Более того, поскольку каждая главная подматрица (в частности, 2х2) положительно полуопределена,

$$\ \left|m_{ij}\right|\leq {\sqrt {m_{ii}m_{jj}}}\quad \forall i,j\$$

и таким образом, когда $\ n\geq 1\ ,$

$$\max _{i,j}\left|m_{ij}\right|\leq \max _{i}m_{ii}$$

Ан $n\times n$ Эрмитова матрица $M$ положительно определен, если он удовлетворяет следующим неравенствам следов:

$$\ \operatorname {tr} (M)>0\quad \mathrm {and} \quad {\frac {(\operatorname {tr} (M))^{2}}{\operatorname {tr} (M^{2})}}>n-1~.$$

Другой важный результат состоит в том, что для любого $\ M\$ и $N$ положительно-полуопределенные матрицы, $\ \operatorname {tr} (MN)\geq 0~.$ Это следует из написания $\ \operatorname {tr} (MN)=\operatorname {tr} (M^{\frac {1}{2}}NM^{\frac {1}{2}})~.$ Матрица $M^{\frac {1}{2}}NM^{\frac {1}{2}}$ является положительно-полуопределенным и, следовательно, имеет неотрицательные собственные значения, сумма которых, след, поэтому также неотрицательна.

Произведение Адамара

Если $\ M,N\geq 0\ ,$ хотя $\ MN\$ не обязательно положительно полуопределенный, произведение Адамара есть, $\ M\circ N\geq 0\$ (этот результат часто называют теоремой Шура о произведении ).

О произведении Адамара двух положительных полуопределенных матриц $\ M=(m_{ij})\geq 0\ ,$ $\ N\geq 0\ ,$ есть два заметных неравенства:

• Неравенство Оппенгейма: $\ \det(M\circ N)\geq \det(N)\prod \nolimits _{i}m_{ii}~.$
• $\ \det(M\circ N)\geq \det(M)\det(N)~.$

Продукт Кронекера

Если $\ M,N\geq 0\ ,$ хотя $\ MN\$ не обязательно положительно полуопределенное, произведение Кронекера $M\otimes N\geq 0~.$

Продукт Фробениуса

Если $\ M,N\geq 0\ ,$ хотя $\ MN\$ не обязательно положительно полуопределенный, внутренний продукт Фробениуса $\ M:N\geq 0\$ (Ланкастер-Тисменецкий, Теория матриц , стр. 218).

Выпуклость

Множество положительных полуопределенных симметричных матриц выпукло . То есть, если $\ M\$ и $\ N\$ положительно полуопределены, то для любого $\ \alpha \$ между 0 и 1 , $\ \alpha M+\left(1-\alpha \right)N\$также положительно полуопределена. Для любого вектора $\ \mathbf {x} \$:

$$\ \mathbf {x} ^{\top }\left(\alpha M+\left(1-\alpha \right)N\right)\mathbf {x} =\alpha \mathbf {x} ^{\top }M\mathbf {x} +(1-\alpha )\mathbf {x} ^{\top }N\mathbf {x} \geq 0~.$$

Это свойство гарантирует, что задачи полуопределенного программирования сходятся к глобально оптимальному решению.

Связь с косинусом

Положительная определенность матрицы $A$ выражает то, что угол $\ \theta \$ между любым вектором $\ \mathbf {x} \$ и его изображение $\ A\mathbf {x} \$ всегда $\ -\pi /2<\theta <+\pi /2\ :$

$$\ \cos \theta ={\frac {\mathbf {x} ^{\top }A\mathbf {x} }{\lVert \mathbf {x} \rVert \lVert A\mathbf {x} \rVert }}={\frac {\langle \mathbf {x} ,A\mathbf {x} \rangle }{\lVert \mathbf {x} \rVert \lVert A\mathbf {x} \rVert }},\theta =\theta (\mathbf {x} ,A\mathbf {x} )\equiv {\widehat {\left(\mathbf {x} ,A\mathbf {x} \right)}}\equiv \$$

угол между $\ \mathbf {x} \$ и $\ A\mathbf {x} ~.$

Дальнейшие свойства

1. Если $M$ является симметричной матрицей Теплица , т.е. элементы $m_{ij}$ даны в зависимости от их абсолютных индексных разностей: $\ m_{ij}=h(|i-j|)\ ,$ и строгое неравенство ${\textstyle \sum _{j\neq 0}\left|h(j)\right|<h(0)}$ держится, тогда $M$ строго положительно определена.
2. Позволять $M>0$ и $N$Эрмитиан. Если $MN+NM\geq 0$ (соответственно, $MN+NM>0$) затем $N\geq 0$ (соответственно, $N>0$).
3. Если $\ M>0\$ реально, то есть $\ \delta >0\$ такой, что $\ M>\delta I\ ,$ где $\ I\$ является единичной матрицей .
4. Если $M_{k}$ обозначает ведущего $\ k\times k\$ незначительный, $\ \det \left(M_{k}\right)/\det \left(M_{k-1}\right)\$ является k -м стержнем во время разложения LU .
5. Матрица является отрицательно определенной, если ее k- го порядка главный минор отрицательен, когда $\ k\$ является нечетным и положительным, когда $\ k\$ даже.
6. Если $\ M\$ — действительная положительно определенная матрица, то существует положительное действительное число $\ m\$ такой, что для каждого вектора $\ \mathbf {v} \ ,$ $\ \mathbf {v} ^{\top }M\ \mathbf {v} \geq m\ \|\mathbf {v} \|_{2}^{\ \!2}~.$
7. Эрмитова матрица является положительно полуопределенной тогда и только тогда, когда все ее главные миноры неотрицательны. Однако недостаточно учитывать только ведущие главные миноры, как это проверяется на диагональной матрице с элементами 0 и −1.

Блочные матрицы и подматрицы

Позитивный $\ 2n\times 2n\$ матрица также может быть определена блоками :

$$\ M={\begin{bmatrix}A&B\\C&D\end{bmatrix}}\$$

где находится каждый блок $\ n\times n~,$ Применяя условие положительности, сразу следует, что $\ A\$ и $\ D\$ являются эрмитовыми, и $\ C=B^{*}~.$

У нас есть это $\ \mathbf {z} ^{*}M\mathbf {z} \geq 0\$ для всего комплекса $\ \mathbf {z} \ ,$ и в частности для $\ \mathbf {z} =[\mathbf {v} ,0]^{\top }~.$ Затем

$$\ {\begin{bmatrix}\mathbf {v} ^{*}&0\end{bmatrix}}{\begin{bmatrix}A&B\\B^{*}&D\end{bmatrix}}{\begin{bmatrix}\mathbf {v} \\0\end{bmatrix}}=\mathbf {v} ^{*}A\mathbf {v} \geq 0~.$$

Аналогичный аргумент можно применить к $\ D\ ,$ и таким образом мы приходим к выводу, что оба $\ A\$ и $\ D\$должно быть положительно определенным. Аргумент можно расширить, чтобы показать, что любая главная подматрица $\ M\$ сама по себе положительно определена.

Обратные результаты можно доказать с более сильными условиями на блоки, например, используя дополнение Шура .

Местный экстремум

Общая квадратичная форма $f(\mathbf {x} )$ на $n$ действительные переменные $x_{1},\ldots ,x_{n}$ всегда можно записать как $\mathbf {x} ^{\top }M\mathbf {x}$ где $\mathbf {x}$ - вектор-столбец с этими переменными, и $M$является симметричной вещественной матрицей. Следовательно, положительно определенная матрица означает, что $f$ имеет уникальный минимум (ноль), когда $\mathbf {x}$ равен нулю и строго положителен для любых других $\ \mathbf {x} ~.$

В более общем смысле, дважды дифференцируемая действительная функция $f$ на $n$ реальные переменные имеют локальный минимум в аргументах $x_{1},\ldots ,x_{n}$если его градиент равен нулю, а его гессиан (матрица всех вторых производных) положительно полуопределен в этой точке. Аналогичные утверждения можно сделать для отрицательно определенных и полуопределенных матриц.

Ковариация

В статистике ковариационная матрица многомерного распределения вероятностей всегда положительно полуопределена; и она положительно определена, если только одна переменная не является точной линейной функцией других. И наоборот, каждая положительная полуопределенная матрица является ковариационной матрицей некоторого многомерного распределения.

неэрмитовых квадратных

Определение положительной определенности можно обобщить, обозначив любую комплексную матрицу $\ M\$ (например, вещественная несимметричная) как положительно определенная, если $\ {\mathcal {R_{e}}}\left\{\ \mathbf {z} ^{*}M\mathbf {z} \right\}>0\$ для всех ненулевых комплексных векторов $\ \mathbf {z} \ ,$ где $\ {\mathcal {R_{e}}}\{\ c\ \}\$ обозначает действительную часть комплексного числа $\ c~.$ Только эрмитова часть ${\textstyle \ {\frac {1}{2}}\left(M+M^{*}\right)\ }$определяет, является ли матрица положительно определенной, и оценивается в более узком смысле, указанном выше. Аналогично, если $\ \mathbf {x} \$ и $\ M\$ реальны, у нас есть $\ \mathbf {x} ^{\top }M\mathbf {x} >0\$ для всех действительных ненулевых векторов $\ \mathbf {x} \$ тогда и только тогда, когда симметричная часть ${\textstyle \ {\frac {1}{2}}\left(M+M^{\top }\right)\ }$положительно определена в более узком смысле. Сразу понятно, что ${\textstyle \ \mathbf {x} ^{\top }M\mathbf {x} =\sum _{ij}x_{i}M_{ij}x_{j}\ }$нечувствителен к транспозиции $\ M~.$

Следовательно, несимметричная вещественная матрица только с положительными собственными значениями не обязательно должна быть положительно определенной. Например, матрица $M=\left[{\begin{smallmatrix}4&9\\1&4\end{smallmatrix}}\right]$имеет положительные собственные значения, но не является положительно определенным; в частности, отрицательное значение $\mathbf {x} ^{\top }M\mathbf {x}$ получается при выборе $\mathbf {x} =\left[{\begin{smallmatrix}-1\\1\end{smallmatrix}}\right]$ (который является собственным вектором, связанным с отрицательным собственным значением симметричной части $M$).

Таким образом, отличительная черта вещественного и комплексного случаев состоит в том, что ограниченный положительный оператор в комплексном гильбертовом пространстве обязательно является эрмитовым или самосопряженным. Общее утверждение можно аргументировать, используя тождество поляризации . В реальном случае это уже не так.

Приложения

Матрица теплопроводности

Закон теплопроводности Фурье, определяющий тепловой поток $\ \mathbf {q} \$ по градиенту температуры $\ \mathbf {g} =\nabla T\$ для анизотропных сред записывается как $\ \mathbf {q} =-K\mathbf {g} \ ,$ в котором $\ K\$– симметричная матрица теплопроводности . Отрицательное значение введено в закон Фурье, чтобы отразить ожидание того, что тепло всегда будет течь от горячего к холодному. Другими словами, поскольку градиент температуры $\ \mathbf {g} \$ всегда указывает от холодного к горячему, тепловой поток $\ \mathbf {q} \$ ожидается, что внутренний продукт будет отрицательным $\ \mathbf {g} \$ так что $\ \mathbf {q} ^{\top }\mathbf {g} <0~.$ Тогда замена закона Фурье дает это ожидание как $\ \mathbf {g} ^{\top }K\mathbf {g} >0\ ,$ подразумевая, что матрица проводимости должна быть положительно определенной.

См. также

• Ковариационная матрица
• М-матрица
• Положительно определенная функция
• Положительно определенное ядро
• дополнение Шура
• критерий Сильвестра
• Числовой диапазон

Источники

• Хорн, Роджер А.; Джонсон, Чарльз Р. (2013). Матричный анализ (2-е изд.). Издательство Кембриджского университета . ISBN  978-0-521-54823-6 .

• Бхатия, Раджендра (2007). Положительно определенные матрицы . Принстонская серия по прикладной математике. ISBN  978-0-691-12918-1 .

• Бернштейн, Б.; Тупен, Р.А. (1962). «Некоторые свойства матрицы Гессе строго выпуклой функции». Журнал чистой и прикладной математики . 210 :67–72. дои : 10.1515/crll.1962.210.65 .

Внешние ссылки

• «Положительно-определенная форма» , Математическая энциклопедия , EMS Press , 2001 [1994]
• «Положительно определенная матрица» . Вольфрам Математический мир . Вольфрам Исследования.