Собственное разложение матрицы

В линейной алгебре собственное разложение это факторизация матрицы — в каноническую форму , при которой матрица представляется в терминах ее собственных значений и собственных векторов . только диагонализуемые матрицы Таким способом можно факторизовать . Когда факторизуемая матрица является нормальной или вещественной симметричной матрицей , разложение называется «спектральным разложением», выведенным из спектральной теоремы .

Фундаментальная теория собственных векторов и

См. Также: собственное значение, собственный вектор и собственное пространство.

(Ненулевой) вектор v размерности N является собственным вектором квадратной размера N × N матрицы A , если он удовлетворяет линейному уравнению вида

$$\mathbf {A} \mathbf {v} =\lambda \mathbf {v}$$

для некоторого скаляра λ . Тогда λ называется собственным значением, соответствующим v . С геометрической точки зрения, собственные векторы A — это векторы, которые A просто удлиняет или сжимает, а величина, на которую они удлиняются/сжимаются, является собственным значением. Приведенное выше уравнение называется уравнением собственных значений или проблемой собственных значений.

Это дает уравнение для собственных значений

$$p\left(\lambda \right)=\det \left(\mathbf {A} -\lambda \mathbf {I} \right)=0.$$

Мы называем p ( λ ) характеристическим полиномом , а уравнение, называемое характеристическим уравнением, представляет собой полиномиальное уравнение N- го порядка относительно неизвестного λ . Это уравнение будет иметь N _λ различных решений, где 1 ≤ N _λ ≤ N . Множество решений, то есть собственных значений, спектром оператора A. называется

Если поле скаляров алгебраически замкнуто , то мы можем факторизовать p как

$$p(\lambda )=\left(\lambda -\lambda _{1}\right)^{n_{1}}\left(\lambda -\lambda _{2}\right)^{n_{2}}\cdots \left(\lambda -\lambda _{N_{\lambda }}\right)^{n_{N_{\lambda }}}=0.$$

Целое число n _i называется алгебраической кратностью собственного значения λ _i . Сумма алгебраических кратностей равна N : ${\textstyle \sum _{i=1}^{N_{\lambda }}{n_{i}}=N.}$

Для каждого собственного значения λ _i у нас есть конкретное уравнение собственных значений

$$\left(\mathbf {A} -\lambda _{i}\mathbf {I} \right)\mathbf {v} =0.$$

У каждого уравнения на собственные значения будет 1 ≤ ​​m _i ≤ n _i линейно независимых решений. Линейные комбинации решений ( _mi за исключением того, которое дает нулевой вектор) являются собственными векторами, связанными с собственным значением λ _i . число m _i называется геометрической кратностью λ i _. Целое Важно помнить, что алгебраическая кратность n _i и геометрическая кратность m _i могут быть равны, а могут и не быть равными, но мы всегда имеем m _i ≤ n _i . Самый простой случай, конечно, когда m _i = n _i = 1 . Общее количество линейно независимых собственных векторов N _v можно вычислить путем суммирования геометрических кратностей

$$\sum _{i=1}^{N_{\lambda }}{m_{i}}=N_{\mathbf {v} }.$$

Собственные векторы могут быть проиндексированы собственными значениями с использованием двойного индекса, где является _vij j - м собственным вектором для i -го собственного значения. Собственные векторы также могут быть проиндексированы с использованием более простого обозначения одного индекса v _k с k = 1, 2, ..., N _v .

Собственное разложение матрицы

Пусть A — квадратная матрица размера n × n с n линейно независимыми собственными векторами q _i (где i = 1, ..., n ). Тогда A можно факторизовать как

$$\mathbf {A} =\mathbf {Q} \mathbf {\Lambda } \mathbf {Q} ^{-1}$$

где Q — квадратная размера n × n, матрица i- й столбец которой является собственным вектором q _i матрицы A , а Λ — диагональная матрица , диагональные элементы которой являются соответствующими собственными значениями, Λ _ii = λ _i . только диагонализуемые матрицы Обратите внимание, что таким способом можно факторизовать . Например, дефектная матрица $\left[{\begin{smallmatrix}1&1\\0&1\end{smallmatrix}}\right]$ (которая является матрицей сдвига ) не может быть диагонализирована.

Собственные n векторы q _i обычно нормируются, но это не обязательно. Ненормализованный набор из n собственных векторов vi _также может использоваться в качестве столбцов Q . Это можно понять, заметив, что величина собственных векторов в Q сокращается при разложении из-за присутствия Q ⁻¹ . Если одно из собственных значений λ _i имеет несколько линейно независимых собственных векторов (т. е. геометрическая кратность λ _i больше 1), то эти собственные векторы для этого собственного значения λ _i можно выбрать взаимно ортогональными ; однако, если два собственных вектора принадлежат двум разным собственным значениям, они могут оказаться не ортогональными друг другу (см. пример ниже). Особый случай заключается в том, что если A — нормальная матрица, то по спектральной теореме всегда возможно диагонализировать A в ортонормированном базисе {q _i } .

Разложение можно вывести из фундаментального свойства собственных векторов:

$${\begin{aligned}\mathbf {A} \mathbf {v} &=\lambda \mathbf {v} \\\mathbf {A} \mathbf {Q} &=\mathbf {Q} \mathbf {\Lambda } \\\mathbf {A} &=\mathbf {Q} \mathbf {\Lambda } \mathbf {Q} ^{-1}.\end{aligned}}$$

Линейно независимые собственные векторы q _i с ненулевыми собственными значениями образуют базис (не обязательно ортонормированный) для всех возможных произведений A x , для x ∈ C ^н совпадает с изображением (или диапазоном ) соответствующего матричного преобразования , а также пространством столбцов матрицы A. , что Число линейно независимых собственных векторов q _i с ненулевыми собственными значениями равно рангу матрицы A , а также размерности образа (или диапазона) соответствующего матричного преобразования, а также ее столбцовому пространству.

Линейно независимые собственные векторы q _i с собственным значением, равным нулю, образуют базис (который может быть выбран ортонормированным) для нулевого пространства (также известного как ядро) матричного преобразования A .

Пример

Действительная матрица 2 × 2 A

$$\mathbf {A} ={\begin{bmatrix}1&0\\1&3\\\end{bmatrix}}$$

может быть разложена в диагональную матрицу путем умножения неособой матрицы B

$$\mathbf {B} ={\begin{bmatrix}a&b\\c&d\end{bmatrix}}\in \mathbb {R} ^{2\times 2}.$$

Затем

$${\begin{bmatrix}a&b\\c&d\end{bmatrix}}^{-1}{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}a&b\\c&d\end{bmatrix}}={\begin{bmatrix}x&0\\0&y\end{bmatrix}},$$

для некоторой действительной диагональной матрицы $\left[{\begin{smallmatrix}x&0\\0&y\end{smallmatrix}}\right]$.

Умножив обе части уравнения слева на B :

$${\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}a&b\\c&d\end{bmatrix}}={\begin{bmatrix}a&b\\c&d\end{bmatrix}}{\begin{bmatrix}x&0\\0&y\end{bmatrix}}.$$

Приведенное выше уравнение можно разложить на два одновременных уравнения :

$${\begin{cases}{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}a\\c\end{bmatrix}}={\begin{bmatrix}ax\\cx\end{bmatrix}}\\[1.2ex]{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}b\\d\end{bmatrix}}={\begin{bmatrix}by\\dy\end{bmatrix}}\end{cases}}.$$

Вынесение собственных значений x и y :

$${\begin{cases}{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}a\\c\end{bmatrix}}=x{\begin{bmatrix}a\\c\end{bmatrix}}\\[1.2ex]{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}b\\d\end{bmatrix}}=y{\begin{bmatrix}b\\d\end{bmatrix}}\end{cases}}$$

Сдача в аренду

$$\mathbf {a} ={\begin{bmatrix}a\\c\end{bmatrix}},\quad \mathbf {b} ={\begin{bmatrix}b\\d\end{bmatrix}},$$

это дает нам два векторных уравнения:

$${\begin{cases}\mathbf {A} \mathbf {a} =x\mathbf {a} \\\mathbf {A} \mathbf {b} =y\mathbf {b} \end{cases}}$$

И может быть представлен одним векторным уравнением, включающим два решения в качестве собственных значений:

$$\mathbf {A} \mathbf {u} =\lambda \mathbf {u}$$

где λ представляет два собственных значения x и y , а u представляет векторы a и b .

Сдвиг λ u в левую часть и вынесение u за скобки

$$\left(\mathbf {A} -\lambda \mathbf {I} \right)\mathbf {u} =\mathbf {0}$$

Поскольку B неособа, существенно, чтобы u не было равно нулю. Поэтому,

$$\det(\mathbf {A} -\lambda \mathbf {I} )=0$$

Таким образом

$$(1-\lambda )(3-\lambda )=0$$

давая нам решения собственных значений матрицы A как λ = 1 или λ = 3 , и результирующая диагональная матрица из собственного разложения A , таким образом, равна $\left[{\begin{smallmatrix}1&0\\0&3\end{smallmatrix}}\right]$.

Возвращая решения к приведенным выше одновременным уравнениям

$${\begin{cases}{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}a\\c\end{bmatrix}}=1{\begin{bmatrix}a\\c\end{bmatrix}}\\[1.2ex]{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}b\\d\end{bmatrix}}=3{\begin{bmatrix}b\\d\end{bmatrix}}\end{cases}}$$

Решая уравнения, имеем

$$a=-2c\quad {\text{and}}\quad b=0,\qquad c,d\in \mathbb {R} .$$

Таким образом, матрица B, необходимая для собственного разложения матрицы A, равна

$$\mathbf {B} ={\begin{bmatrix}-2c&0\\c&d\end{bmatrix}},\qquad c,d\in \mathbb {R} ,$$

то есть:

$${\begin{bmatrix}-2c&0\\c&d\end{bmatrix}}^{-1}{\begin{bmatrix}1&0\\1&3\end{bmatrix}}{\begin{bmatrix}-2c&0\\c&d\end{bmatrix}}={\begin{bmatrix}1&0\\0&3\end{bmatrix}},\qquad c,d\in \mathbb {R}$$

Матрица, обратная посредством собственного разложения

Основная статья: Обратная матрица

Если матрица A может быть разложена по собственным значениям и ни одно из ее собственных значений не равно нулю, то A обратима , а ее обратная матрица определяется формулой

$$\mathbf {A} ^{-1}=\mathbf {Q} \mathbf {\Lambda } ^{-1}\mathbf {Q} ^{-1}$$

Если $\mathbf {A}$ является симметричной матрицей, поскольку $\mathbf {Q}$ формируется из собственных векторов $\mathbf {A}$, $\mathbf {Q}$ гарантированно будет ортогональной матрицей , поэтому $\mathbf {Q} ^{-1}=\mathbf {Q} ^{\mathrm {T} }$. Более того, поскольку Λ — диагональная матрица , ее обратную легко вычислить:

$$\left[\mathbf {\Lambda } ^{-1}\right]_{ii}={\frac {1}{\lambda _{i}}}$$

последствия

Когда собственное разложение используется в матрице измеренных реальных данных , обратное может быть менее допустимым, когда все собственные значения используются без изменений в приведенной выше форме. Это связано с тем, что, поскольку собственные значения становятся относительно небольшими, их вклад в инверсию велик. Те, кто близок к нулю или находится на уровне «шума» измерительной системы, будут иметь чрезмерное влияние и могут затруднить решение (обнаружение) с использованием обратного метода.

Были предложены два способа смягчения последствий: усечение малых или нулевых собственных значений и расширение наименьшего надежного собственного значения до тех, которые ниже его. См. также регуляризацию Тихонова как статистически мотивированный, но предвзятый метод скатывания собственных значений, когда в них начинает преобладать шум.

Первый метод смягчения аналогичен разреженной выборке исходной матрицы, удаляя компоненты, которые не считаются ценными. Однако если процесс решения или обнаружения близок к уровню шума, усечение может удалить компоненты, которые влияют на желаемое решение.

Второе смягчение расширяет собственное значение, так что более низкие значения оказывают гораздо меньшее влияние на инверсию, но все равно вносят свой вклад, так что решения вблизи шума все равно будут найдены.

Надежное собственное значение можно найти, предположив, что очень похожие и низкие собственные значения являются хорошим представлением шума измерения (который считается низким для большинства систем).

Если собственные значения отсортированы по рангу по значению, то надежное собственное значение можно найти путем минимизации лапласиана отсортированных собственных значений:

$$\min \left|\nabla ^{2}\lambda _{\mathrm {s} }\right|$$

где собственные значения имеют индекс s , обозначающий сортировку. Позицией минимизации является наименьшее надежное собственное значение. В измерительных системах квадратный корень из этого надежного собственного значения представляет собой средний шум по компонентам системы.

Функциональное исчисление

Собственное разложение позволяет значительно упростить вычисление степенных рядов матриц. Если f ( x ) определяется выражением

$$f(x)=a_{0}+a_{1}x+a_{2}x^{2}+\cdots$$

тогда мы это знаем

$$f\!\left(\mathbf {A} \right)=\mathbf {Q} \,f\!\left(\mathbf {\Lambda } \right)\mathbf {Q} ^{-1}$$

Поскольку Λ — диагональная матрица , функции от Λ очень легко вычислить:

$$\left[f\left(\mathbf {\Lambda } \right)\right]_{ii}=f\left(\lambda _{i}\right)$$

Недиагональные элементы f ( Λ ) равны нулю; то есть f ( Λ ) также является диагональной матрицей. Следовательно, вычисление f ( A ) сводится к простому вычислению функции по каждому из собственных значений.

Похожий метод работает в более общем плане с голоморфным функциональным исчислением , используя

$$\mathbf {A} ^{-1}=\mathbf {Q} \mathbf {\Lambda } ^{-1}\mathbf {Q} ^{-1}$$

сверху ​ . И снова мы обнаруживаем, что

$$\left[f\left(\mathbf {\Lambda } \right)\right]_{ii}=f\left(\lambda _{i}\right)$$

Примеры

$${\begin{aligned}\mathbf {A} ^{2}&=\left(\mathbf {Q} \mathbf {\Lambda } \mathbf {Q} ^{-1}\right)\left(\mathbf {Q} \mathbf {\Lambda } \mathbf {Q} ^{-1}\right)=\mathbf {Q} \mathbf {\Lambda } \left(\mathbf {Q} ^{-1}\mathbf {Q} \right)\mathbf {\Lambda } \mathbf {Q} ^{-1}=\mathbf {Q} \mathbf {\Lambda } ^{2}\mathbf {Q} ^{-1}\\[1.2ex]\mathbf {A} ^{n}&=\mathbf {Q} \mathbf {\Lambda } ^{n}\mathbf {Q} ^{-1}\\[1.2ex]\exp \mathbf {A} &=\mathbf {Q} \exp(\mathbf {\Lambda } )\mathbf {Q} ^{-1}\end{aligned}}$$

которые являются примерами функций $f(x)=x^{2},\;f(x)=x^{n},\;f(x)=\exp {x}$. Более того, $\exp {\mathbf {A} }$ – матричная экспонента .

Разложение спектральных матриц

Основная статья: Спектральная теорема

Спектральные матрицы — это матрицы, которые обладают различными собственными значениями и полным набором собственных векторов. Эта характеристика позволяет спектральным матрицам быть полностью диагонализуемыми, то есть их можно разложить на более простые формы с использованием собственного разложения. Этот процесс разложения раскрывает фундаментальное понимание структуры и поведения матрицы, особенно в таких областях, как квантовая механика, обработка сигналов и численный анализ.

Нормальные матрицы

Комплексная квадратная матрица $A$ это нормально (имеется в виду, $\mathbf {A} ^{*}\mathbf {A} =\mathbf {A} \mathbf {A} ^{*}$, где $\mathbf {A} ^{*}$ — сопряженное транспонирование ) тогда и только тогда, когда его можно разложить как $\mathbf {A} =\mathbf {U} \mathbf {\Lambda } \mathbf {U} ^{*}$, где $\mathbf {U}$ является унитарной матрицей (т.е. $\mathbf {U} ^{*}=\mathbf {U} ^{-1}$) и $\mathbf {\Lambda } =$ Диагностика( $\lambda _{1},\ldots ,\lambda _{n}$) — диагональная матрица . Столбцы $\mathbf {u} _{1},\cdots ,\mathbf {u} _{n}$ из $\mathbf {U}$ образуют ортонормированный базис и являются собственными векторами $\mathbf {A}$ с соответствующими собственными значениями $\lambda _{1},\ldots ,\lambda _{n}$.

Например, рассмотрим нормальную матрицу 2 x 2. $\mathbf {A} ={\begin{bmatrix}1&2\\2&1\end{bmatrix}}$.

Собственные значения $\lambda _{1}=3$ и $\lambda _{2}=-1$.

(Нормированные) собственные векторы, соответствующие этим собственным значениям: $\mathbf {u} _{1}={\frac {1}{\sqrt {2}}}{\begin{bmatrix}1\\1\end{bmatrix}}$ и $\mathbf {u} _{2}={\frac {1}{\sqrt {2}}}{\begin{bmatrix}-1\\1\end{bmatrix}}$.

Диагонализация – это $\mathbf {A} =\mathbf {U} \mathbf {\Lambda } \mathbf {U} ^{*}$, где $\mathbf {U} ={\begin{bmatrix}1/{\sqrt {2}}&1/{\sqrt {2}}\\1/{\sqrt {2}}&-1/{\sqrt {2}}\end{bmatrix}}$, $\mathbf {\Lambda } =$${\begin{bmatrix}3&0\\0&-1\end{bmatrix}}$ и $\mathbf {U} ^{*}=\mathbf {U} ^{-1}=$${\begin{bmatrix}1/{\sqrt {2}}&1/{\sqrt {2}}\\1/{\sqrt {2}}&-1/{\sqrt {2}}\end{bmatrix}}$.

Проверка $\mathbf {U} \mathbf {\Lambda } \mathbf {U} ^{*}=$${\begin{bmatrix}1/{\sqrt {2}}&1/{\sqrt {2}}\\1/{\sqrt {2}}&-1/{\sqrt {2}}\end{bmatrix}}$${\begin{bmatrix}3&0\\0&-1\end{bmatrix}}$${\begin{bmatrix}1/{\sqrt {2}}&1/{\sqrt {2}}\\1/{\sqrt {2}}&-1/{\sqrt {2}}\end{bmatrix}}$$={\begin{bmatrix}1&2\\2&1\end{bmatrix}}=\mathbf {A}$.

Этот пример иллюстрирует процесс диагонализации нормальной матрицы. $\mathbf {A}$ найдя его собственные значения и собственные векторы, образуя унитарную матрицу $\mathbf {U}$, диагональная матрица $\mathbf {\Lambda }$и проверяем разложение.

Подмножества важных классов матриц

Действительные симметричные матрицы

В частном случае для каждой размера n × n вещественной симметричной матрицы собственные значения вещественны, а собственные векторы могут быть выбраны вещественными и ортонормированными . Таким образом, действительную симметричную матрицу A можно разложить как $\mathbf {A} =\mathbf {Q} \mathbf {\Lambda } \mathbf {Q} ^{\mathsf {T}}$, где Q — ортогональная матрица действительные ортонормированные собственные векторы A , а Λ — диагональная матрица, элементы которой являются собственными значениями A. , столбцы которой —

Диагонализуемые матрицы

Диагонализуемые матрицы можно разложить с помощью собственного разложения при условии, что они имеют полный набор линейно независимых собственных векторов. Они могут быть выражены как $\mathbf {A} =\mathbf {P} \mathbf {D} \mathbf {P} ^{-1}$, где $\mathbf {P}$ — матрица, столбцы которой являются собственными векторами $\mathbf {A}$ и $\mathbf {D}$ — диагональная матрица, состоящая из соответствующих собственных значений матрицы $\mathbf {A}$.

матрицы

Положительно определенные матрицы — это матрицы, у которых все собственные значения положительны. Их можно разложить как $\mathbf {A} =\mathbf {L} \mathbf {L} ^{\mathsf {T}}$ используя разложение Холецкого , где $\mathbf {L}$ — нижняя треугольная матрица.

Унитарные и эрмитовы матрицы

Унитарные матрицы удовлетворяют $\mathbf {U} \mathbf {U} ^{*}=\mathbf {I}$ (реальный случай) или $\mathbf {U} \mathbf {U} ^{\dagger }=\mathbf {I}$ (сложный случай), где $\mathbf {U} ^{*}$обозначает сопряженное транспонирование и $\mathbf {U} ^{\dagger }$обозначает сопряженное транспонирование. Они диагонализуют с помощью унитарных преобразований .

Эрмитова матрица удовлетворяет $\mathbf {H} =\mathbf {H} ^{\dagger }$, где $\mathbf {H} ^{\dagger }$обозначает сопряженное транспонирование. Их можно диагонализовать с помощью унитарных или ортогональных матриц .

Полезные факты

факты о

• собственных значений равно определителю A Произведение
  $$\det \left(\mathbf {A} \right)=\prod _{i=1}^{N_{\lambda }}{\lambda _{i}^{n_{i}}}$$
  Обратите внимание, что каждое собственное значение возводится в степень n _i , алгебраическую кратность .
• значений равна следу A Сумма собственных
  $$\operatorname {tr} \left(\mathbf {A} \right)=\sum _{i=1}^{N_{\lambda }}{{n_{i}}\lambda _{i}}$$
  Обратите внимание, что каждое собственное значение умножается на n _i , алгебраическую кратность .
• Если собственные значения A равны λ _i и A обратима, то собственные значения A ⁻¹ представляют собой просто λ ⁻¹
  _я .
• собственные значения A равны λi _, то собственные значения f ( A ) — это просто f ( λi _Если ) для любой голоморфной функции f .

о

• Если A является эрмитовым и полноранговым, то базис собственных векторов может быть выбран взаимно ортогональным . Собственные значения действительны.
• Собственные векторы A ⁻¹ такие же, как собственные векторы A .
• Собственные векторы определяются только с точностью до мультипликативной константы. То есть, если Av = λ v , то c v также является собственным вектором для любого скаляра c ≠ 0 . В частности, − v и e ^я v (для любого θ ) также являются собственными векторами.
• В случае вырожденных собственных значений (собственное значение, имеющее более одного собственного вектора) собственные векторы имеют дополнительную свободу линейного преобразования, то есть любая линейная (ортонормальная) комбинация собственных векторов, имеющих общее собственное значение (в вырожденном подпространстве), сама по себе является собственный вектор (в подпространстве).

о

• A можно разложить по собственному тогда и только тогда, когда количество линейно независимых собственных векторов N _v равняется размерности собственного вектора: N _v = N
• Если поле скаляров алгебраически замкнуто и если p ( λ ) не имеет повторяющихся корней, т. е. если $N_{\lambda }=N,$ тогда A можно разложить по собственному усмотрению.
• Утверждение « A может быть разложено по собственным значениям» не означает, что A имеет обратное значение, поскольку некоторые собственные значения могут быть равны нулю, что не является обратимым.
• Утверждение « А имеет обратное» не означает, что А можно разложить по собственному усмотрению. Контрпример $\left[{\begin{smallmatrix}1&1\\0&1\end{smallmatrix}}\right]$, которая является обратимой дефектной матрицей .

Полезные факты об обратной матрице

• A можно инвертировать тогда и только тогда, когда все собственные значения отличны от нуля:
  $$\lambda _{i}\neq 0\quad \forall \,i$$
• Если λ _i ≠ 0 и N _v = N , обратное имеет вид
  $$\mathbf {A} ^{-1}=\mathbf {Q} \mathbf {\Lambda } ^{-1}\mathbf {Q} ^{-1}$$

Численные вычисления

Дополнительная информация: алгоритм собственных значений.

Численное вычисление собственных значений

Предположим, что мы хотим вычислить собственные значения данной матрицы. Если матрица маленькая, мы можем вычислить их символически, используя характеристический полином . Однако для матриц большего размера это часто невозможно, и в этом случае приходится использовать численный метод .

На практике собственные значения больших матриц не вычисляются с использованием характеристического полинома. Вычисление многочлена само по себе становится дорогостоящим, а точные (символические) корни многочлена высокой степени может быть трудно вычислить и выразить: теорема Абеля – Руффини подразумевает, что корни многочленов высокой степени (5 или выше) вообще не могут выражаться просто с помощью корней n-й степени. Следовательно, общие алгоритмы поиска собственных векторов и собственных значений являются итеративными .

Существуют итерационные численные алгоритмы аппроксимации корней многочленов, такие как метод Ньютона , но в целом нецелесообразно вычислять характеристический многочлен и затем применять эти методы. Одна из причин заключается в том, что небольшие ошибки округления коэффициентов характеристического многочлена могут привести к большим ошибкам в собственных значениях и собственных векторах: корни представляют собой крайне плохо обусловленную функцию коэффициентов.

Простой и точный итерационный метод — это степенной метод : выбирается случайный вектор v последовательность единичных векторов и вычисляется как

$${\frac {\mathbf {A} \mathbf {v} }{\left\|\mathbf {A} \mathbf {v} \right\|}},{\frac {\mathbf {A} ^{2}\mathbf {v} }{\left\|\mathbf {A} ^{2}\mathbf {v} \right\|}},{\frac {\mathbf {A} ^{3}\mathbf {v} }{\left\|\mathbf {A} ^{3}\mathbf {v} \right\|}},\ldots$$

Эта последовательность будет почти всегда сходиться к собственному вектору, соответствующему собственному значению наибольшей величины, при условии, что v имеет ненулевой компонент этого собственного вектора в базисе собственных векторов (а также при условии, что существует только одно собственное значение наибольшей величины). Этот простой алгоритм полезен в некоторых практических приложениях; например, Google использует его для расчета рейтинга страниц документов в своей поисковой системе. Кроме того, степенной метод является отправной точкой для многих более сложных алгоритмов. Например, сохраняя не только последний вектор в последовательности, но и рассматривая диапазон всех векторов . в последовательности, можно получить лучшее (быстрее сходящееся) приближение для собственного вектора, и эта идея лежит в основе теории Арнольди итерация . Альтернативно, важный алгоритм QR также основан на тонком преобразовании степенного метода.

Численное вычисление собственных векторов

После того как собственные значения вычислены, собственные векторы можно вычислить, решив уравнение

$$\left(\mathbf {A} -\lambda _{i}\mathbf {I} \right)\mathbf {v} _{i,j}=\mathbf {0}$$

методом исключения Гаусса или любым другим методом решения матричных уравнений .

Однако в практических крупномасштабных методах собственных значений собственные векторы обычно вычисляются другими способами, как побочный продукт вычисления собственных значений. при степенной итерации Например, собственный вектор фактически вычисляется перед собственным значением (которое обычно вычисляется по коэффициенту Рэлея собственного вектора). В алгоритме QR для эрмитовой матрицы (или любой нормальной матрицы) ортонормированные собственные векторы получаются как произведение Q- матриц на этапах алгоритма. (Для более общих матриц алгоритм QR сначала дает разложение Шура , из которого собственные векторы могут быть получены с помощью процедуры обратной замены . ) Для эрмитовых матриц алгоритм собственных значений «разделяй и властвуй» более эффективен, чем алгоритм QR, если желательны как собственные векторы, так и собственные значения.

Дополнительные темы

Обобщенные собственные пространства

Напомним, что геометрическая кратность собственного значения может быть описана как размерность соответствующего собственного пространства, нулевого пространства λ I − A . Алгебраическую кратность также можно рассматривать как размерность: это размерность соответствующего обобщенного собственного пространства (1-й смысл), которое является нулевым пространством матрицы ( λ I − A ). ^к для любого достаточно большого k . То есть это пространство обобщенных собственных векторов (первый смысл), где обобщенным собственным вектором является любой вектор, который в конечном итоге становится равным 0, если λ I − A применяется к нему достаточное количество раз подряд. Любой собственный вектор является обобщенным собственным вектором, поэтому каждое собственное пространство содержится в соответствующем обобщенном собственном пространстве. Это обеспечивает простое доказательство того, что геометрическая кратность всегда меньше или равна алгебраической кратности.

Это использование не следует путать с обобщенной проблемой собственных значений, описанной ниже.

Сопряженный собственный вектор

Сопряженный собственный вектор или консобственный вектор — это вектор, передаваемый после преобразования в скаляр, кратный его сопряженному, где скаляр называется сопряженным собственным значением или собственным значением линейного преобразования. Собственные векторы и собственные значения представляют по существу ту же информацию и значение, что и обычные собственные векторы и собственные значения, но возникают, когда используется альтернативная система координат. Соответствующее уравнение

$$\mathbf {A} \mathbf {v} =\lambda \mathbf {v} ^{*}.$$

Например, в теории когерентного электромагнитного рассеяния линейное преобразование A представляет действие, выполняемое рассеивающим объектом, а собственные векторы представляют состояния поляризации электромагнитной волны. В оптике система координат определяется с точки зрения волны, известная как выравнивание прямого рассеяния (FSA), и приводит к регулярному уравнению собственных значений, тогда как в радаре система координат определяется с точки зрения радара, известная как задняя Выравнивание рассеяния (BSA) и приводит к уравнению собственных значений.

проблема

Обобщенная проблема собственных значений (второй смысл) - это проблема поиска (ненулевого) вектора v , который подчиняется

$$\mathbf {A} \mathbf {v} =\lambda \mathbf {B} \mathbf {v}$$

где A и B — матрицы. Если v подчиняется этому уравнению с некоторым λ , то мы называем v A обобщенным собственным вектором B и . ( во втором смысле), а λ называется обобщенным собственным значением A ) и B (во втором смысле), которое соответствует обобщенному собственному значению A и B (во втором смысле собственный вектор v . Возможные значения λ должны подчиняться следующему уравнению

$$\det(\mathbf {A} -\lambda \mathbf {B} )=0.$$

Если n линейно независимых векторов { v ₁ , …, v _n } можно найти таких, что для каждого i ∈ {1, …, n } , Av _i = λ _i Bv _i то мы определяем матрицы P и D такие, что

$$P={\begin{bmatrix}|&&|\\\mathbf {v} _{1}&\cdots &\mathbf {v} _{n}\\|&&|\end{bmatrix}}\equiv {\begin{bmatrix}(\mathbf {v} _{1})_{1}&\cdots &(\mathbf {v} _{n})_{1}\\\vdots &&\vdots \\(\mathbf {v} _{1})_{n}&\cdots &(\mathbf {v} _{n})_{n}\end{bmatrix}}$$

$$(D)_{ij}={\begin{cases}\lambda _{i},&{\text{if }}i=j\\0,&{\text{otherwise}}\end{cases}}$$

Тогда имеет место равенство

$$\mathbf {A} =\mathbf {B} \mathbf {P} \mathbf {D} \mathbf {P} ^{-1}$$

И доказательство

$$\mathbf {A} \mathbf {P} =\mathbf {A} {\begin{bmatrix}|&&|\\\mathbf {v} _{1}&\cdots &\mathbf {v} _{n}\\|&&|\end{bmatrix}}={\begin{bmatrix}|&&|\\A\mathbf {v} _{1}&\cdots &A\mathbf {v} _{n}\\|&&|\end{bmatrix}}={\begin{bmatrix}|&&|\\\lambda _{1}B\mathbf {v} _{1}&\cdots &\lambda _{n}B\mathbf {v} _{n}\\|&&|\end{bmatrix}}={\begin{bmatrix}|&&|\\B\mathbf {v} _{1}&\cdots &B\mathbf {v} _{n}\\|&&|\end{bmatrix}}\mathbf {D} =\mathbf {B} \mathbf {P} \mathbf {D}$$

А поскольку P обратимо, мы умножаем уравнение справа на обратное, завершая доказательство.

Множество матриц вида A − λ B , где λ — комплексное число, называется карандашом ; термин «матричный карандаш» также может относиться к паре ( A , B ) матриц.

Если B обратима, то исходную задачу можно записать в виде

$$\mathbf {B} ^{-1}\mathbf {A} \mathbf {v} =\lambda \mathbf {v}$$

что является стандартной проблемой собственных значений. Однако в большинстве ситуаций предпочтительнее не выполнять инверсию, а решать обобщенную проблему собственных значений, как указано изначально. Это особенно важно, если A и B являются эрмитовыми матрицами , так как в этом случае B ⁻¹ A, как правило, не является эрмитовым, и важные свойства решения больше не очевидны.

Если A и B оба являются симметричными или эрмитовыми, а B также является положительно определенной матрицей , собственные значения λ _i действительны, а собственные векторы v ₁ и v ₂ с различными собственными значениями являются B -ортогональными ( v ₁ ^* Бв ₂ = 0 ). матрица P В этом случае собственные векторы можно выбрать так, чтобы определенная выше удовлетворяла условию

$$\mathbf {P} ^{*}\mathbf {B} \mathbf {P} =\mathbf {I}$$

или

$$\mathbf {P} \mathbf {P} ^{*}\mathbf {B} =\mathbf {I} ,$$

и существует базис обобщенных собственных векторов (это не дефектная задача). Этот случай иногда называют эрмитовым определенным пучком или определенным пучком .

См. также

• Возмущение собственных значений
• Ковариант Фробениуса
• Преобразование домохозяина
• Джордан в нормальной форме
• Список матриц
• Разложение матрицы
• Разложение по сингулярным значениям
• Формула Сильвестра

Ссылки

• Франклин, Джоэл Н. (1968). Матричная теория . Дуврские публикации. ISBN  978-0-486-41179-8 .
• Хорн, Роджер А.; Джонсон, Чарльз Р. (1985). Матричный анализ . Издательство Кембриджского университета. ISBN  978-0-521-38632-6 .
• Хорн, Роджер А.; Джонсон, Чарльз Р. (1991). Темы матричного анализа . Издательство Кембриджского университета. ISBN  978-0-521-46713-1 .
• Стрэнг, Г. (1998). Введение в линейную алгебру (3-е изд.). Уэлсли-Кембридж Пресс. ISBN  978-0-9614088-5-5 .

Внешние ссылки

• Интерактивная программа и учебное пособие по спектральной декомпозиции .