Ранг (линейная алгебра)

В линейной алгебре ранг , матрицы пространства A — это размерность векторного порожденного (или натянутого ) ее столбцами. Это соответствует максимальному количеству линейно независимых столбцов A . Это, в свою очередь, идентично размерности векторного пространства, охватываемого его строками. Таким образом, ранг является мерой « невырожденности » системы линейных уравнений и линейного преобразования, закодированного A . Существует несколько эквивалентных определений ранга. Ранг матрицы — одна из ее наиболее фундаментальных характеристик.

Ранг обычно обозначается Rank( A ) или rk( A ) ; иногда скобки не пишутся, как ранге А. в

Основные определения

В этом разделе мы даем некоторые определения ранга матрицы. Возможны многие определения; см. Альтернативные определения некоторых из них.

Ранг столбца A — — это размерность столбцов пространства A , а ранг строки A размерность пространства строк A. это

Фундаментальный результат линейной алгебры состоит в том, что ранг столбца и ранг строки всегда равны. (Три доказательства этого результата приведены ниже в что ранг столбца = ранг строки .) Это число (т. е. количество линейно независимых строк или столбцов) просто называется рангом A § Доказательства того , .

Говорят, что матрица имеет полный ранг , если ее ранг равен максимально возможному для матрицы того же размера, который является меньшим из числа строк и столбцов. Матрица называется дефектно -ранговой, если она не имеет полного ранга. Дефицит ранга матрицы — это разница между меньшим из числа строк и столбцов и рангом.

Ранг линейного отображения или оператора $\Phi$ определяется как размер его изображения :

$$\operatorname {rank} (\Phi ):=\dim(\operatorname {img} (\Phi ))$$

где $\dim$ - размерность векторного пространства, а $\operatorname {img}$ это изображение карты.

Примеры

Матрица

$${\begin{bmatrix}1&0&1\\0&1&1\\0&1&1\end{bmatrix}}$$

имеет ранг 2: первые два столбца линейно независимы , поэтому ранг равен как минимум 2, но поскольку третий столбец представляет собой линейную комбинацию первых двух (первый столбец плюс второй), три столбца линейно зависимы, поэтому ранг должно быть меньше 3.

Матрица

$$A={\begin{bmatrix}1&1&0&2\\-1&-1&0&-2\end{bmatrix}}$$

имеет ранг 1: существуют ненулевые столбцы, поэтому ранг положителен, но любая пара столбцов линейно зависима. Аналогично, транспонирование

$$A^{\mathrm {T} }={\begin{bmatrix}1&-1\\1&-1\\0&0\\2&-2\end{bmatrix}}$$

A что ранг столбца матрицы равен рангу ее строки , имеет ранг 1. Действительно, поскольку векторы-столбцы A являются векторами-строками транспонирования A , утверждение о том , эквивалентно утверждению, что ранг матрицы равен рангу его транспонирования, т. е. Rank( A ) = Rank( A ^Т ) .

Вычисление ранга матрицы

Ранг из форм эшелонов строк

Основная статья: исключение Гаусса

Распространенный подход к определению ранга матрицы состоит в приведении ее к более простой форме, обычно форме эшелона строк , с помощью элементарных операций над строками . Операции со строками не меняют пространство строк (следовательно, не меняют ранг строки) и, будучи обратимыми, отображают пространство столбцов в изоморфное пространство (следовательно, не меняют ранг столбцов). В форме эшелона строк ранг явно одинаков как для ранга строки, так и для ранга столбца и равен количеству поворотных элементов (или основных столбцов), а также количеству ненулевых строк.

Например, матрица A , заданная формулой

$$A={\begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix}}$$

можно представить в сокращенной форме звеньев строк, используя следующие элементарные операции над строками:

$${\begin{aligned}{\begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix}}&\xrightarrow {2R_{1}+R_{2}\to R_{2}} {\begin{bmatrix}1&2&1\\0&1&3\\3&5&0\end{bmatrix}}\xrightarrow {-3R_{1}+R_{3}\to R_{3}} {\begin{bmatrix}1&2&1\\0&1&3\\0&-1&-3\end{bmatrix}}\\&\xrightarrow {R_{2}+R_{3}\to R_{3}} \,\,{\begin{bmatrix}1&2&1\\0&1&3\\0&0&0\end{bmatrix}}\xrightarrow {-2R_{2}+R_{1}\to R_{1}} {\begin{bmatrix}1&0&-5\\0&1&3\\0&0&0\end{bmatrix}}~.\end{aligned}}$$

Окончательная матрица (в форме сокращенного эшелона строк) имеет две ненулевые строки, и, следовательно, ранг матрицы A равен 2.

Вычисление

При применении к вычислениям с плавающей запятой на компьютерах базовое исключение Гаусса ( LU-разложение ) может быть ненадежным, и вместо него следует использовать разложение с выявлением ранга. Эффективной альтернативой является разложение по сингулярным значениям (SVD), но есть и другие, менее затратные в вычислительном отношении варианты, такие как QR-разложение с поворотом (так называемая QR-факторизация с выявлением ранга ), которые все еще более устойчивы в числовом отношении, чем исключение Гаусса. Численное определение ранга требует критерия для принятия решения, когда значение, такое как сингулярное значение из SVD, следует рассматривать как ноль, практический выбор, который зависит как от матрицы, так и от приложения.

, что ранг столбца = ранг

Доказательство с использованием сокращения строк

Тот факт, что ранги столбца и строки любой матрицы имеют равные формы, является фундаментальным в линейной алгебре. Было приведено множество доказательств. Один из наиболее элементарных из них был обрисован в § Ранг из форм звеньев строк . Вот вариант этого доказательства:

Несложно показать, что ни ранг строки, ни ранг столбца не изменяются элементарной операцией над строкой . Поскольку исключение Гаусса происходит с помощью элементарных операций над строками, уменьшенная форма эшелона строк матрицы имеет тот же ранг строки и тот же ранг столбца, что и исходная матрица. Дальнейшие элементарные операции со столбцами позволяют представить матрицу в виде единичной матрицы, возможно, ограниченной строками и столбцами с нулями. Опять же, это не меняет ни ранг строки, ни ранг столбца. Сразу видно, что ранги строк и столбцов этой результирующей матрицы равны числу ее ненулевых элементов.

Приведем еще два доказательства этого результата. Первый использует только основные свойства линейных комбинаций векторов и действителен для любого поля . Доказательство основано на Уордлоу (2005). Второй использует ортогональность и действителен для матриц над действительными числами ; он основан на Mackiw (1995). Оба доказательства можно найти в книге Банерджи и Роя (2014).

Доказательство с использованием линейных комбинаций

Пусть A — матрица размера m × n . Пусть ранг столбца A равен r , и пусть c ₁ , ..., c _r — любой базис пространства столбцов A . Поместите их как столбцы размера m × r матрицы C . Каждый столбец A может быть выражен как линейная комбинация r в C. столбцов Это означает, что существует размера r × n матрица R такая, что A = CR . R — матрица, i-й столбец которой сформирован из коэффициентов, дающих - й столбец A как линейную комбинацию r столбцов C. i Другими словами, R — это матрица, которая содержит кратные основания пространства столбцов A (то есть C ), которые затем используются для формирования A в целом. Теперь каждая строка A задается линейной комбинацией r строк R . Следовательно, строки R образуют остовное множество пространства строк A , и по лемме об обмене Стейница ранг строки A не может превышать r . Это доказывает, что ранг строки A меньше или равен рангу столбца A . , поэтому примените его к транспонированию A. Этот результат можно применить к любой матрице Поскольку ранг строки транспонирования A — это ранг столбца A , а ранг столбца транспонирования A — это ранг строки A. Это устанавливает обратное неравенство, и мы получаем равенство ранга строки и ранга A. столбца (Также см. Факторизация рангов .)

Доказательство с использованием ортогональности

Пусть A — матрица размера m × n с элементами действительных чисел , ранг строки которой равен r . Следовательно, размерность пространства строк A равна r . Пусть x ₁ , x ₂ , …, x _r — базис пространства строк A . Мы утверждаем, что векторы A x ₁ , A x ₂ , …, A x _r независимы линейно . Чтобы понять почему, рассмотрим линейное однородное отношение, включающее эти векторы со скалярными коэффициентами c ₁ , c ₂ , …, c _r :

$$0=c_{1}A\mathbf {x} _{1}+c_{2}A\mathbf {x} _{2}+\cdots +c_{r}A\mathbf {x} _{r}=A(c_{1}\mathbf {x} _{1}+c_{2}\mathbf {x} _{2}+\cdots +c_{r}\mathbf {x} _{r})=A\mathbf {v} ,$$

где v знак равно c ₁ Икс ₁ + c ₂ Икс ₂ + ⋯ + c _р Икс _р . Мы делаем два наблюдения: (а) v представляет собой линейную комбинацию векторов в пространстве строк A , что означает, что принадлежит пространству строк A , и (б) поскольку A v = 0 , вектор v ортогонален v вектору каждый вектор-строка A и, следовательно, ортогонален каждому вектору в пространстве строк A . Факты (a) и (b) вместе подразумевают, что v ортогонален сам себе, что доказывает, что v = 0 или, по определению v ,

$$c_{1}\mathbf {x} _{1}+c_{2}\mathbf {x} _{2}+\cdots +c_{r}\mathbf {x} _{r}=0.$$

Но вспомните, что были _xi выбраны в качестве основы пространства строк A и поэтому линейно независимы. Это означает, что c ₁ знак равно c ₂ знак равно ⋯ знак равно c _{р знак} равно 0 . Отсюда следует, что A x ₁ , A x ₂ , …, A x _r линейно независимы.

Теперь каждый A x _i , очевидно, является вектором в пространстве столбцов A . Итак, A x ₁ , A x ₂ , …, A x _r — это набор из r линейно независимых векторов в пространстве столбцов A и, следовательно, размерность пространства столбцов A (т. е. ранг столбца A ). должно быть не меньше r . Это доказывает, что ранг строки A не превышает ранг столбца A . Теперь примените этот результат к транспонированию A , чтобы получить обратное неравенство, и сделайте вывод, как в предыдущем доказательстве.

Альтернативные определения

Во всех определениях в этом разделе матрица A считается матрицей размера m × n над произвольным полем F .

Размер изображения

Учитывая матрицу $A$, существует ассоциированное линейное отображение

$$f:F^{n}\to F^{m}$$

определяется

$$f(x)=Ax.$$

Ранг $A$ это размер изображения $f$. Преимущество этого определения состоит в том, что его можно применить к любой линейной карте без необходимости использования конкретной матрицы.

Рейтинг с точки зрения недействительности

Учитывая то же линейное отображение f, и выше, ранг равен n минус размерность ядра f что . Теорема о ранге-пустоте утверждает, что это определение эквивалентно предыдущему.

Ранг столбца – размер пространства столбца

Ранг A — это максимальное количество линейно независимых столбцов. $\mathbf {c} _{1},\mathbf {c} _{2},\dots ,\mathbf {c} _{k}$из А ; это размерность A пространства столбцов ( F столбцов является подпространством пространство ^м порожденный столбцами A , что на самом деле является просто образом линейной карты f, связанной с A ).

Ранг строки – размер пространства строк

Ранг A — это максимальное количество линейно независимых строк A ; это размер пространства строк A .

Ранг разложения

Ранг A — это наименьшее целое число k такое, что A можно разложить на множители как $A=CR$, где C — матрица размера m × k , а R — матрица размера k × n . Фактически, для всех целых чисел k следующие условия эквивалентны:

1. ранг столбца A меньше или равен k ,
2. существует k столбцов $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$ размера m такой, что каждый столбец A представляет собой линейную комбинацию $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$,
3. существует $m\times k$ матрица C и a $k\times n$ матрица R такая, что $A=CR$ (когда k - ранг, это ранговая факторизация A ) ,
4. существует k строк $\mathbf {r} _{1},\ldots ,\mathbf {r} _{k}$ размера n , такая что каждая строка A представляет собой линейную комбинацию $\mathbf {r} _{1},\ldots ,\mathbf {r} _{k}$,
5. ранг строки A меньше или равен k .

Действительно, очевидны следующие эквивалентности: $(1)\Leftrightarrow (2)\Leftrightarrow (3)\Leftrightarrow (4)\Leftrightarrow (5)$. Например, чтобы доказать (3) из (2), в качестве C возьмем матрицу, столбцы которой равны $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$из (2). Для доказательства (2) из ​​(3) возьмем $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$ быть столбцами C .

Это следует из эквивалентности $(1)\Leftrightarrow (5)$ что ранг строки равен рангу столбца.

Как и в случае с характеристикой «размерности изображения», это можно обобщить до определения ранга любого линейного отображения: ранг линейного отображения f : V → W — это минимальная размерность k промежуточного пространства X такого, что что f можно записать как композицию отображения V → X и отображения X → W . К сожалению, это определение не предлагает эффективного способа вычисления ранга (для этого лучше использовать одно из альтернативных определений). см. в разделе факторизация рангов Подробности .

Ранжирование по сингулярным значениям

Ранг A равен количеству ненулевых сингулярных значений , что совпадает с количеством ненулевых диагональных элементов в Σ в разложении по сингулярным значениям. $A=U\Sigma V^{*}$.

неисчезающего

Ранг A является наибольшим порядком любого ненулевого минора в A . (Порядок минора — это длина стороны квадратной подматрицы, определителем которой он является.) Как и характеристика ранга разложения, это не дает эффективного способа вычисления ранга, но полезно теоретически: одиночный ненулевой минор свидетельствует о нижней границе (а именно о ее порядке) ранга матрицы, что может быть полезно (например) для доказательства того, что определенные операции не понижают ранг матрицы.

Ненулевой p -минор ( подматрица p × p с ненулевым определителем) показывает, что строки и столбцы этой подматрицы линейно независимы, и, следовательно, эти строки и столбцы полной матрицы линейно независимы (в полной матрице). , поэтому ранг строки и столбца по крайней мере равен детерминантному рангу; однако обратное не так просто. Эквивалентность детерминантного ранга и ранга столбца является усилением утверждения о том, что если диапазон n векторов имеет размерность p , то p этих векторов охватывают пространство (эквивалентно, что можно выбрать остовное множество, которое является подмножеством векторов ): эквивалентность подразумевает, что подмножество строк и подмножество столбцов одновременно определяют обратимую подматрицу (эквивалентно, если диапазон из n векторов имеет размерность p , то p этих векторов охватывают пространство и существует набор из p координаты, по которым они линейно независимы).

простых

Основные статьи: Разложение тензорного ранга и тензорный ранг

Ранг A — это наименьшее число k такое, что A можно записать как сумму k матриц ранга 1, где матрица определяется как имеющая ранг 1 тогда и только тогда, когда ее можно записать как ненулевое произведение. $c\cdot r$вектора-столбца c и вектора-строки r . Это понятие ранга называется тензорным рангом ; его можно обобщить в интерпретации сепарабельных моделей по разложения сингулярным значениям .

Свойства

Мы предполагаем, что A — матрица размера m × n , и определяем линейное отображение f как f ( x ) = A x, как указано выше.

• Ранг матрицы размера m × n является неотрицательным целым числом и не может быть больше m или n . То есть,
  $$\operatorname {rank} (A)\leq \min(m,n).$$
  матрица, имеющая ранг min( m , n ), Говорят, что имеет полный ранг ; в противном случае матрица имеет недостаточный ранг .
• Только нулевая матрица имеет нулевой ранг.
• f инъективен A (или «один к одному») тогда и только тогда, когда имеет ранг n (в этом случае мы говорим, что A имеет полный ранг столбца ).
• f сюръективен A (или «на») тогда и только тогда, когда имеет ранг m (в этом случае мы говорим, что A имеет полный ранг строки ).
• Если A — квадратная матрица (т. е. m = n ), то A обратима A тогда и только тогда, когда имеет ранг n (т. е. A имеет полный ранг).
• Если B — любая матрица размера n × k , то
  $$\operatorname {rank} (AB)\leq \min(\operatorname {rank} (A),\operatorname {rank} (B)).$$
• Если B — n × k матрица размера ранга n , то
  $$\operatorname {rank} (AB)=\operatorname {rank} (A).$$
• Если C — матрица размера l × m ранга m , то
  $$\operatorname {rank} (CA)=\operatorname {rank} (A).$$
• Ранг A равен r тогда и только тогда, когда существуют обратимая размера m × m матрица X и обратимая размера n × n матрица Y такие, что
  $$XAY={\begin{bmatrix}I_{r}&0\\0&0\\\end{bmatrix}},$$
  где I _r обозначает r × r единичную матрицу размера .
• : Ранговое неравенство Сильвестра если A — матрица размера m × n , а B — матрица размера n × k , то
  $$\operatorname {rank} (A)+\operatorname {rank} (B)-n\leq \operatorname {rank} (AB).$$
  Это частный случай следующего неравенства.
• Неравенство Фробениуса : если AB , ABC и BC определены, то
  $$\operatorname {rank} (AB)+\operatorname {rank} (BC)\leq \operatorname {rank} (B)+\operatorname {rank} (ABC).$$
• Субаддитивность:
  $$\operatorname {rank} (A+B)\leq \operatorname {rank} (A)+\operatorname {rank} (B)$$
  когда A и B имеют одинаковую размерность. Как следствие, матрица ранга k может быть записана как сумма k матриц ранга 1, но не меньше.
• Ранг матрицы плюс нуль матрицы равны количеству столбцов матрицы. (Это теорема о ранге-нулевости .)
• Если A — матрица действительных чисел , то ранг A и ранг соответствующей ей матрицы Грама равны. Таким образом, для вещественных матриц
  $$\operatorname {rank} (A^{\mathrm {T} }A)=\operatorname {rank} (AA^{\mathrm {T} })=\operatorname {rank} (A)=\operatorname {rank} (A^{\mathrm {T} }).$$
  Это можно показать, доказав равенство их нулевых пространств . Нулевое пространство матрицы Грама задается векторами x , для которых $A^{\mathrm {T} }A\mathbf {x} =0.$ Если это условие выполнено, мы также имеем $0=\mathbf {x} ^{\mathrm {T} }A^{\mathrm {T} }A\mathbf {x} =\left|A\mathbf {x} \right|^{2}.$
• Если A — матрица комплексных чисел и ${\overline {A}}$ обозначает комплексно-сопряженное число A и A ^∗ сопряженное транспонирование A . е. сопряженное ( т A ), тогда
  $$\operatorname {rank} (A)=\operatorname {rank} ({\overline {A}})=\operatorname {rank} (A^{\mathrm {T} })=\operatorname {rank} (A^{*})=\operatorname {rank} (A^{*}A)=\operatorname {rank} (AA^{*}).$$

Приложения

Одним из полезных применений вычисления ранга матрицы является вычисление числа решений системы линейных уравнений . Согласно теореме Руше-Капелли , система несовместна, если ранг дополненной матрицы больше ранга матрицы коэффициентов . Если же ранги этих двух матриц равны, то система должна иметь хотя бы одно решение. Решение единственно тогда и только тогда, когда ранг равен числу переменных. В противном случае общее решение имеет k свободных параметров, где k — разница между количеством переменных и рангом. В этом случае (и при условии, что система уравнений имеет действительные или комплексные числа) система уравнений имеет бесконечно много решений.

В теории управления ранг матрицы можно использовать для определения того, ли линейная система является управляемой или наблюдаемой .

В области сложности связи ранг коммуникационной матрицы функции определяет границы объема связи, необходимой двум сторонам для вычисления функции.

Обобщение

Существуют различные обобщения понятия ранга на матрицы над произвольными кольцами , где ранг столбца, ранг строки, размерность пространства столбцов и размерность пространства строк матрицы могут отличаться от других или могут не существовать.

Если рассматривать матрицы как тензоры , то ранг тензора обобщается на произвольные тензоры; для тензоров порядка больше 2 (матрицы представляют собой тензоры порядка 2) в отличие от матриц вычислить ранг очень сложно.

Существует понятие ранга гладких отображений между гладкими многообразиями . Он равен линейному рангу производной .

Матрицы как тензоры

Ранг матрицы не следует путать с тензорным порядком , который называется тензорным рангом. Тензорный порядок — это количество индексов, необходимых для записи тензора , и, таким образом, все матрицы имеют тензорный порядок 2. Точнее, матрицы — это тензоры типа (1,1), имеющие один индекс строки и один индекс столбца, также называемый ковариантным порядком 1. и контравариантный порядок 1; см . в разделе Тензор (внутреннее определение) подробности .

Тензорный ранг матрицы также может означать минимальное количество простых тензоров, необходимых для выражения матрицы в виде линейной комбинации, и что это определение согласуется с рангом матрицы, как здесь обсуждается.

См. также

• Ранг матроида
• Неотрицательный ранг (линейная алгебра)
• Ранг (дифференциальная топология)
• Мультиколлинеарность
• Линейная зависимость

Источники

• Экслер, Шелдон (2015). Линейная алгебра сделана правильно . Тексты для студентов по математике (3-е изд.). Спрингер . ISBN  978-3-319-11079-0 .
• Халмос, Пол Ричард (1974) [1958]. Конечномерные векторные пространства . Тексты для студентов по математике (2-е изд.). Спрингер . ISBN  0-387-90093-4 .
• Хефферон, Джим (2020). Линейная алгебра (4-е изд.). Ортогональная публикация L3C. ISBN  978-1-944325-11-4 .
• Кацнельсон, Ицхак ; Кацнельсон, Джонатан Р. (2008). (Краткое) Введение в линейную алгебру . Американское математическое общество . ISBN  978-0-8218-4419-9 .
• Роман, Стивен (2005). Продвинутая линейная алгебра . Тексты для студентов по математике (2-е изд.). Спрингер . ISBN  0-387-24766-1 .
• Валенца, Роберт Дж. (1993) [1951]. Линейная алгебра: введение в абстрактную математику . Тексты для студентов по математике (3-е изд.). Спрингер . ISBN  3-540-94099-5 .

Дальнейшее чтение

• Роджер А. Хорн и Чарльз Р. Джонсон (1985). Матричный анализ . Издательство Кембриджского университета. ISBN  978-0-521-38632-6 .
• Кау, Аутар К. Две главы из книги «Введение в матричную алгебру»: 1. Векторы [1] и система уравнений [2]
• Майк Брукс: Справочное руководство по матрицам. [3]