Внешний продукт

Не путать с продуктом Exterior .

В линейной алгебре внешним произведением двух координатных векторов является матрица, все элементы которой представляют собой произведения элемента первого вектора на элемент второго вектора. Если два координатных вектора имеют размеры n и m , то их внешнее произведение представляет собой матрицу размера n × m . В более общем смысле, если даны два тензора (многомерный массив чисел), их внешний продукт является тензором. Внешнее произведение тензоров также называется их тензорным произведением и может использоваться для определения тензорной алгебры .

Внешний вид изделия контрастирует с:

• Скалярное произведение (частный случай « внутреннего продукта »), которое принимает пару координатных векторов в качестве входных данных и выдает скаляр
• Произведение Кронекера , которое принимает на вход пару матриц и создает блочную матрицу.
• Стандартное матричное умножение

Определение

Даны два вектора размера $m\times 1$ и $n\times 1$ соответственно

$$\mathbf {u} ={\begin{bmatrix}u_{1}\\u_{2}\\\vdots \\u_{m}\end{bmatrix}},\quad \mathbf {v} ={\begin{bmatrix}v_{1}\\v_{2}\\\vdots \\v_{n}\end{bmatrix}}$$

их внешний продукт, обозначаемый $\mathbf {u} \otimes \mathbf {v} ,$ определяется как $m\times n$ матрица $\mathbf {A}$ получается умножением каждого элемента $\mathbf {u}$ по каждому элементу $\mathbf {v}$:

$$\mathbf {u} \otimes \mathbf {v} =\mathbf {A} ={\begin{bmatrix}u_{1}v_{1}&u_{1}v_{2}&\dots &u_{1}v_{n}\\u_{2}v_{1}&u_{2}v_{2}&\dots &u_{2}v_{n}\\\vdots &\vdots &\ddots &\vdots \\u_{m}v_{1}&u_{m}v_{2}&\dots &u_{m}v_{n}\end{bmatrix}}$$

Или, в индексной записи:

$$(\mathbf {u} \otimes \mathbf {v} )_{ij}=u_{i}v_{j}$$

Обозначая скалярное произведение через $\,\cdot ,\,$ если дать $n\times 1$ вектор $\mathbf {w} ,$ затем $(\mathbf {u} \otimes \mathbf {v} )\mathbf {w} =(\mathbf {v} \cdot \mathbf {w} )\mathbf {u} .$ Если дать $1\times m$ вектор $\mathbf {x} ,$ затем $\mathbf {x} (\mathbf {u} \otimes \mathbf {v} )=(\mathbf {x} \cdot \mathbf {u} )\mathbf {v} ^{\operatorname {T} }.$

Если $\mathbf {u}$ и $\mathbf {v}$ являются векторами одной размерности больше 1, то $\det(\mathbf {u} \otimes \mathbf {v} )=0$.

Внешний продукт $\mathbf {u} \otimes \mathbf {v}$ эквивалентно матричному умножению $\mathbf {u} \mathbf {v} ^{\operatorname {T} },$ при условии, что $\mathbf {u}$ представлен как $m\times 1$ вектор-столбец и $\mathbf {v}$ как $n\times 1$ вектор-столбец (что делает $\mathbf {v} ^{\operatorname {T} }$ вектор-строка). Например, если $m=4$ и $n=3,$ затем

$$\mathbf {u} \otimes \mathbf {v} =\mathbf {u} \mathbf {v} ^{\textsf {T}}={\begin{bmatrix}u_{1}\\u_{2}\\u_{3}\\u_{4}\end{bmatrix}}{\begin{bmatrix}v_{1}&v_{2}&v_{3}\end{bmatrix}}={\begin{bmatrix}u_{1}v_{1}&u_{1}v_{2}&u_{1}v_{3}\\u_{2}v_{1}&u_{2}v_{2}&u_{2}v_{3}\\u_{3}v_{1}&u_{3}v_{2}&u_{3}v_{3}\\u_{4}v_{1}&u_{4}v_{2}&u_{4}v_{3}\end{bmatrix}}.$$

Для сложных векторов часто бывает полезно выполнить сопряженное транспонирование $\mathbf {v} ,$ обозначенный $\mathbf {v} ^{\dagger }$ или $\left(\mathbf {v} ^{\textsf {T}}\right)^{*}$:

$$\mathbf {u} \otimes \mathbf {v} =\mathbf {u} \mathbf {v} ^{\dagger }=\mathbf {u} \left(\mathbf {v} ^{\textsf {T}}\right)^{*}.$$

внутренним

Если $m=n,$ тогда можно взять матричное произведение наоборот, получив скаляр (или $1\times 1$ матрица):

$$\left\langle \mathbf {u} ,\mathbf {v} \right\rangle =\mathbf {u} ^{\textsf {T}}\mathbf {v}$$

который является стандартным внутренним произведением для евклидовых векторных пространств , более известный как скалярное произведение . Скалярное произведение — это след внешнего произведения. В отличие от скалярного произведения, внешнее произведение не является коммутативным.

Умножение вектора $\mathbf {w}$ по матрице $\mathbf {u} \otimes \mathbf {v}$ можно записать через внутренний продукт, используя соотношение $\left(\mathbf {u} \otimes \mathbf {v} \right)\mathbf {w} =\mathbf {u} \left\langle \mathbf {v} ,\mathbf {w} \right\rangle$.

Внешний продукт тензоров

Даны два тензора $\mathbf {u} ,\mathbf {v}$ с размерами $(k_{1},k_{2},\dots ,k_{m})$ и $(l_{1},l_{2},\dots ,l_{n})$, их внешний продукт $\mathbf {u} \otimes \mathbf {v}$ представляет собой тензор с размерами $(k_{1},k_{2},\dots ,k_{m},l_{1},l_{2},\dots ,l_{n})$ и записи

$$(\mathbf {u} \otimes \mathbf {v} )_{i_{1},i_{2},\dots i_{m},j_{1},j_{2},\dots ,j_{n}}=u_{i_{1},i_{2},\dots ,i_{m}}v_{j_{1},j_{2},\dots ,j_{n}}$$

Например, если $\mathbf {A}$ имеет порядок 3 с размерами $(3,5,7)$ и $\mathbf {B}$ имеет порядок 2 с размерами $(10,100),$ тогда их внешний продукт $\mathbf {C}$ имеет порядок 5 с размерами $(3,5,7,10,100).$ Если $\mathbf {A}$ имеет компоненту A _{[2, 2, 4]} = 11 и $\mathbf {B}$ имеет компоненту B _{[8, 88]} = 13 , то компонента $\mathbf {C}$ образованный внешним продуктом, равен C _{[2, 2, 4, 8, 88]} = 143 .

Связь с продуктом Кронекера

Внешний продукт и продукт Кронекера тесно связаны между собой; на самом деле для обозначения обеих операций обычно используется один и тот же символ.

Если $\mathbf {u} ={\begin{bmatrix}1&2&3\end{bmatrix}}^{\textsf {T}}$ и $\mathbf {v} ={\begin{bmatrix}4&5\end{bmatrix}}^{\textsf {T}}$, у нас есть:

$${\begin{aligned}\mathbf {u} \otimes _{\text{Kron}}\mathbf {v} &={\begin{bmatrix}4\\5\\8\\10\\12\\15\end{bmatrix}},&\mathbf {u} \otimes _{\text{outer}}\mathbf {v} &={\begin{bmatrix}4&5\\8&10\\12&15\end{bmatrix}}\end{aligned}}$$

В случае векторов-столбцов произведение Кронекера можно рассматривать как форму векторизации (или сглаживания) внешнего произведения. В частности, для двух вектор-столбцов $\mathbf {u}$ и $\mathbf {v}$, мы можем написать:

$$\mathbf {u} \otimes _{\text{Kron}}\mathbf {v} =\operatorname {vec} (\mathbf {v} \otimes _{\text{outer}}\mathbf {u} )$$

(Порядок векторов в правой части уравнения обратный.)

Еще одна аналогичная идентичность, которая еще больше подчеркивает сходство между операциями:

$$\mathbf {u} \otimes _{\text{Kron}}\mathbf {v} ^{\textsf {T}}=\mathbf {u} \mathbf {v} ^{\textsf {T}}=\mathbf {u} \otimes _{\text{outer}}\mathbf {v}$$

где порядок векторов не нужно менять. Среднее выражение использует умножение матриц, где векторы рассматриваются как матрицы столбец/строка.

Связь с матричным продуктом

Дана пара матриц $\mathbf {A}$ размера $m\times p$ и $\mathbf {B}$ размера $p\times n$, рассмотрим матричное произведение $\mathbf {C} =\mathbf {A} \,\mathbf {B}$ определяется как обычно как матрица размера $m\times n$.

Теперь позвольте $\mathbf {a} _{k}^{\text{col}}$ быть $k$-й вектор-столбец $\mathbf {A}$ и разреши $\mathbf {b} _{k}^{\text{row}}$ быть $k$-й вектор-строка $\mathbf {B}$. Затем $\mathbf {C}$ может быть выражен как сумма внешних произведений по столбцам:

$$\mathbf {C} =\mathbf {A} \,\mathbf {B} =\left(\sum _{k=1}^{p}{A}_{ik}\,{B}_{kj}\right)_{\begin{matrix}1\leq i\leq m\\[-20pt]1\leq j\leq n\end{matrix}}={\begin{bmatrix}&&\\\mathbf {a} _{1}^{\text{col}}&\cdots &\mathbf {a} _{p}^{\text{col}}\\&&\end{bmatrix}}{\begin{bmatrix}&\mathbf {b} _{1}^{\text{row}}&\\&\vdots &\\&\mathbf {b} _{p}^{\text{row}}&\end{bmatrix}}=\sum _{k=1}^{p}\mathbf {a} _{k}^{\text{col}}\otimes \mathbf {b} _{k}^{\text{row}}$$

Это выражение имеет двойственность с более распространенным выражением, представляющим собой матрицу, построенную из построчных записей внутреннего продукта (или скалярного произведения ): $C_{ij}=\langle {\mathbf {a} _{i}^{\text{row}},\,\mathbf {b} _{j}^{\text{col}}}\rangle$

Это отношение актуально в применении разложения по сингулярным значениям (SVD) (и спектрального разложения как особого случая). В частности, разложение можно интерпретировать как сумму внешних произведений каждого левого ( $\mathbf {u} _{k}$) и правильно ( $\mathbf {v} _{k}$) сингулярные векторы, масштабированные соответствующим ненулевым сингулярным значением $\sigma _{k}$:

$$\mathbf {A} =\mathbf {U\Sigma V^{T}} =\sum _{k=1}^{\operatorname {rank} (A)}(\mathbf {u} _{k}\otimes \mathbf {v} _{k})\,\sigma _{k}$$

Этот результат означает, что $\mathbf {A}$ может быть выражено как сумма матриц ранга 1 со спектральной нормой $\sigma _{k}$в порядке убывания. Это объясняет тот факт, почему последние члены в целом дают меньший вклад, что мотивирует использование усеченного SVD в качестве приближения. Первый член представляет собой аппроксимацию матрицы внешним произведением векторов методом наименьших квадратов.

Свойства

Внешний продукт векторов удовлетворяет следующим свойствам:

$${\begin{aligned}(\mathbf {u} \otimes \mathbf {v} )^{\textsf {T}}&=(\mathbf {v} \otimes \mathbf {u} )\\(\mathbf {v} +\mathbf {w} )\otimes \mathbf {u} &=\mathbf {v} \otimes \mathbf {u} +\mathbf {w} \otimes \mathbf {u} \\\mathbf {u} \otimes (\mathbf {v} +\mathbf {w} )&=\mathbf {u} \otimes \mathbf {v} +\mathbf {u} \otimes \mathbf {w} \\c(\mathbf {v} \otimes \mathbf {u} )&=(c\mathbf {v} )\otimes \mathbf {u} =\mathbf {v} \otimes (c\mathbf {u} )\end{aligned}}$$

Внешний продукт тензоров удовлетворяет дополнительному свойству ассоциативности :

$$(\mathbf {u} \otimes \mathbf {v} )\otimes \mathbf {w} =\mathbf {u} \otimes (\mathbf {v} \otimes \mathbf {w} )$$

Ранг внешнего продукта

Если u и v оба ненулевые, то внешняя матрица произведения uv ^Т всегда имеет ранг матрицы 1. Действительно, все столбцы внешнего произведения пропорциональны первому столбцу. Таким образом, все они линейно зависят от этого столбца, следовательно, матрица имеет первый ранг.

(«Ранг матрицы» не следует путать с « тензорным порядком » или «тензорной степенью», которую иногда называют «рангом».)

Определение (аннотация)

Пусть V и W — два векторных пространства . Внешний продукт $\mathbf {v} \in V$ и $\mathbf {w} \in W$ это элемент $\mathbf {v} \otimes \mathbf {w} \in V\otimes W$.

Если V — пространство внутреннего продукта внешний продукт можно определить как линейное отображение V → W. , то В этом случае линейное отображение $\mathbf {x} \mapsto \langle \mathbf {v} ,\mathbf {x} \rangle$ является элементом двойственного пространства V которого , поскольку оно линейно отображает вектор в лежащее в его основе поле, из $\langle \mathbf {v} ,\mathbf {x} \rangle$является элементом. Внешний продукт V → W тогда определяется выражением

$$(\mathbf {w} \otimes \mathbf {v} )(\mathbf {x} )=\left\langle \mathbf {v} ,\mathbf {x} \right\rangle \mathbf {w} .$$

сопряженное транспонирование v Это показывает, почему в комплексном случае обычно используется .

В языках программирования

В некоторых языках программирования для функции с двумя аргументами f (или бинарный оператор), внешний продукт, f, двух одномерных массивов, A и B, представляет собой двумерный массив C такой, что C[i, j] = f(A[i], B[j]). Синтаксически это представлено по-разному: в APL как инфиксный бинарный оператор ∘.f; в J , как постфиксное наречие f/; в R как функция outer(A, B, f) или специальный %o%; в Математике , как Outer[f, A, B]. В MATLAB функция kron(A, B)используется для этого продукта. Их часто обобщают на многомерные аргументы и более двух аргументов.

В Python библиотеке NumPy внешний продукт можно вычислить с помощью функции np.outer(). В отличие, np.kronв результате получается плоский массив. Внешний продукт многомерных массивов можно вычислить с помощью np.multiply.outer.

Приложения

Поскольку внешний продукт тесно связан с продуктом Кронекера , в некоторых приложениях продукта Кронекера используются внешние продукты. Эти приложения можно найти в квантовой теории, обработке сигналов и сжатии изображений .

Спиноры

Предположим, s , t , w , z ∈ C так, что ( s , t ) и ( w , z ) находятся в C ² . Тогда внешний продукт этих комплексных 2-векторов является элементом M(2, C ) , комплексных матриц 2 × 2:

$${\begin{pmatrix}sw&tw\\sz&tz\end{pmatrix}}.$$

Определителем swtz этой матрицы является − sztw = 0 за коммутативного свойства C . из -

В теории спиноров в трех измерениях эти матрицы связаны с изотропными векторами из-за этого нулевого свойства. Эли Картан описал эту конструкцию в 1937 году: но он был введен Вольфгангом Паули в 1927 году. так что M(2, C ) стала называться алгеброй Паули .

Концепции

Блочная форма внешних продуктов полезна при классификации. Концептуальный анализ – это исследование, которое зависит от определенных внешних продуктов:

Когда вектор имеет только нули и единицы в качестве элементов, он называется логическим вектором , частным случаем логической матрицы . Логическая операция и занимает место умножения. Внешний продукт двух логических векторов ui ) _и задается ( vj ) _{матрицей} ( логической $\left(a_{ij}\right)=\left(u_{i}\land v_{j}\right)$. Этот тип матрицы используется при изучении бинарных отношений и называется прямоугольным отношением или перекрестным вектором .

См. также

• Диадики
• Преобразование домохозяина
• Норма (математика)
• Фигурное исчисление
• Матрица рассеяния

Продукты

• Декартово произведение
• Перекрестное произведение
• Экстерьер продукта
• Произведение Адамара (матрицы)

Двойственность

• Обозначение Бра-кета для внешнего продукта
• Комплексное сопряжение
• Сопряженное транспонирование
• Транспонировать

Дальнейшее чтение

• Карлен, Эрик; Кансейсан Карвальо, Мария (2006). «Внешние произведения и ортогональные проекции» . Линейная алгебра: с начала . Макмиллан. стр. 217–218. ISBN  9780716748946 .