Двумерное сингулярное разложение

В линейной алгебре двумерное разложение по сингулярным значениям ( 2DSVD ) вычисляет низкоранговую аппроксимацию набора матриц, таких как 2D- изображения или карты погоды, почти идентично SVD ( разложение по сингулярным значениям ), которое вычисляет низкие значения. ранговая аппроксимация одной матрицы (или набора одномерных векторов).

СВД

Пусть матрица $X=[\mathbf {x} _{1},\ldots ,\mathbf {x} _{n}]$ содержит набор одномерных векторов, которые были центрированы. В PCA/SVD мы строим ковариационную матрицу $F$ и матрица Грама $G$

F=XX^{\mathsf {T}}

,

G=X^{\mathsf {T}}X,

и вычислить их собственные векторы $U=[\mathbf {u} _{1},\ldots ,\mathbf {u} _{n}]$ и $V=[\mathbf {v} _{1},\ldots ,\mathbf {v} _{n}]$ . С $VV^{\mathsf {T}}=I$ и $UU^{\mathsf {T}}=I$ у нас есть

X=UU^{\mathsf {T}}XVV^{\mathsf {T}}=U\left(U^{\mathsf {T}}XV\right)V^{\mathsf {T}}=U\Sigma V^{\mathsf {T}}.

Если мы сохраним только $K$ главные собственные векторы в $U,V$ , это дает низкоранговую аппроксимацию $X$ .

2ДСВД

Здесь мы имеем дело с набором 2D-матриц. $(X_{1},\ldots ,X_{n})$ . Предположим, они центрированы ${\textstyle \sum _{i}X_{i}=0}$ . Построим ковариационные матрицы строка-строка и столбец-столбец.

F=\sum _{i}X_{i}X_{i}^{\mathsf {T}}

и

G=\sum _{i}X_{i}^{\mathsf {T}}X_{i}

точно так же, как в SVD, и вычислить их собственные векторы $U$ и $V$ . Мы приближаем $X_{i}$ как

X_{i}=UU^{\mathsf {T}}X_{i}VV^{\mathsf {T}}=U\left(U^{\mathsf {T}}X_{i}V\right)V^{\mathsf {T}}=UM_{i}V^{\mathsf {T}}

точно так же, как и в СВД. Это дает почти оптимальную аппроксимацию низкого ранга $(X_{1},\ldots ,X_{n})$ с целевой функцией

J=\sum _{i=1}^{n}\left|X_{i}-LM_{i}R^{\mathsf {T}}\right|^{2}

Также существуют границы ошибок, аналогичные теореме Эккарда – Янга .

2DSVD в основном используется для изображений сжатия и представления .

Ссылки

Крис Дин и Цзепин Е. «Двумерное разложение по сингулярным значениям (2DSVD) для 2D-карт и изображений». Учеб. Международная конференция SIAM. Data Mining (SDM'05), стр. 32–43, апрель 2005 г. http://ranger.uta.edu/~chqding/papers/2dsvdSDM05.pdf.
Цзепин Е. «Обобщенные аппроксимации матриц низкого ранга». Журнал машинного обучения. Том. 61, стр. 167–191, 2005.