Jump to content

Обобщенное разложение по сингулярным значениям

В линейной алгебре обобщенное разложение по сингулярным значениям ( GSVD ) — это название двух различных методов, основанных на разложении по сингулярным значениям (SVD) . Две версии различаются тем, что одна версия разлагает две матрицы (что-то вроде SVD высшего порядка или тензора ), а другая версия использует набор ограничений, налагаемых на левый и правый сингулярные векторы одноматричной SVD.

Первая версия: двухматричное разложение

[ редактировать ]

Обобщенное сингулярное разложение ( GSVD ) представляет собой матричное разложение на пару матриц, которое обобщает сингулярное разложение . Его представил Ван Лоан. [1] в 1976 году и позже разработанный Пейдж и Сондерс , [2] какая версия описана здесь. В отличие от SVD, GSVD одновременно разлагает пару матриц с одинаковым количеством столбцов. СВД и ГСВД, а также некоторые другие возможные обобщения СВД, [3] [4] [5] широко используются при изучении обусловленности и регуляризации линейных систем относительно квадратичных полунорм . В дальнейшем пусть , или .

Определение

[ редактировать ]

Обобщенное по сингулярным значениям разложение матриц и является где

  • является унитарным ,
  • является унитарным,
  • является унитарным,
  • является унитарным,
  • является вещественной диагональю с положительной диагональю и содержит ненулевые сингулярные значения в порядке убывания,
  • ,
  • действительная неотрицательная блок-диагональ , где с , , и ,
  • – действительная неотрицательная блок-диагональ, где с , , и ,
  • ,
  • ,
  • ,
  • .

Обозначим , , , и . Пока диагональная, не всегда диагональна из-за ведущей прямоугольной нулевой матрицы; вместо является «нижней правой диагональю».

Вариации

[ редактировать ]

Существует множество вариаций ГСВД. Эти вариации связаны с тем, что всегда можно умножить слева от где — произвольная унитарная матрица. Обозначим

  • , где является верхнетреугольным и обратимым, а является унитарным. Такие матрицы существуют посредством RQ-разложения .
  • . Затем является обратимым.

Вот некоторые варианты GSVD:

  • МАТЛАБ (гсвд):
  • ЛАПАК (LA_GGSVD):
  • Упрощенно:

Обобщенные сингулярные значения

[ редактировать ]

Обобщенное сингулярное значение и это пара такой, что

У нас есть


Благодаря этим свойствам мы можем показать, что обобщенные сингулярные значения — это в точности пары . У нас есть Поэтому

Это выражение равно нулю именно тогда, когда и для некоторых .

В, [2] утверждается, что обобщенные сингулярные значения — это те, которые решают . Однако это утверждение справедливо только тогда, когда , так как в противном случае определитель равен нулю для каждой пары ; это можно увидеть, заменив выше.

Обобщенный обратный

[ редактировать ]

Определять для любой обратимой матрицы , для любой нулевой матрицы , и для любой блочно-диагональной матрицы. Затем определите Можно показать, что как определено здесь, является обобщенной инверсией ; в частности -обратный . Поскольку это в целом не удовлетворяет , это не инверсия Мура-Пенроуза ; в противном случае мы могли бы получить для любого выбора матриц, что справедливо только для определенного класса матриц .

Предполагать , где и . Это обобщенное обратное имеет следующие свойства:

коэффициент СВД

[ редактировать ]

Обобщенное сингулярное отношение и является . По вышеуказанным свойствам, . Обратите внимание, что является диагональным и, если игнорировать ведущие нули, содержит сингулярные отношения в порядке убывания. Если обратимо, то не имеет ведущих нулей, а обобщенные сингулярные отношения являются сингулярными значениями, а и – матрицы сингулярных векторов матрицы . Фактически, вычисление SVD является одной из мотиваций ГСВД, поскольку «формирование и нахождение его СВД может привести к ненужным и большим численным ошибкам при плохо обусловлен для решения уравнений». [2] Отсюда иногда используемое название «частное СВД», хотя это не единственная причина использования ГСВД. Если не обратимо, то все еще СВД если мы ослабим требование иметь сингулярные значения в порядке убывания. Альтернативно, SVD в порядке убывания можно найти, переместив ведущие нули назад: , где и являются соответствующими матрицами перестановок. Поскольку ранг равен количеству ненулевых сингулярных значений, .

Строительство

[ редактировать ]

Позволять

  • быть СВД , где является унитарным, и и как описано,
  • , где и ,
  • , где и ,
  • со стороны СВД , где , и как описано,
  • путем разложения, аналогичного QR-разложению , где и как описано.

Затем У нас также есть Поэтому С имеет ортонормированные столбцы, . Поэтому У нас также есть для каждого такой, что что Поэтому , и

Приложения

[ редактировать ]
Тензор GSVD — это одно из сравнительных спектральных разложений, мультитензорных обобщений SVD, изобретенное для одновременного выявления похожего и непохожего среди и создания единой когерентной модели из любых типов данных, любого количества и размерностей.

GSVD, сформулированный как сравнительное спектральное разложение, [6] был успешно применен в обработке сигналов и науке о данных, например, при обработке геномных сигналов. [7] [8] [9]

Эти приложения вдохновили на создание нескольких дополнительных сравнительных спектральных разложений, то есть GSVD более высокого порядка (HO GSVD). [10] и тензор ГСВД. [11] [12]

Он также нашел применение для оценки спектральных разложений линейных операторов, когда собственные функции параметризованы с помощью линейной модели, то есть воспроизводящего ядра гильбертова пространства . [13]

Вторая версия: взвешенное одноматричное разложение.

[ редактировать ]

Взвешенная версия обобщенного сингулярного разложения ( GSVD ) представляет собой матричное разложение с ограничениями, налагаемыми на левый и правый сингулярные векторы сингулярного разложения . [14] [15] [16] Эта форма БСВД является продолжением СВД как таковой. Учитывая SVD действительной m × n или комплексной матрицы M

где

Где I единичная матрица , а где и ортонормированы с учетом их ограничений ( и ). Кроме того, и являются положительно определенными матрицами (часто диагональными матрицами весов). Эта форма GSVD является основой некоторых методов, таких как обобщенный анализ главных компонентов и анализ соответствия .

Взвешенная форма БСВД называется так потому, что при правильном выборе весов она обобщает многие методы (такие как многомерное масштабирование и линейный дискриминантный анализ ). [17]

  1. ^ Ван Лоан CF (1976). «Обобщение разложения по сингулярным значениям». СИАМ Дж. Нумер. Анал . 13 (1): 76–83. Бибкод : 1976SJNA...13...76В . дои : 10.1137/0713009 .
  2. ^ Перейти обратно: а б с Пейдж CC, Сондерс, Массачусетс (1981). «К обобщенному разложению по сингулярным значениям». СИАМ Дж. Нумер. Анал . 18 (3): 398–405. Бибкод : 1981SJNA...18..398P . дои : 10.1137/0718026 .
  3. ^ Хансен ПК (1997). Недостаточные ранги и дискретные некорректные задачи: численные аспекты линейной инверсии . Монографии SIAM по математическому моделированию и вычислениям. ISBN  0-89871-403-6 .
  4. ^ де Мур Б.Л., Голуб Г.Х. (1989). «Обобщенные разложения по сингулярным значениям. Предложение по стандартной номенклатуре» (PDF) .
  5. ^ де Моор Б.Л., Жа Х (1991). «Дерево обобщений обычного разложения по сингулярным числам» . Линейная алгебра и ее приложения . 147 : 469–500. дои : 10.1016/0024-3795(91)90243-П .
  6. ^ Альтер О, Браун П.О., Ботштейн Д. (март 2003 г.). «Обобщенное разложение по сингулярным значениям для сравнительного анализа наборов данных экспрессии в масштабе генома двух разных организмов» . Труды Национальной академии наук Соединенных Штатов Америки . 100 (6): 3351–6. Бибкод : 2003PNAS..100.3351A . дои : 10.1073/pnas.0530258100 . ПМЦ   152296 . ПМИД   12631705 .
  7. ^ Ли Ч., Альперт Б.О., Шанкаранараянан П., Альтер О. (январь 2012 г.). «Сравнение GSVD соответствующих пациентов нормальных и опухолевых профилей aCGH выявляет глобальные изменения числа копий, предсказывающие выживаемость при мультиформной глиобластоме» . ПЛОС ОДИН . 7 (1): e30098. Бибкод : 2012PLoSO...730098L . дои : 10.1371/journal.pone.0030098 . ПМЦ   3264559 . ПМИД   22291905 .
  8. ^ Айелло К.А., Поннапалли С.П., Альтер О (сентябрь 2018 г.). «Математически универсальный и биологически последовательный генотип астроцитомы кодирует трансформацию и предсказывает фенотип выживания» . АПЛ Биоинженерия . 2 (3): 031909. дои : 10.1063/1.5037882 . ПМК   6215493 . ПМИД   30397684 .
  9. ^ Поннапалли С.П., Брэдли М.В., Дивайн К., Боуэн Дж., Коппенс С.Э., Лераас К.М., Милаш Б.А., Ли Ф, Луо Х., Цю С., Ву К., Ян Х., Виттвер К.Т., Палмер К.А., Дженсен Р.Л., Гастье-Фостер Дж.М., Хэнсон Х.А., Барнхольц-Слоан Дж.С. , Альтер О (май 2020 г.). «Ретроспективное клиническое исследование экспериментально подтверждает общегеномную картину изменений числа копий ДНК, предсказывающих выживаемость» . АПЛ Биоинженерия . 4 (2): 026106. дои : 10.1063/1.5142559 . ПМК   7229984 . ПМИД   32478280 . Пресс-релиз .
  10. ^ Поннапалли С.П., Сондерс М.А., Ван Лоан К.Ф., Альтер О (декабрь 2011 г.). «Обобщенное разложение сингулярных значений более высокого порядка для сравнения глобальной экспрессии мРНК из нескольких организмов» . ПЛОС ОДИН . 6 (12): e28072. Бибкод : 2011PLoSO...628072P . дои : 10.1371/journal.pone.0028072 . ПМЦ   3245232 . ПМИД   22216090 .
  11. ^ Шанкаранараянан П., Шомай Т.Е., Айелло К.А., Альтер О (апрель 2015 г.). «Тензорная БСВД профилей числа копий опухоли, совпадающей с пациентом и платформой, и нормальной ДНК выявляет паттерны эксклюзивных для опухоли, совместимых с платформой изменений на всей хромосоме, кодирующих трансформацию клеток и прогнозирующих выживаемость при раке яичников» . ПЛОС ОДИН . 10 (4): e0121396. Бибкод : 2015PLoSO..1021396S . дои : 10.1371/journal.pone.0121396 . ПМЦ   4398562 . ПМИД   25875127 .
  12. ^ Брэдли М.В., Айелло К.А., Поннапалли С.П., Хэнсон Х.А., Альтер О (сентябрь 2019 г.). «Обнаруженные GSVD- и тензорные GSVD-паттерны изменений числа копий ДНК предсказывают выживаемость аденокарцином в целом и в ответ на платину» . АПЛ Биоинженерия . 3 (3): 036104. дои : 10.1063/1.5099268 . ПМК   6701977 . ПМИД   31463421 . Дополнительный материал .
  13. ^ Кабанн, Вивьен; Пийо-Вивьен, Лукас; Бах, Фрэнсис; Руди, Алессандро (2021). «Преодоление проклятия размерности с помощью лапласовой регуляризации в полуконтролируемом обучении». arXiv : 2009.04324 [ stat.ML ].
  14. ^ Джоллифф ИТ (2002). Анализ главных компонентов . Серия Спрингера по статистике (2-е изд.). Нью-Йорк: Спрингер. ISBN  978-0-387-95442-4 .
  15. ^ Гринакр М (1983). Теория и приложения анализа соответствий . Лондон: Академическая пресса. ISBN  978-0-12-299050-2 .
  16. ^ Абди Х., Уильямс LJ (2010). «Анализ главных компонент». Междисциплинарные обзоры Wiley: вычислительная статистика . 2 (4): 433–459. дои : 10.1002/wics.101 . S2CID   122379222 .
  17. ^ Абди Х (2007). «Разложение сингулярных значений (SVD) и обобщенное разложение сингулярных значений (GSVD)». В Салкинде, штат Нью-Джерси (ред.). Энциклопедия измерений и статистики . Таузенд-Оукс (Калифорния): Сейдж. стр. 907–912 .

Дальнейшее чтение

[ редактировать ]
  • Голуб Г., Ван Лоан С. (1996). Матричные вычисления (Третье изд.). Балтимор: Издательство Университета Джонса Хопкинса. ISBN  0-8018-5414-8 .
  • LAPACK Инструкция по эксплуатации [1]
Arc.Ask3.Ru: конец переведенного документа.
Arc.Ask3.Ru
Номер скриншота №: f65d7bba7ecfb1fd635fd46cb17afd9c__1702785300
URL1:https://arc.ask3.ru/arc/aa/f6/9c/f65d7bba7ecfb1fd635fd46cb17afd9c.html
Заголовок, (Title) документа по адресу, URL1:
Generalized singular value decomposition - Wikipedia
Данный printscreen веб страницы (снимок веб страницы, скриншот веб страницы), визуально-программная копия документа расположенного по адресу URL1 и сохраненная в файл, имеет: квалифицированную, усовершенствованную (подтверждены: метки времени, валидность сертификата), открепленную ЭЦП (приложена к данному файлу), что может быть использовано для подтверждения содержания и факта существования документа в этот момент времени. Права на данный скриншот принадлежат администрации Ask3.ru, использование в качестве доказательства только с письменного разрешения правообладателя скриншота. Администрация Ask3.ru не несет ответственности за информацию размещенную на данном скриншоте. Права на прочие зарегистрированные элементы любого права, изображенные на снимках принадлежат их владельцам. Качество перевода предоставляется как есть. Любые претензии, иски не могут быть предъявлены. Если вы не согласны с любым пунктом перечисленным выше, вы не можете использовать данный сайт и информация размещенную на нем (сайте/странице), немедленно покиньте данный сайт. В случае нарушения любого пункта перечисленного выше, штраф 55! (Пятьдесят пять факториал, Денежную единицу (имеющую самостоятельную стоимость) можете выбрать самостоятельно, выплаичвается товарами в течение 7 дней с момента нарушения.)