Графическое лассо

В статистике графический аркан ^{[ 1 ]} представляет собой разреженную максимального правдоподобия , налагаемую штрафом систему оценки для матрицы концентрации или точности (обратной ковариационной матрице ) многомерного эллиптического распределения . Исходный вариант был сформулирован для решения ковариационной проблемы выбора Демпстера. ^{[ 2 ]}^{[ 3 ]} для многомерного распределения Гаусса, когда наблюдения были ограничены. В дальнейшем алгоритмы оптимизации для решения этой задачи были усовершенствованы. ^{[ 4 ]} и расширен ^{[ 5 ]} к другим типам оценок и распределений.

Параметр

Учитывайте наблюдения $X_{1},X_{2},\ldots ,X_{n}$ из многомерного распределения Гаусса $X\sim N(0,\Sigma )$ . Нас интересует оценка матрицы точности $\Theta =\Sigma ^{-1}$ .

Графический оценщик лассо — это ${\hat {\Theta }}$ такой, что:

{\hat {\Theta }}=\operatorname {argmin} _{\Theta \geq 0}\left(\operatorname {tr} (S\Theta )-\log \det(\Theta )+\lambda \sum _{j\neq k}|\Theta _{jk}|\right)

где $S$ - выборочная ковариация , и $\lambda$ является штрафным параметром. ^{[ 4 ]}

Приложение

Для получения оценки в программах пользователи могли использовать пакет R glasso , ^{[ 6 ]} GraphicalLasso() в scikit-learn библиотеке Python , ^{[ 7 ]} или skggm пакет Python ^{[ 8 ]} (аналогично scikit-learn).

См. также

Ссылки

^ Фридман, Джером; Хасти, Тревор; Тибширани, Роберт (1 июля 2008 г.). «Разреженная обратная оценка ковариации с помощью графического лассо» . Биостатистика . 9 (3): 432–441. doi : 10.1093/biostatistics/kxm045 . ISSN 1465-4644 . ПМК 3019769 . ПМИД 18079126 .
^ Демпстер, AP (1972). «Ковариационный выбор». Биометрия . 28 (1): 157–175. дои : 10.2307/2528966 . ISSN 0006-341X . JSTOR 2528966 .
^ Банерджи, Онурена; д'Аспремон, Александр; Гауи, Лоран Эль (8 июня 2005 г.). «Выбор разреженной ковариации посредством надежной оценки максимального правдоподобия». arXiv : cs/0506023 .
^ Jump up to: ^а ^б Фридман, Джером и Хасти, Тревор и Тибширани, Роберт (2008). «Разреженная обратная оценка ковариации с помощью графического лассо» (PDF) . Биостатистика . 9 (3). Биометрика Траст: 432–41. doi : 10.1093/biostatistics/kxm045 . ПМК 3019769 . ПМИД 18079126 . {{cite journal}}: CS1 maint: несколько имен: список авторов ( ссылка )
^ Кай, Т. Тони; Лю, Вэйдун; Чжоу, Харрисон Х. (апрель 2016 г.). «Оценка разреженной матрицы точности: оптимальные скорости сходимости и адаптивная оценка» . Анналы статистики . 44 (2): 455–488. arXiv : 1212.2882 . дои : 10.1214/13-AOS1171 . ISSN 0090-5364 . S2CID 14699773 .
^ Джером Фридман; Тревор Хэсти; Роб Тибширани (2014). Glasso: Графическое лассо-оценка гауссовских графических моделей .
^ Педрегоса Ф. и Варокво Г. и Грамфор А. и Мишель В. и Тирион Б. и Гризель О. и Блондель М. и Преттенхофер П. и Вайс Р. и Дюбур В. и Вандерплас Дж., Пассос А., Курнапо Д. и Брюхер М., Перро М. и Дюшенэ Э. (2011). «Scikit-learn: машинное обучение на Python» . Журнал исследований машинного обучения . arXiv : 1201.0490 . Бибкод : 2012arXiv1201.0490P . {{cite journal}}: CS1 maint: несколько имен: список авторов ( ссылка )
^ Джейсон Ласка; Манджари Нараян (2017). «skggm 0.2.7: пакет, совместимый с scikit-learn, для гауссовских и связанных с ними графических моделей» Зенодо . Бибкод : 2017zndo....830033L . дои : 10.5281/zenodo.830033 .

[1] Фридман, Джером; Хасти, Тревор; Тибширани, Роберт (1 июля 2008 г.). «Разреженная обратная оценка ковариации с помощью графического лассо» . Биостатистика . 9 (3): 432–441. doi : 10.1093/biostatistics/kxm045 . ISSN 1465-4644 . ПМК 3019769 . ПМИД 18079126 .

[2] Демпстер, AP (1972). «Ковариационный выбор». Биометрия . 28 (1): 157–175. дои : 10.2307/2528966 . ISSN 0006-341X . JSTOR 2528966 .

[3] Банерджи, Онурена; д'Аспремон, Александр; Гауи, Лоран Эль (8 июня 2005 г.). «Выбор разреженной ковариации посредством надежной оценки максимального правдоподобия». arXiv : cs/0506023 .

[friedman-4] Jump up to: ^а ^б Фридман, Джером и Хасти, Тревор и Тибширани, Роберт (2008). «Разреженная обратная оценка ковариации с помощью графического лассо» (PDF) . Биостатистика . 9 (3). Биометрика Траст: 432–41. doi : 10.1093/biostatistics/kxm045 . ПМК 3019769 . ПМИД 18079126 . {{cite journal}}: CS1 maint: несколько имен: список авторов ( ссылка )

[5] Кай, Т. Тони; Лю, Вэйдун; Чжоу, Харрисон Х. (апрель 2016 г.). «Оценка разреженной матрицы точности: оптимальные скорости сходимости и адаптивная оценка» . Анналы статистики . 44 (2): 455–488. arXiv : 1212.2882 . дои : 10.1214/13-AOS1171 . ISSN 0090-5364 . S2CID 14699773 .

[r-glasso-6] Джером Фридман; Тревор Хэсти; Роб Тибширани (2014). Glasso: Графическое лассо-оценка гауссовских графических моделей .

[sklearn-7] Педрегоса Ф. и Варокво Г. и Грамфор А. и Мишель В. и Тирион Б. и Гризель О. и Блондель М. и Преттенхофер П. и Вайс Р. и Дюбур В. и Вандерплас Дж., Пассос А., Курнапо Д. и Брюхер М., Перро М. и Дюшенэ Э. (2011). «Scikit-learn: машинное обучение на Python» . Журнал исследований машинного обучения . arXiv : 1201.0490 . Бибкод : 2012arXiv1201.0490P . {{cite journal}}: CS1 maint: несколько имен: список авторов ( ссылка )

[skggm-8] Джейсон Ласка; Манджари Нараян (2017). «skggm 0.2.7: пакет, совместимый с scikit-learn, для гауссовских и связанных с ними графических моделей» Зенодо . Бибкод : 2017zndo....830033L . дои : 10.5281/zenodo.830033 .

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]