Оценка ковариационных матриц

В статистике иногда ковариационная матрица многомерной случайной величины неизвестна, но ее необходимо оценить . Оценка ковариационных матриц затем связана с вопросом о том, как аппроксимировать фактическую ковариационную матрицу на основе выборки из многомерного распределения . Простые случаи, когда наблюдения являются полными, можно решить с помощью выборочной ковариационной матрицы . Выборочная ковариационная матрица (SCM) является несмещенной и эффективной оценкой ковариационной матрицы, если пространство ковариационных матриц рассматривается как внешний выпуклый конус в R ^{p × p}; однако, измеренный с использованием внутренней геометрии , положительно определенных матриц SCM является смещенным и неэффективным средством оценки. ^[1] Кроме того, если случайная величина имеет нормальное распределение , выборочная ковариационная матрица имеет распределение Уишарта , и ее версия в немного другом масштабе представляет собой оценку максимального правдоподобия . Случаи, связанные с отсутствующими данными , гетероскедастичностью или автокоррелированными остатками, требуют более глубокого рассмотрения. Другой проблемой является устойчивость к выбросам , к которым очень чувствительны выборочные ковариационные матрицы. ^[2]^[3]^[4]

Статистический анализ многомерных данных часто включает в себя исследовательские исследования того, как переменные изменяются по отношению друг к другу, и за этим могут следовать явные статистические модели, включающие ковариационную матрицу переменных. Таким образом, оценка ковариационных матриц непосредственно по данным наблюдений играет две роли:

предоставить первоначальные оценки, которые можно использовать для изучения взаимосвязей;
предоставить выборочные оценки, которые можно использовать для проверки модели.

Оценки ковариационных матриц необходимы на начальных этапах анализа главных компонентов и факторного анализа , а также используются в версиях регрессионного анализа , которые рассматривают зависимые переменные в наборе данных вместе с независимой переменной как результат случайной выборки. .

Оценка в общем контексте

Дана выборка, из n независимых наблюдений x ₁ ,..., x _n p -мерного состоящая случайного вектора X ∈ R ^{p ×1} ( вектор-столбец p × 1), несмещенная оценка ( p × p ) ковариационной матрицы

\operatorname {\Sigma } =\operatorname {E} \left[\left(X-\operatorname {E} [X]\right)\left(X-\operatorname {E} [X]\right)^{\mathrm {T} }\right]

это выборочная ковариационная матрица

\mathbf {Q} ={1 \over {n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})(x_{i}-{\overline {x}})^{\mathrm {T} },

где $x_{i}$ является i -м наблюдением p -мерного случайного вектора, а вектор

{\overline {x}}={1 \over {n}}\sum _{i=1}^{n}x_{i}

– это выборочное среднее .Это верно независимо от распределения случайной величины X , при условии, конечно, что существуют теоретические средние значения и ковариации. Причина появления фактора n - 1, а не n , по существу, та же, что и причина появления того же фактора в несмещенных оценках выборочных дисперсий и выборочных ковариаций , что связано с тем фактом, что среднее значение неизвестно и заменяется выборочным. среднее значение (см. поправку Бесселя ).

В тех случаях, когда известно, что распределение случайной величины X находится в пределах определенного семейства распределений, на основе этого предположения можно получить другие оценки. Хорошо известен случай, когда случайная величина X имеет нормальное распределение : в этом случае максимального правдоподобия оценка ковариационной матрицы немного отличается от несмещенной оценки и определяется выражением

\mathbf {Q_{n}} ={1 \over n}\sum _{i=1}^{n}(x_{i}-{\overline {x}})(x_{i}-{\overline {x}})^{\mathrm {T} }.

Вывод этого результата приведен ниже. Очевидно, что разница между несмещенной оценкой и оценкой максимального правдоподобия уменьшается при больших n .

В общем случае несмещенная оценка ковариационной матрицы обеспечивает приемлемую оценку, когда все векторы данных в наблюдаемом наборе данных полны: то есть они не содержат пропущенных элементов . Один из подходов к оценке ковариационной матрицы состоит в том, чтобы рассматривать оценку каждой дисперсии или парной ковариации отдельно и использовать все наблюдения, для которых обе переменные имеют действительные значения. Если предположить, что недостающие данные отсутствуют случайно, это приводит к оценке ковариационной матрицы, которая является несмещенной. Однако для многих приложений эта оценка может быть неприемлемой, поскольку оцененная ковариационная матрица не обязательно будет положительно полуопределенной. Это может привести к тому, что оцененные корреляции будут иметь абсолютные значения больше единицы и/или к необратимой ковариационной матрице.

При оценке перекрестной ковариации пары сигналов, которые являются стационарными в широком смысле , отсутствующие выборки не обязательно должны быть случайными (например, допустима субвыборка с произвольным коэффициентом). ^{[ нужна ссылка ]}

Оценка максимального правдоподобия для многомерного нормального распределения

Случайный вектор X ∈ R ^п ( вектор-столбец p × 1) имеет многомерное нормальное распределение с невырожденной ковариационной матрицей Σ точно, если Σ ∈ R ^{п × р} является положительно определенной матрицей а функция плотности вероятности X , равна

f(x)=(2\pi )^{-{\frac {p}{2}}}\,\det(\Sigma )^{-{\frac {1}{2}}}\exp \left(-{1 \over 2}(x-\mu )^{\mathrm {T} }\Sigma ^{-1}(x-\mu )\right)

где µ ∈ R ^{p ×1} — значение X. ожидаемое Ковариационная матрица Σ является многомерным аналогом того, что в одном измерении было бы дисперсией , и

(2\pi )^{-{\frac {p}{2}}}\det(\Sigma )^{-{\frac {1}{2}}}

нормализует плотность $f(x)$ так что оно интегрируется в 1.

Предположим теперь, что X ₁ , ..., X _n являются независимыми и одинаково распределенными выборками из распределения, приведенного выше. На основе наблюдаемых значений x ₁ , ..., x _n этого образца мы хотим оценить Σ.

Первые шаги

Функция правдоподобия:

{\mathcal {L}}(\mu ,\Sigma )=(2\pi )^{-{\frac {np}{2}}}\,\prod _{i=1}^{n}\det(\Sigma )^{-{\frac {1}{2}}}\exp \left(-{\frac {1}{2}}(x_{i}-\mu )^{\mathrm {T} }\Sigma ^{-1}(x_{i}-\mu )\right)

Довольно легко показать, что оценка максимального правдоподобия среднего вектора μ является вектором « выборочного среднего »:

{\overline {x}}={\frac {x_{1}+\cdots +x_{n}}{n}}.

см. в разделе об оценке статьи о нормальном распределении Подробности ; здесь процесс аналогичен.

Поскольку оценка ${\bar {x}}$ не зависит от Σ, мы можем просто подставить его вместо µ в функцию правдоподобия , получив

{\mathcal {L}}({\overline {x}},\Sigma )\propto \det(\Sigma )^{-{\frac {n}{2}}}\exp \left(-{1 \over 2}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{\mathrm {T} }\Sigma ^{-1}(x_{i}-{\overline {x}})\right),

а затем найдите значение Σ, которое максимизирует вероятность данных (на практике проще работать с журналом ${\mathcal {L}}$ ).

След матрицы 1 × 1

Теперь мы подходим к первому удивительному шагу: рассмотрим скаляр $(x_{i}-{\overline {x}})^{\mathrm {T} }\Sigma ^{-1}(x_{i}-{\overline {x}})$ как след матрицы 1×1. Это позволяет использовать тождество tr( AB ) = tr( BA ) всякий раз, когда матрицы A и B имеют такую форму, что оба произведения существуют. Мы получаем

{\begin{aligned}{\mathcal {L}}({\overline {x}},\Sigma )&\propto \det(\Sigma )^{-{\frac {n}{2}}}\exp \left(-{1 \over 2}\sum _{i=1}^{n}\left(\left(x_{i}-{\overline {x}}\right)^{\mathrm {T} }\Sigma ^{-1}\left(x_{i}-{\overline {x}}\right)\right)\right)\\&=\det(\Sigma )^{-{\frac {n}{2}}}\exp \left(-{1 \over 2}\sum _{i=1}^{n}\operatorname {tr} \left(\left(x_{i}-{\overline {x}}\right)\left(x_{i}-{\overline {x}}\right)^{\mathrm {T} }\Sigma ^{-1}\right)\right)\\&=\det(\Sigma )^{-{\frac {n}{2}}}\exp \left(-{1 \over 2}\operatorname {tr} \left(\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)\left(x_{i}-{\overline {x}}\right)^{\mathrm {T} }\Sigma ^{-1}\right)\right)\\&=\det(\Sigma )^{-{\frac {n}{2}}}\exp \left(-{1 \over 2}\operatorname {tr} \left(S\Sigma ^{-1}\right)\right)\end{aligned}}

где

S=\sum _{i=1}^{n}(x_{i}-{\overline {x}})(x_{i}-{\overline {x}})^{\mathrm {T} }\in \mathbf {R} ^{p\times p}.

$S$ иногда называется матрицей рассеяния и является положительно определенной, если существует подмножество данных, состоящее из $p$ аффинно независимые наблюдения (что мы и будем предполагать).

Используя спектральную теорему

следует Из спектральной теоремы линейной алгебры , что положительно определенная симметричная матрица S имеет единственный положительно определенный симметричный квадратный корень S ^1/2. Мы снова можем использовать «циклическое свойство» трассы для записи

\det(\Sigma )^{-{\frac {n}{2}}}\exp \left(-{1 \over 2}\operatorname {tr} \left(S^{\frac {1}{2}}\Sigma ^{-1}S^{\frac {1}{2}}\right)\right).

Пусть B = S ^1/2 С ⁻¹ С ^1/2. Тогда приведенное выше выражение принимает вид

\det(S)^{-{\frac {n}{2}}}\det(B)^{\frac {n}{2}}\exp \left(-{1 \over 2}\operatorname {tr} (B)\right).

Положительно определенную матрицу B можно диагонализировать, и тогда возникает проблема нахождения значения B , которое максимизирует

\det(B)^{\frac {n}{2}}\exp \left(-{1 \over 2}\operatorname {tr} (B)\right)

Поскольку след квадратной матрицы равен сумме собственных значений ( «след и собственные значения» ), уравнение сводится к задаче нахождения собственных значений λ ₁ , ..., λ _p, которые максимизируют

\prod _{i=1}^{n}\lambda _{i}^{\frac {n}{2}}\exp \left(-{\frac {\lambda _{i}}{2}}\right).

Это просто задача исчисления, и мы получаем λ _i = n для всех i. Итак, предположим, что Q — матрица собственных векторов, тогда

B=Q(nI_{p})Q^{-1}=nI_{p}

т. е. в n раз больше единичной матрицы p × p .

Заключительные шаги

Наконец мы получаем

\Sigma =S^{\frac {1}{2}}B^{-1}S^{\frac {1}{2}}=S^{\frac {1}{2}}\left({\frac {1}{n}}I_{p}\right)S^{\frac {1}{2}}={\frac {S}{n}},

т. е. p × p «выборочная ковариационная матрица»

{S \over n}={1 \over n}\sum _{i=1}^{n}(X_{i}-{\overline {X}})(X_{i}-{\overline {X}})^{\mathrm {T} }

- это оценка максимального правдоподобия «ковариационной матрицы совокупности» Σ. На этом этапе мы используем заглавную букву X, а не строчную букву x, потому что думаем о ней «как о средстве оценки, а не как о оценке», то есть как о чем-то случайном, распределение вероятностей которого мы могли бы получить, зная. случайная матрица S Можно показать, что имеет распределение Уишарта с n - 1 степенями свободы. ^[5] То есть:

\sum _{i=1}^{n}(X_{i}-{\overline {X}})(X_{i}-{\overline {X}})^{\mathrm {T} }\sim W_{p}(\Sigma ,n-1).

Альтернативный вывод

Альтернативный вывод оценки максимального правдоподобия может быть выполнен с помощью матричного исчисления формул (см. также дифференциал определителя и дифференциал обратной матрицы ). Он также подтверждает вышеупомянутый факт об оценке максимального правдоподобия среднего значения. Перепишите вероятность в форме журнала, используя трюк с трассировкой:

\ln {\mathcal {L}}(\mu ,\Sigma )=\operatorname {constant} -{n \over 2}\ln \det(\Sigma )-{1 \over 2}\operatorname {tr} \left[\Sigma ^{-1}\sum _{i=1}^{n}(x_{i}-\mu )(x_{i}-\mu )^{\mathrm {T} }\right].

Дифференциал этого логарифмического правдоподобия равен

d\ln {\mathcal {L}}(\mu ,\Sigma )=-{\frac {n}{2}}\operatorname {tr} \left[\Sigma ^{-1}\left\{d\Sigma \right\}\right]-{1 \over 2}\operatorname {tr} \left[-\Sigma ^{-1}\{d\Sigma \}\Sigma ^{-1}\sum _{i=1}^{n}(x_{i}-\mu )(x_{i}-\mu )^{\mathrm {T} }-2\Sigma ^{-1}\sum _{i=1}^{n}(x_{i}-\mu )\{d\mu \}^{\mathrm {T} }\right].

Он естественным образом разбивается на часть, связанную с оценкой среднего значения, и часть, связанную с оценкой дисперсии. Условие первого порядка для максимума, $d\ln {\mathcal {L}}(\mu ,\Sigma )=0$ , выполняется, когда условия умножения $d\mu$ и $d\Sigma$ тождественно равны нулю. Предполагая (оценка максимального правдоподобия) $\Sigma$ невырожден, то условие первого порядка оценки среднего вектора есть

\sum _{i=1}^{n}(x_{i}-\mu )=0,

что приводит к оценке максимального правдоподобия

{\widehat {\mu }}={\bar {X}}={1 \over n}\sum _{i=1}^{n}X_{i}.

Это позволяет нам упростить

\sum _{i=1}^{n}(x_{i}-\mu )(x_{i}-\mu )^{\mathrm {T} }=\sum _{i=1}^{n}(x_{i}-{\bar {x}})(x_{i}-{\bar {x}})^{\mathrm {T} }=S

как определено выше. Тогда условия, включающие $d\Sigma$ в $d\ln L$ можно объединить как

-{1 \over 2}\operatorname {tr} \left(\Sigma ^{-1}\left\{d\Sigma \right\}\left[nI_{p}-\Sigma ^{-1}S\right]\right).

Первое условие заказа $d\ln {\mathcal {L}}(\mu ,\Sigma )=0$ будет выполняться, когда член в квадратных скобках равен (матричному) нулю. Предварительно умножив последнее на $\Sigma$ и разделив на $n$ дает

{\widehat {\Sigma }}={1 \over n}S,

что, конечно, совпадает с приведенным ранее каноническим выводом.

Дуайер ^[6] указывает, что разложение на два члена, такое как показано выше, «ненужно», и выводит оценку в два этапа. Обратите внимание, что может быть непросто показать, что такая производная оценка является уникальным глобальным максимизатором функции правдоподобия.

Оценка внутренней ковариационной матрицы

Внутреннее ожидание

Учитывая выборку из n независимых наблюдений x ₁ ,..., x _n -мерной p гауссовской случайной величины X с ковариацией R , максимального правдоподобия оценка R с нулевым средним значением определяется выражением

{\hat {\mathbf {R} }}={1 \over n}\sum _{i=1}^{n}x_{i}x_{i}^{\mathrm {T} }.

Параметр $R$ принадлежит множеству положительно определенных матриц , которое является римановым многообразием , а не векторным пространством , отсюда и обычные понятия ожидания векторного пространства , т.е. $\mathrm {E} [{\hat {\mathbf {R} }}]$ ", и смещение оценки должно быть обобщено на многообразия, чтобы понять проблему оценки ковариационной матрицы. Это можно сделать, определив математическое ожидание многозначной оценки ${\hat {\mathbf {R} }}$ относительно многозначной точки $R$ как

\mathrm {E} _{\mathbf {R} }[{\hat {\mathbf {R} }}]\ {\stackrel {\mathrm {def} }{=}}\ \exp _{\mathbf {R} }\mathrm {E} \left[\exp _{\mathbf {R} }^{-1}{\hat {\mathbf {R} }}\right]

где

\exp _{\mathbf {R} }({\hat {\mathbf {R} }})=\mathbf {R} ^{\frac {1}{2}}\exp \left(\mathbf {R} ^{-{\frac {1}{2}}}{\hat {\mathbf {R} }}\mathbf {R} ^{-{\frac {1}{2}}}\right)\mathbf {R} ^{\frac {1}{2}}

\exp _{\mathbf {R} }^{-1}({\hat {\mathbf {R} }})=\mathbf {R} ^{\frac {1}{2}}\left(\log \mathbf {R} ^{-{\frac {1}{2}}}{\hat {\mathbf {R} }}\mathbf {R} ^{-{\frac {1}{2}}}\right)\mathbf {R} ^{\frac {1}{2}}

— экспоненциальное отображение и обратное экспоненциальное отображение соответственно, «exp» и «log» обозначают обычную матричную экспоненту и матричный логарифм , а E[·] — обычный оператор ожидания, определенный в векторном пространстве, в данном случае пространстве касательном многообразие. ^[1]

Смещение выборочной ковариационной матрицы

Внутреннее смещения векторное поле средства оценки SCM ${\hat {\mathbf {R} }}$ определяется как

\mathbf {B} ({\hat {\mathbf {R} }})=\exp _{\mathbf {R} }^{-1}\mathrm {E} _{\mathbf {R} }\left[{\hat {\mathbf {R} }}\right]=\mathrm {E} \left[\exp _{\mathbf {R} }^{-1}{\hat {\mathbf {R} }}\right]

Внутреннее смещение оценки тогда определяется выражением $\exp _{\mathbf {R} }\mathbf {B} ({\hat {\mathbf {R} }})$ .

Для комплексных гауссовских случайных величин это векторное поле смещения можно показать ^[1] равняться

\mathbf {B} ({\hat {\mathbf {R} }})=-\beta (p,n)\mathbf {R}

где

\beta (p,n)={\frac {1}{p}}\left(p\log n+p-\psi (n-p+1)+(n-p+1)\psi (n-p+2)+\psi (n+1)-(n+1)\psi (n+2)\right)

и ψ(·) — дигамма-функция . Внутреннее смещение выборочной ковариационной матрицы равно

\exp _{\mathbf {R} }\mathbf {B} ({\hat {\mathbf {R} }})=e^{-\beta (p,n)}\mathbf {R}

и СКМ асимптотически несмещена при n → ∞.

Точно так же внутренняя неэффективность выборочной ковариационной матрицы зависит от римановой кривизны пространства положительно определенных матриц.

Оценка усадки

Если размер выборки n мал, а количество рассматриваемых переменных p велико, приведенные выше эмпирические оценки ковариации и корреляции очень нестабильны. В частности, можно предоставить оценки, которые значительно улучшают оценку максимального правдоподобия с точки зрения среднеквадратической ошибки. Более того, при n < p (количество наблюдений меньше числа случайных величин) эмпирическая оценка ковариационной матрицы становится сингулярной , т.е. ее нельзя инвертировать для вычисления матрицы точности .

В качестве альтернативы было предложено множество методов улучшения оценки ковариационной матрицы. Все эти подходы основаны на концепции сокращения. Это неявно присутствует в байесовских методах и штрафных методах максимального правдоподобия , а также явно проявляется в подходе сокращения типа Штейна .

Простая версия оценки усадки ковариационной матрицы представлена оценкой усадки Ледуа-Вольфа. ^[7]^[8]^[9]^[10] Рассматривается выпуклая комбинация эмпирической оценки ( $A$ ) с некоторой подходящей выбранной целью ( $B$ ), например, диагональная матрица. В дальнейшем параметр смешивания ( $\delta$ ) выбирается для максимизации ожидаемой точности сокращенной оценки. Это можно сделать путем перекрестной проверки или с помощью аналитической оценки интенсивности сжатия. Полученная регуляризованная оценка ( $\delta A+(1-\delta )B$ Можно показать, что ) превосходит оценку максимального правдоподобия для небольших выборок. Для больших образцов интенсивность усадки уменьшится до нуля, следовательно, в этом случае оценка усадки будет идентична эмпирической оценке. Помимо повышения эффективности, оценка усадки имеет еще одно преимущество: она всегда положительно определена и хорошо обусловлена.

Были предложены различные цели сокращения:

единичная матрица , масштабированная по средней выборочной дисперсии ;
одноиндексная модель ;
модель постоянной корреляции, в которой выборочные дисперсии сохраняются, но все коэффициенты парной корреляции предполагаются равными друг другу;
двухпараметрическая матрица, где все дисперсии идентичны, а все ковариации идентичны друг другу (хотя и не идентичны дисперсиям);
диагональная матрица, содержащая выборочные дисперсии на диагонали и нули везде;
единичная матрица . ^[8]

Оценщик усадки можно обобщить до многоцелевого средства оценки усадки, которое использует несколько целей одновременно. ^[11] Программное обеспечение для расчета ковариационной оценки усадки доступно в R (пакеты corpcor ^[12] и ShrinkCovMat ^[13]), в Python ( scikit-learn библиотека [1] ) и в MATLAB . ^[14]

См. также

Ссылки

^ Jump up to: ^а ^б ^с Смит, Стивен Томас (май 2005 г.). «Ковариантность, подпространство и внутренние границы Крамера – Рао» . IEEE Транс. Сигнальный процесс . 53 (5): 1610–1630. дои : 10.1109/TSP.2005.845428 . S2CID 2751194 .
^ Надежная статистика , Питер Дж. Хубер , Уайли, 1981 (переиздано в мягкой обложке, 2004 г.)
^ «Современная прикладная статистика с S», Уильям Н. Венейблс , Брайан Д. Рипли , Спрингер, 2002, ISBN 0-387-95457-0 , ISBN 978-0-387-95457-8 , стр. 336
^ Девлин, Сьюзен Дж .; Гнанадэсикан, Р.; Кеттенринг, младший (1975). «Надежная оценка и обнаружение выбросов с помощью коэффициентов корреляции». Биометрика . 62 (3): 531–545. дои : 10.1093/biomet/62.3.531 .
^ К. В. Мардиа , Дж. Т. Кент и Дж. М. Бибби (1979) Многомерный анализ , Academic Press .
^ Дуайер, Пол С. (июнь 1967 г.). «Некоторые применения матричных производных в многомерном анализе». Журнал Американской статистической ассоциации . 62 (318): 607–625. дои : 10.2307/2283988 . JSTOR 2283988 .
^ О. Ледуа и М. Вольф (2004a) « Хорошо обусловленная оценка для крупномерных ковариационных матриц. Архивировано 5 декабря 2014 г. в Wayback Machine » Журнал многомерного анализа 88 (2): 365–411.
^ Jump up to: ^а ^б А. Тулумис (2015) « Непараметрические оценки ковариационной матрицы усадки типа Штейна в многомерных условиях » Вычислительная статистика и анализ данных 83 : 251–261.
^ О. Ледуа и М. Вольф (2003) « Улучшенная оценка ковариационной матрицы доходности акций с применением к выбору портфеля. Архивировано 5 декабря 2014 г. в Wayback Machine » Journal of Empirical Finance 10 (5): 603–621. .
^ О. Ледуа и М. Вольф (2004b) « Дорогая, я уменьшил выборочную ковариационную матрицу. Архивировано 5 декабря 2014 г. в Wayback Machine » Журнал управления портфелем 30 (4): 110–119.
^ Т. Ланцевицкий и М. Аладжем (2014) « Многоцелевая оценка усадки ковариационных матриц », Транзакции IEEE по обработке сигналов , Том: 62, Выпуск 24, страницы: 6380-6390.
^ corpcor: Эффективная оценка ковариации и (частичной) корреляции , CRAN, 16 сентября 2021 г. {{citation}}: CS1 maint: отсутствует местоположение издателя ( ссылка )
^ ShrinkCovMat: Оценщики ковариационной матрицы усадки , CRAN, 30 июля 2019 г. {{citation}}: CS1 maint: отсутствует местоположение издателя ( ссылка )
^ Код MATLAB для целей усадки: масштабированная идентичность , одноиндексная модель , модель постоянной корреляции , двухпараметрическая матрица и диагональная матрица .

[Smith_2005-1] Jump up to: ^а ^б ^с Смит, Стивен Томас (май 2005 г.). «Ковариантность, подпространство и внутренние границы Крамера – Рао» . IEEE Транс. Сигнальный процесс . 53 (5): 1610–1630. дои : 10.1109/TSP.2005.845428 . S2CID 2751194 .

[2] Надежная статистика , Питер Дж. Хубер , Уайли, 1981 (переиздано в мягкой обложке, 2004 г.)

[3] «Современная прикладная статистика с S», Уильям Н. Венейблс , Брайан Д. Рипли , Спрингер, 2002, ISBN 0-387-95457-0 , ISBN 978-0-387-95457-8 , стр. 336

[4] Девлин, Сьюзен Дж .; Гнанадэсикан, Р.; Кеттенринг, младший (1975). «Надежная оценка и обнаружение выбросов с помощью коэффициентов корреляции». Биометрика . 62 (3): 531–545. дои : 10.1093/biomet/62.3.531 .

[5] К. В. Мардиа , Дж. Т. Кент и Дж. М. Бибби (1979) Многомерный анализ , Academic Press .

[Thomas_2007-6] Дуайер, Пол С. (июнь 1967 г.). «Некоторые применения матричных производных в многомерном анализе». Журнал Американской статистической ассоциации . 62 (318): 607–625. дои : 10.2307/2283988 . JSTOR 2283988 .

[Ledoit_and_Wolf_(2004a)-7] О. Ледуа и М. Вольф (2004a) « Хорошо обусловленная оценка для крупномерных ковариационных матриц. Архивировано 5 декабря 2014 г. в Wayback Machine » Журнал многомерного анализа 88 (2): 365–411.

[Touloumis_(2015)-8] Jump up to: ^а ^б А. Тулумис (2015) « Непараметрические оценки ковариационной матрицы усадки типа Штейна в многомерных условиях » Вычислительная статистика и анализ данных 83 : 251–261.

[Ledoit_and_Wolf_(2003)-9] О. Ледуа и М. Вольф (2003) « Улучшенная оценка ковариационной матрицы доходности акций с применением к выбору портфеля. Архивировано 5 декабря 2014 г. в Wayback Machine » Journal of Empirical Finance 10 (5): 603–621. .

[Ledoit_and_Wolf_(2004b)-10] О. Ледуа и М. Вольф (2004b) « Дорогая, я уменьшил выборочную ковариационную матрицу. Архивировано 5 декабря 2014 г. в Wayback Machine » Журнал управления портфелем 30 (4): 110–119.

[11] Т. Ланцевицкий и М. Аладжем (2014) « Многоцелевая оценка усадки ковариационных матриц », Транзакции IEEE по обработке сигналов , Том: 62, Выпуск 24, страницы: 6380-6390.

[12] corpcor: Эффективная оценка ковариации и (частичной) корреляции , CRAN, 16 сентября 2021 г. {{citation}}: CS1 maint: отсутствует местоположение издателя ( ссылка )

[13] ShrinkCovMat: Оценщики ковариационной матрицы усадки , CRAN, 30 июля 2019 г. {{citation}}: CS1 maint: отсутствует местоположение издателя ( ссылка )

[MATLAB_code-14] Код MATLAB для целей усадки: масштабированная идентичность , одноиндексная модель , модель постоянной корреляции , двухпараметрическая матрица и диагональная матрица .

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]