Хотеллинга Т -квадрат Распределение

«Многовариантное тестирование» перенаправляется сюда. Чтобы узнать о других значениях, см. Многомерное тестирование (значения) .

Хотеллинг'с Т ² распределение

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	p - размерность случайных величин м – в зависимости от размера выборки
Поддерживать	$x\in (0,+\infty )\;$ если $p=1$ $x\in [0,+\infty )\;$ в противном случае.

В статистике , особенно при проверке гипотез , Хотеллинга Т -квадрат распределения ( T ² ), предложенный Гарольдом Хотеллингом , — это многомерное распределение вероятностей , которое тесно связано с F -распределением и наиболее примечательно тем, что возникает как распределение набора выборочных статистических данных , которые являются естественным обобщением статистики, лежащей в основе Стьюдента t -распределения . Хотеллинга статистики t -квадрат ( t ² ) — это обобщение Стьюдента t -статистики , которая используется при проверке многомерных гипотез .

Мотивация

Распределение возникает в многомерной статистике при проведении тестов различий между (многомерными) средними значениями различных групп населения, где тесты для одномерных задач будут использовать t -критерий .Распределение названо в честь Гарольда Хотеллинга -распределения Стьюдента , который разработал его как обобщение t .

Определение

Если вектор $d$ является гауссовским многомерным распределением с нулевым средним значением и единичной ковариационной матрицей $N(\mathbf {0} _{p},\mathbf {I} _{p,p})$ и $M$ это $p\times p$ случайная матрица с распределением Уишарта $W(\mathbf {I} _{p,p},m)$ с матрицей единичного масштаба и m степенями свободы , а d и M независимы друг от друга, то квадратичная форма $X$ имеет распределение Хотеллинга (с параметрами $p$ и $m$):

$X=md^{T}M^{-1}d\sim T^{2}(p,m).$

Можно показать, что если случайная величина X -квадрат распределения Хотеллинга имеет Т , $X\sim T_{p,m}^{2}$, затем:

${\frac {m-p+1}{pm}}X\sim F_{p,m-p+1}$

где $F_{p,m-p+1}$ представляет собой F -распределение с параметрами p и m − p + 1.

Хотеллинга Т -квадрат

Позволять ${\hat {\mathbf {\Sigma } }}$ быть выборочной ковариацией :

${\hat {\mathbf {\Sigma } }}={\frac {1}{n-1}}\sum _{i=1}^{n}(\mathbf {x} _{i}-{\overline {\mathbf {x} }})(\mathbf {x} _{i}-{\overline {\mathbf {x} }})'$

мы обозначаем транспонирование апострофом . где Можно показать, что ${\hat {\mathbf {\Sigma } }}$ является положительной (полу) определенной матрицей и $(n-1){\hat {\mathbf {\Sigma } }}$ следует p -вариантному распределению Уишарта с n - 1 степенями свободы. Выборочная ковариационная матрица средних показаний ${\hat {\mathbf {\Sigma } }}_{\overline {\mathbf {x} }}={\hat {\mathbf {\Sigma } }}/n$.

определяется Хотеллинга Тогда t -квадрат статистики как:

$t^{2}=n({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})'{\hat {\mathbf {\Sigma } }}_{\overline {\mathbf {x} }}^{-1}({\overline {\mathbf {x} }}-{\boldsymbol {\mathbf {\mu } }}),$

что пропорционально расстоянию Махаланобиса между выборочным средним и ${\boldsymbol {\mu }}$. По этой причине следует ожидать, что статистика примет низкие значения, если ${\overline {\mathbf {x} }}\approx {\boldsymbol {\mu }}$и высокие значения, если они разные.

Из распределения ,

$t^{2}\sim T_{p,n-1}^{2}={\frac {p(n-1)}{n-p}}F_{p,n-p},$

где $F_{p,n-p}$ представляет собой F -распределение с параметрами p и n − p .

Чтобы вычислить p значение (здесь не связанное с переменной p ), обратите внимание, что распределение $t^{2}$ эквивалентно подразумевает, что

${\frac {n-p}{p(n-1)}}t^{2}\sim F_{p,n-p}.$

Затем используйте величину слева, чтобы оценить значение p , соответствующее выборке, которое получается из F -распределения. Доверительная область также может быть определена с использованием аналогичной логики.

Мотивация

Дополнительная информация: Многомерное нормальное распределение § Интервал.

Позволять ${\mathcal {N}}_{p}({\boldsymbol {\mu }},{\mathbf {\Sigma } })$ обозначают p -вариантное нормальное распределение с местоположением ${\boldsymbol {\mu }}$ и известная ковариация ${\mathbf {\Sigma } }$. Позволять

${\mathbf {x} }_{1},\dots ,{\mathbf {x} }_{n}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }},{\mathbf {\Sigma } })$

быть n независимыми одинаково распределенными (iid) случайными величинами , которые можно представить как $p\times 1$ векторы-столбцы действительных чисел. Определять

${\overline {\mathbf {x} }}={\frac {\mathbf {x} _{1}+\cdots +\mathbf {x} _{n}}{n}}$

быть выборочным средним с ковариацией ${\mathbf {\Sigma } }_{\overline {\mathbf {x} }}={\mathbf {\Sigma } }/n$. Можно показать, что

$({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})'{\mathbf {\Sigma } }_{\overline {\mathbf {x} }}^{-1}({\overline {\mathbf {x} }}-{\boldsymbol {\mathbf {\mu } }})\sim \chi _{p}^{2},$

где $\chi _{p}^{2}$ — распределение хи-квадрат с p степенями свободы.

показывать Доказательство

Proof Every positive-semidefinite symmetric matrix ${\textstyle {\boldsymbol {M}}}$ has a positive-semidefinite symmetric square root ${\boldsymbol {M}}^{1/2}$, and if it is nonsingular, then its inverse has a positive-definite square root ${\textstyle {\boldsymbol {M}}^{-1/2}}$. Since ${\textstyle \operatorname {var} \left({\overline {\boldsymbol {x}}}\right)=\mathbf {\Sigma } _{\overline {\mathbf {x} }}}$, we have$${\begin{aligned}\operatorname {var} \left(\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{-1/2}{\overline {\boldsymbol {x}}}\right)&=\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{-1/2}{\Big (}\operatorname {var} \left({\overline {\boldsymbol {x}}}\right){\Big )}\left(\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{-1/2}\right)^{T}\\[5pt]&=\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{-1/2}{\Big (}\operatorname {var} \left({\overline {\boldsymbol {x}}}\right){\Big )}\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{-1/2}{\text{ because }}\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}{\text{ is symmetric}}\\[5pt]&=\left(\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{-1/2}\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{1/2}\right)\left(\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{1/2}\mathbf {\Sigma } _{\overline {\boldsymbol {x}}}^{-1/2}\right)\\[5pt]&=\mathbf {I} _{p}.\end{aligned}}$$Consequently $${\overline {\boldsymbol {x}}}^{T}\mathbf {\Sigma } _{\overline {x}}^{-1}{\overline {\boldsymbol {x}}}=\left(\mathbf {\Sigma } _{\overline {x}}^{-1}{\overline {\boldsymbol {x}}}\right)^{T}\left(\mathbf {\Sigma } _{\overline {x}}^{-1}{\overline {\boldsymbol {x}}}\right)$$and this is simply the sum of squares of ${\textstyle p}$ independent standard normal random variables. Thus its distribution is ${\textstyle \chi _{p}^{2}.}$ Alternatively, one can argue using density functions and characteristic functions, as follows. Proof To show this use the fact that ${\overline {\mathbf {x} }}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }},{\mathbf {\Sigma } }/n)$and derive the characteristic function of the random variable $\mathbf {y} =({\bar {\mathbf {x} }}-{\boldsymbol {\mu }})'{\mathbf {\Sigma } }_{\bar {\mathbf {x} }}^{-1}({\bar {\mathbf {x} }}-{\boldsymbol {\mathbf {\mu } }})=({\bar {\mathbf {x} }}-{\boldsymbol {\mu }})'({\mathbf {\Sigma } }/n)^{-1}({\bar {\mathbf {x} }}-{\boldsymbol {\mathbf {\mu } }})$. As usual, let $|\cdot |$ denote the determinant of the argument, as in $|{\boldsymbol {\Sigma }}|$. By definition of characteristic function, we have: ${\begin{aligned}\varphi _{\mathbf {y} }(\theta )&=\operatorname {E} e^{i\theta \mathbf {y} },\\[5pt]&=\operatorname {E} e^{i\theta ({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})'({\mathbf {\Sigma } }/n)^{-1}({\overline {\mathbf {x} }}-{\boldsymbol {\mathbf {\mu } }})}\\[5pt]&=\int e^{i\theta ({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})'n{\mathbf {\Sigma } }^{-1}({\overline {\mathbf {x} }}-{\boldsymbol {\mathbf {\mu } }})}(2\pi )^{-p/2}|{\boldsymbol {\Sigma }}/n|^{-1/2}\,e^{-(1/2)({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})'n{\boldsymbol {\Sigma }}^{-1}({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})}\,dx_{1}\cdots dx_{p}\end{aligned}}$ There are two exponentials inside the integral, so by multiplying the exponentials we add the exponents together, obtaining: ${\begin{aligned}&=\int (2\pi )^{-p/2}|{\boldsymbol {\Sigma }}/n|^{-1/2}\,e^{-(1/2)({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})'n({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})}\,dx_{1}\cdots dx_{p}\end{aligned}}$ Now take the term $|{\boldsymbol {\Sigma }}/n|^{-1/2}$ off the integral, and multiply everything by an identity $I=|({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})^{-1}/n|^{1/2}\;\cdot \;|({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})^{-1}/n|^{-1/2}$, bringing one of them inside the integral: ${\begin{aligned}&=|({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})^{-1}/n|^{1/2}|{\boldsymbol {\Sigma }}/n|^{-1/2}\int (2\pi )^{-p/2}|({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})^{-1}/n|^{-1/2}\,e^{-(1/2)n({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})'({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})({\overline {\mathbf {x} }}-{\boldsymbol {\mu }})}\,dx_{1}\cdots dx_{p}\end{aligned}}$ But the term inside the integral is precisely the probability density function of a multivariate normal distribution with covariance matrix $({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})^{-1}/n=\left[n({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})\right]^{-1}$ and mean $\mu$, so when integrating over all $x_{1},\dots ,x_{p}$, it must yield $1$ per the probability axioms. We thus end up with: ${\begin{aligned}&=\left|({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})^{-1}\cdot {\frac {1}{n}}\right|^{1/2}|{\boldsymbol {\Sigma }}/n|^{-1/2}\\&=\left|({\boldsymbol {\Sigma }}^{-1}-2i\theta {\boldsymbol {\Sigma }}^{-1})^{-1}\cdot {\frac {1}{\cancel {n}}}\cdot {\cancel {n}}\cdot {\boldsymbol {\Sigma }}^{-1}\right|^{1/2}\\&=\left|\left[({\cancel {{\boldsymbol {\Sigma }}^{-1}}}-2i\theta {\cancel {{\boldsymbol {\Sigma }}^{-1}}}){\cancel {\boldsymbol {\Sigma }}}\right]^{-1}\right|^{1/2}\\&=|\mathbf {I} _{p}-2i\theta \mathbf {I} _{p}|^{-1/2}\end{aligned}}$ where $I_{p}$ is an identity matrix of dimension $p$. Finally, calculating the determinant, we obtain: ${\begin{aligned}&=(1-2i\theta )^{-p/2}\end{aligned}}$ which is the characteristic function for a chi-square distribution with $p$ degrees of freedom. $\;\;\;\blacksquare$

Двухвыборочная статистика

Если ${\mathbf {x} }_{1},\dots ,{\mathbf {x} }_{n_{x}}\sim N_{p}({\boldsymbol {\mu }},{\mathbf {\Sigma } })$ и ${\mathbf {y} }_{1},\dots ,{\mathbf {y} }_{n_{y}}\sim N_{p}({\boldsymbol {\mu }},{\mathbf {\Sigma } })$, с выборками, независимо взятыми из двух независимых многомерных нормальных распределений с одинаковым средним значением и ковариацией, и мы определяем

${\overline {\mathbf {x} }}={\frac {1}{n_{x}}}\sum _{i=1}^{n_{x}}\mathbf {x} _{i}\qquad {\overline {\mathbf {y} }}={\frac {1}{n_{y}}}\sum _{i=1}^{n_{y}}\mathbf {y} _{i}$

как образец означает, и

${\hat {\mathbf {\Sigma } }}_{\mathbf {x} }={\frac {1}{n_{x}-1}}\sum _{i=1}^{n_{x}}(\mathbf {x} _{i}-{\overline {\mathbf {x} }})(\mathbf {x} _{i}-{\overline {\mathbf {x} }})'$

${\hat {\mathbf {\Sigma } }}_{\mathbf {y} }={\frac {1}{n_{y}-1}}\sum _{i=1}^{n_{y}}(\mathbf {y} _{i}-{\overline {\mathbf {y} }})(\mathbf {y} _{i}-{\overline {\mathbf {y} }})'$

как соответствующие выборочные ковариационные матрицы. Затем

${\hat {\mathbf {\Sigma } }}={\frac {(n_{x}-1){\hat {\mathbf {\Sigma } }}_{\mathbf {x} }+(n_{y}-1){\hat {\mathbf {\Sigma } }}_{\mathbf {y} }}{n_{x}+n_{y}-2}}$

— это несмещенная оценка объединенной ковариационной матрицы (расширение объединенной дисперсии ).

Наконец, двухвыборочная t- квадратная статистика Хотеллинга имеет вид

$t^{2}={\frac {n_{x}n_{y}}{n_{x}+n_{y}}}({\overline {\mathbf {x} }}-{\overline {\mathbf {y} }})'{\hat {\mathbf {\Sigma } }}^{-1}({\overline {\mathbf {x} }}-{\overline {\mathbf {y} }})\sim T^{2}(p,n_{x}+n_{y}-2)$

Связанные понятия

Это может быть связано с F-распределением соотношением

${\frac {n_{x}+n_{y}-p-1}{(n_{x}+n_{y}-2)p}}t^{2}\sim F(p,n_{x}+n_{y}-1-p).$

Ненулевое распределение этой статистики представляет собой нецентральное F-распределение (отношение нецентральной случайной величины Хи-квадрат и независимой центральной Хи-квадрат случайной величины ).

${\frac {n_{x}+n_{y}-p-1}{(n_{x}+n_{y}-2)p}}t^{2}\sim F(p,n_{x}+n_{y}-1-p;\delta ),$

с

$\delta ={\frac {n_{x}n_{y}}{n_{x}+n_{y}}}{\boldsymbol {d}}'\mathbf {\Sigma } ^{-1}{\boldsymbol {d}},$

где ${\boldsymbol {d}}=\mathbf {{\overline {x}}-{\overline {y}}}$ - вектор разницы между средними значениями генеральной совокупности.

В случае с двумя переменными формула значительно упрощается, позволяя понять, как корреляция $\rho$, между переменными влияет $t^{2}$. Если мы определим

$d_{1}={\overline {x}}_{1}-{\overline {y}}_{1},\qquad d_{2}={\overline {x}}_{2}-{\overline {y}}_{2}$

и

$s_{1}={\sqrt {\Sigma _{11}}}\qquad s_{2}={\sqrt {\Sigma _{22}}}\qquad \rho =\Sigma _{12}/(s_{1}s_{2})=\Sigma _{21}/(s_{1}s_{2})$

затем

$t^{2}={\frac {n_{x}n_{y}}{(n_{x}+n_{y})(1-\rho ^{2})}}\left[\left({\frac {d_{1}}{s_{1}}}\right)^{2}+\left({\frac {d_{2}}{s_{2}}}\right)^{2}-2\rho \left({\frac {d_{1}}{s_{1}}}\right)\left({\frac {d_{2}}{s_{2}}}\right)\right]$

Таким образом, если разности в двух строках вектора $\mathbf {d} ={\overline {\mathbf {x} }}-{\overline {\mathbf {y} }}$ имеют один и тот же знак, в общем, $t^{2}$ становится меньше, так как $\rho$ становится более позитивным. Если разности имеют противоположные знаки $t^{2}$ становится больше, так как $\rho$ становится более позитивным.

Одномерный частный случай можно найти в t-критерии Уэлча .

В литературе были предложены более надежные и мощные тесты, чем тест Хотеллинга с двумя выборками, см., например, тесты на основе межточечного расстояния, которые можно применять также тогда, когда количество переменных сопоставимо с количеством испытуемых или даже превышает его.

См. также

• Стьюдента t -критерий в одномерной статистике
• Стьюдента t -распределение в одномерной теории вероятностей
• Многомерное распределение студентов
• F -распределение (обычно сведенное в таблицы или доступное в библиотеках программного обеспечения и, следовательно, используемое для тестирования статистики Т -квадрат с использованием приведенного выше соотношения)
• Уилкса (в многомерной статистике Λ Уилкса Лямбда- распределение Хотеллинга соответствует T ² как Снедекора F соответствует Стьюдента t в одномерной статистике)

Внешние ссылки

• Prokhorov, A.V. (2001) [1994], T ² -распределение «Отеллинг Т» ² -распределение» , Энциклопедия Математики , EMS Press