Ковариация и корреляция

Более широкое освещение этой темы см. в разделе «Ковариация и корреляция» .

В теории вероятностей и статистике математические понятия ковариации и корреляции очень похожи. Оба описывают степень, в которой две случайные величины или наборы случайных величин имеют тенденцию отклоняться от своих ожидаемых значений одинаковым образом.

Если X и Y — две случайные величины со средними значениями (ожидаемыми значениями) µ _X и µ _Y и стандартными отклонениями σ _X и σ _Y соответственно, то их ковариация и корреляция будут следующими:

ковариация

${\text{cov}}_{XY}=\sigma _{XY}=E[(X-\mu _{X})\,(Y-\mu _{Y})]$

корреляция

${\text{corr}}_{XY}=\rho _{XY}=E[(X-\mu _{X})\,(Y-\mu _{Y})]/(\sigma _{X}\sigma _{Y})\,,$

так что $$\rho _{XY}=\sigma _{XY}/(\sigma _{X}\sigma _{Y})$$

где E — оператор ожидаемого значения. Примечательно, что корреляция безразмерна , а ковариация выражается в единицах, полученных путем умножения единиц двух переменных.

Если Y всегда принимает те же значения, что и X , мы имеем ковариацию переменной с самой собой (т. е. $\sigma _{XX}$), которая называется дисперсией и чаще обозначается как $\sigma _{X}^{2},$ квадрат стандартного отклонения. Корреляция X переменной сама с собой всегда равна 1 (за исключением вырожденного случая , когда две дисперсии равны нулю, поскольку всегда принимает одно и то же значение, и в этом случае корреляция не существует, поскольку ее вычисление будет включать деление на 0 ). В более общем смысле, корреляция между двумя переменными равна 1 (или –1), если одна из них всегда принимает значение, которое точно задается линейной функцией другой с соответственно положительным (или отрицательным) наклоном .

Хотя значения теоретических ковариаций и корреляций связаны указанным выше образом, распределения вероятностей выборочных оценок этих величин не связаны каким-либо простым способом, и их, как правило, необходимо рассматривать отдельно.

Несколько случайных величин

При любом количестве случайных величин, превышающем 1, переменные можно объединить в случайный вектор , i ^й элемент - это я ^й случайная величина. Затем дисперсии и ковариации можно поместить в ковариационную матрицу , в которой элемент ( i , j ) представляет собой ковариацию между i ^й случайная величина и j ^й один. Аналогичным образом корреляции могут быть помещены в корреляционную матрицу .

Анализ временных рядов

В случае в широком смысле временного ряда стационарного и средние, и дисперсии постоянны во времени (E( X _n+m ) = E( X _n ) = µ _X и var( X _n+m ) = var( X _n ) и аналогично для переменной Y ). В этом случае взаимная ковариация и взаимная корреляция являются функциями разницы во времени:

перекрестная ковариация

$\sigma _{XY}(m)=E[(X_{n}-\mu _{X})\,(Y_{n+m}-\mu _{Y})],$

взаимная корреляция

$\rho _{XY}(m)=E[(X_{n}-\mu _{X})\,(Y_{n+m}-\mu _{Y})]/(\sigma _{X}\sigma _{Y}).$

Если Y — та же переменная, что и X , приведенные выше выражения называются автоковариацией и автокорреляцией :

автоковариация

$\sigma _{XX}(m)=E[(X_{n}-\mu _{X})\,(X_{n+m}-\mu _{X})],$

автокорреляция

$\rho _{XX}(m)=E[(X_{n}-\mu _{X})\,(X_{n+m}-\mu _{X})]/(\sigma _{X}^{2}).$