Корреляция

Эта статья о корреляции и зависимости в статистических данных. Чтобы узнать о других значениях, см. Корреляция (значения) .

Несколько наборов точек ( x , y ) с коэффициентом корреляции Пирсона x и y для каждого набора. Корреляция отражает зашумленность и направление линейной зависимости (верхний ряд), но не наклон этой зависимости (средний) и многие аспекты нелинейных связей (нижний). Примечание: фигура в центре имеет наклон 0, но в этом случае коэффициент корреляции не определен, поскольку дисперсия Y равна нулю.

В статистике причинно - корреляция или зависимость — это любая статистическая связь, следственная или нет, между двумя случайными величинами или двумерными данными . Хотя в самом широком смысле «корреляция» может указывать на любой тип связи, в статистике она обычно относится к степени линейной связи пары переменных. Знакомые примеры зависимых явлений включают корреляцию между ростом родителей и их потомства, а также корреляцию между ценой товара и количеством, которое потребители готовы купить, как это изображено на так называемой кривой спроса .

Корреляции полезны, потому что они могут указывать на прогностическую взаимосвязь, которую можно использовать на практике. Например, электроэнергетическая компания может производить меньше электроэнергии в мягкий день в зависимости от корреляции между спросом на электроэнергию и погодой. В этом примере существует причинно-следственная связь , поскольку экстремальные погодные условия заставляют людей использовать больше электроэнергии для отопления или охлаждения. Однако, как правило, наличия корреляции недостаточно для вывода о наличии причинно-следственной связи (т. е. корреляция не подразумевает причинно-следственную связь ).

Формально случайные величины являются зависимыми , если они не удовлетворяют математическому свойству вероятностной независимости . На неформальном языке корреляция является синонимом зависимости . Однако в техническом смысле корреляция относится к любому из нескольких конкретных типов математических отношений между условным ожиданием одной переменной при условии, что другая не является постоянной при изменении обусловливающей переменной ; В широком смысле корреляция в этом конкретном смысле используется, когда $E(Y|X=x)$ связано с $x$ каким-то образом (например, линейно, монотонно или, возможно, в соответствии с какой-то конкретной функциональной формой, например логарифмической). По сути, корреляция — это мера того, как две или более переменных связаны друг с другом. Существует несколько коэффициентов корреляции , часто обозначаемых $\rho$ или $r$, измеряя степень корреляции. Наиболее распространенным из них является коэффициент корреляции Пирсона , который чувствителен только к линейной зависимости между двумя переменными (которая может присутствовать, даже если одна переменная является нелинейной функцией другой). Другие коэффициенты корреляции, такие как ранговая корреляция Спирмена , были разработаны как более надежные, чем коэффициент Пирсона, то есть более чувствительные к нелинейным взаимосвязям. Взаимная информация также может применяться для измерения зависимости между двумя переменными.

Коэффициент момента произведения Пирсона

Основная статья: Коэффициент корреляции момента произведения Пирсона

Примеры диаграмм рассеяния различных наборов данных с различными коэффициентами корреляции

Наиболее известной мерой зависимости между двумя величинами является коэффициент корреляции момента произведения Пирсона (PPMCC), или «коэффициент корреляции Пирсона», обычно называемый просто «коэффициентом корреляции». Он получается путем взятия отношения ковариации двух рассматриваемых переменных нашего набора числовых данных, нормализованного на квадратный корень их дисперсий. просто делят Математически ковариацию двух переменных на произведение их стандартных отклонений . Карл Пирсон разработал этот коэффициент на основе аналогичной, но несколько иной идеи Фрэнсиса Гальтона .

Коэффициент корреляции момента продукта Пирсона пытается установить линию наилучшего соответствия для набора данных из двух переменных, по сути, распределяя ожидаемые значения, а результирующий коэффициент корреляции Пирсона показывает, насколько далеко фактический набор данных находится от ожидаемых значений. В зависимости от знака нашего коэффициента корреляции Пирсона мы можем получить либо отрицательную, либо положительную корреляцию, если между переменными нашего набора данных существует какая-либо связь.

Коэффициент корреляции населения $\rho _{X,Y}$ между двумя случайными величинами $X$ и $Y$ с ожидаемыми значениями $\mu _{X}$ и $\mu _{Y}$ и стандартные отклонения $\sigma _{X}$ и $\sigma _{Y}$ определяется как:

$$\rho _{X,Y}=\operatorname {corr} (X,Y)={\operatorname {cov} (X,Y) \over \sigma _{X}\sigma _{Y}}={\operatorname {E} [(X-\mu _{X})(Y-\mu _{Y})] \over \sigma _{X}\sigma _{Y}},\quad {\text{if}}\ \sigma _{X}\sigma _{Y}>0.$$

где $\operatorname {E}$ — оператор ожидаемого значения , $\operatorname {cov}$ означает ковариацию , и $\operatorname {corr}$ — широко используемое альтернативное обозначение коэффициента корреляции. Корреляция Пирсона определяется только в том случае, если оба стандартных отклонения конечны и положительны. Альтернативная формула, выраженная исключительно в моментах :

$$\rho _{X,Y}={\operatorname {E} (XY)-\operatorname {E} (X)\operatorname {E} (Y) \over {\sqrt {\operatorname {E} (X^{2})-\operatorname {E} (X)^{2}}}\cdot {\sqrt {\operatorname {E} (Y^{2})-\operatorname {E} (Y)^{2}}}}$$

Корреляция и независимость

Следствием неравенства Коши – Шварца является то, что абсолютное значение коэффициента корреляции Пирсона не превышает 1. Следовательно, значение коэффициента корреляции колеблется от -1 до +1. Коэффициент корреляции равен +1 в случае идеальной прямой (возрастающей) линейной зависимости (корреляции), −1 в случае идеальной обратной (убывающей) линейной зависимости ( антикорреляции ), и некоторое значение в открытом интервале $(-1,1)$ во всех остальных случаях с указанием степени линейной зависимости между переменными. По мере приближения к нулю взаимосвязь становится меньше (ближе к некоррелированной). Чем ближе коэффициент к -1 или 1, тем сильнее корреляция между переменными.

Если переменные независимы , коэффициент корреляции Пирсона равен 0. Однако, поскольку коэффициент корреляции обнаруживает только линейные зависимости между двумя переменными, обратное не обязательно верно. Коэффициент корреляции, равный 0, не означает, что переменные независимы. .

$${\begin{aligned}X,Y{\text{ independent}}\quad &\Rightarrow \quad \rho _{X,Y}=0\quad (X,Y{\text{ uncorrelated}})\\\rho _{X,Y}=0\quad (X,Y{\text{ uncorrelated}})\quad &\nRightarrow \quad X,Y{\text{ independent}}\end{aligned}}$$

Например, предположим, что случайная величина $X$ симметрично распределено около нуля, а $Y=X^{2}$. Затем $Y$ полностью определяется $X$, так что $X$ и $Y$ совершенно зависимы, но их корреляция равна нулю; они некоррелированы . Однако в частном случае, когда $X$ и $Y$ совместно нормальны , некоррелированность эквивалентна независимости.

Несмотря на то, что некоррелированные данные не обязательно подразумевают независимость, можно проверить, являются ли случайные величины независимыми, если их взаимная информация равна 0.

Выборочный коэффициент корреляции

Учитывая ряд $n$ замеры пары $(X_{i},Y_{i})$ индексируется $i=1,\ldots ,n$Коэффициент выборочной корреляции можно использовать для оценки генеральной корреляции Пирсона. $\rho _{X,Y}$ между $X$ и $Y$. Выборочный коэффициент корреляции определяется как

$r_{xy}\quad {\overset {\underset {\mathrm {def} }{}}{=}}\quad {\frac {\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{(n-1)s_{x}s_{y}}}={\frac {\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sqrt {\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})^{2}\sum \limits _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}}},$

где ${\overline {x}}$ и ${\overline {y}}$ образцами средств являются $X$ и $Y$, и $s_{x}$ и $s_{y}$ – это скорректированные выборочные стандартные отклонения $X$ и $Y$.

Эквивалентные выражения для $r_{xy}$ являются

${\begin{aligned}r_{xy}&={\frac {\sum x_{i}y_{i}-n{\bar {x}}{\bar {y}}}{ns'_{x}s'_{y}}}\\[5pt]&={\frac {n\sum x_{i}y_{i}-\sum x_{i}\sum y_{i}}{{\sqrt {n\sum x_{i}^{2}-(\sum x_{i})^{2}}}~{\sqrt {n\sum y_{i}^{2}-(\sum y_{i})^{2}}}}}.\end{aligned}}$

где $s'_{x}$ и $s'_{y}$ являются неисправленными выборочными стандартными отклонениями $X$ и $Y$.

Если $x$ и $y$ являются результатами измерений, которые содержат ошибку измерения, реалистичные пределы коэффициента корреляции составляют не от -1 до +1, а меньший диапазон. Для случая линейной модели с одной независимой переменной коэффициент детерминации (R в квадрате) представляет собой квадрат $r_{xy}$, Коэффициент момента произведения Пирсона.

Пример

Рассмотрим совместное распределение вероятностей X приведенное и Y, в таблице ниже.

$\mathrm {P} (X=x,Y=y)$

и х	−1	0	1
0	0	⁠ 1 / 3 ⁠	0
1	⁠ 1 / 3 ⁠	0	⁠ 1 / 3 ⁠

Для этого совместного распределения предельные распределения таковы:

$\mathrm {P} (X=x)={\begin{cases}{\frac {1}{3}}&\quad {\text{for }}x=0\\{\frac {2}{3}}&\quad {\text{for }}x=1\end{cases}}$

$\mathrm {P} (Y=y)={\begin{cases}{\frac {1}{3}}&\quad {\text{for }}y=-1\\{\frac {1}{3}}&\quad {\text{for }}y=0\\{\frac {1}{3}}&\quad {\text{for }}y=1\end{cases}}$

Это дает следующие ожидания и отклонения:

$\mu _{X}={\frac {2}{3}}$

$\mu _{Y}=0$

$\sigma _{X}^{2}={\frac {2}{9}}$

$\sigma _{Y}^{2}={\frac {2}{3}}$

Поэтому:

${\begin{aligned}\rho _{X,Y}&={\frac {1}{\sigma _{X}\sigma _{Y}}}\mathrm {E} [(X-\mu _{X})(Y-\mu _{Y})]\\[5pt]&={\frac {1}{\sigma _{X}\sigma _{Y}}}\sum _{x,y}{(x-\mu _{X})(y-\mu _{Y})\mathrm {P} (X=x,Y=y)}\\[5pt]&={\frac {3{\sqrt {3}}}{2}}\left(\left(1-{\frac {2}{3}}\right)(-1-0){\frac {1}{3}}+\left(0-{\frac {2}{3}}\right)(0-0){\frac {1}{3}}+\left(1-{\frac {2}{3}}\right)(1-0){\frac {1}{3}}\right)=0.\end{aligned}}$

Коэффициенты ранговой корреляции

Основные статьи: коэффициент ранговой корреляции Спирмена и коэффициент ранговой корреляции тау Кендалла

Коэффициенты ранговой корреляции , такие как коэффициент ранговой корреляции Спирмена и коэффициент ранговой корреляции Кендалла (τ), измеряют степень, в которой по мере увеличения одной переменной другая переменная имеет тенденцию к увеличению, не требуя, чтобы это увеличение было представлено линейной зависимостью. Если при увеличении одной переменной другая уменьшается , коэффициенты ранговой корреляции будут отрицательными. Эти коэффициенты ранговой корреляции принято рассматривать как альтернативу коэффициенту Пирсона, используемую либо для уменьшения объема вычислений, либо для того, чтобы сделать коэффициент менее чувствительным к ненормальности в распределениях. Однако у этой точки зрения мало математической основы, поскольку коэффициенты ранговой корреляции измеряют другой тип отношений, чем коэффициент корреляции момента произведения Пирсона , и их лучше всего рассматривать как меры другого типа связи, а не как альтернативную меру генеральной совокупности. коэффициент корреляции.

Чтобы проиллюстрировать природу ранговой корреляции и ее отличие от линейной корреляции, рассмотрим следующие четыре пары чисел. $(x,y)$:

(0, 1), (10, 100), (101, 500), (102, 2000).

Когда мы переходим от каждой пары к следующей паре $x$ увеличивается, а вместе с ним и $y$. Эта связь идеальна в том смысле, что увеличение $x$ всегда сопровождается увеличением $y$. Это означает, что у нас идеальная ранговая корреляция, и коэффициенты корреляции Спирмена и Кендалла равны 1, тогда как в этом примере коэффициент корреляции продукта-момента Пирсона равен 0,7544, что указывает на то, что точки далеки от прямой линии. Таким же образом, если $y$ всегда уменьшается, когда $x$ увеличивается , коэффициенты ранговой корреляции будут равны -1, в то время как коэффициент корреляции момента произведения Пирсона может быть близок или не близок к -1, в зависимости от того, насколько близко точки расположены к прямой линии. Хотя в крайних случаях идеальной ранговой корреляции оба коэффициента равны (оба +1 или оба -1), обычно это не так, и поэтому значения двух коэффициентов не могут сравниваться осмысленно. Например, для трёх пар (1, 1) (2, 3) (3, 2) коэффициент Спирмена равен 1/2, а коэффициент Кендалла — 1/3.

Другие меры зависимости между случайными величинами

См. Также: Коэффициент корреляции момента произведения Пирсона § Варианты

Информации, которую дает коэффициент корреляции, недостаточно для определения структуры зависимости между случайными величинами. Коэффициент корреляции полностью определяет структуру зависимости только в очень частных случаях, например, когда распределение представляет собой многомерное нормальное распределение . (См. диаграмму выше.) В случае эллиптических распределений оно характеризует (гипер-)эллипсы равной плотности; однако оно не полностью характеризует структуру зависимости (например, степени свободы многомерного t-распределения определяют уровень хвостовой зависимости).

Корреляция расстояний был введен для устранения недостатка корреляции Пирсона, заключающегося в том, что она может быть равна нулю для зависимых случайных величин; корреляция с нулевым расстоянием подразумевает независимость.

Коэффициент рандомизированной зависимости является вычислительно эффективной копулах мерой зависимости между многомерными случайными величинами, основанной на . RDC инвариантен по отношению к нелинейному масштабированию случайных величин, способен обнаруживать широкий спектр шаблонов функциональных ассоциаций и принимает нулевое значение при независимости.

Для двух двоичных переменных измеряет отношение шансов их зависимость и принимает неотрицательные числа в диапазоне, возможно, бесконечность: ⁠ $[0,+\infty ]$⁠ . Связанные статистические данные, такие как Юла Y и Юла, Q нормализуют это до диапазона, подобного корреляции ⁠ $[-1,1]$⁠ . Отношение шансов обобщается логистической моделью для моделирования случаев, когда зависимые переменные дискретны и может существовать одна или несколько независимых переменных.

Коэффициент корреляции , энтропии на основе взаимная информация , полная корреляция , двойная полная корреляция и полихорическая корреляция также способны обнаруживать более общие зависимости, как и рассмотрение связки между ними, в то время как коэффициент детерминации обобщает коэффициент корреляции до множественной регрессии. .

Чувствительность к распределению данных

Дополнительная информация: Коэффициент корреляции момента произведения Пирсона § Чувствительность к распределению данных.

Степень зависимости между переменными X и Y не зависит от масштаба, в котором выражены переменные. То есть, если мы анализируем взаимосвязь между X и Y , на большинство показателей корреляции не влияет преобразование X в a + bX и Y в c + dY , где a , b , c и d — константы ( b и d являются положительными ). Это справедливо как для некоторых корреляционных статистических данных , так и для их популяционных аналогов. Некоторые статистические данные корреляции, такие как коэффициент ранговой корреляции, также инвариантны к монотонным преобразованиям маргинальных распределений X и/или Y .

Пирсона / Спирмена Коэффициенты корреляции между X и Y показаны, когда диапазоны двух переменных неограничены, а также когда диапазон X ограничен интервалом (0,1).

Большинство показателей корреляции чувствительны к способу X и Y. выборки Зависимости имеют тенденцию быть более сильными, если рассматривать их в более широком диапазоне значений. Таким образом, если мы рассмотрим коэффициент корреляции между ростом отцов и их сыновей для всех взрослых мужчин и сравним его с тем же коэффициентом корреляции, рассчитанным, когда отцы выбраны с ростом от 165 см до 170 см, корреляция будет равна в последнем случае слабее. Было разработано несколько методов, пытающихся исправить ограничение диапазона одной или обеих переменных, и они обычно используются в метаанализе; наиболее распространенными являются уравнения Торндайка для случая II и случая III.

Различные используемые меры корреляции могут быть неопределенными для некоторых совместных X и Y. распределений Например, коэффициент корреляции Пирсона определяется в терминах моментов и, следовательно, будет неопределенным, если моменты не определены. меры зависимости, основанные на квантилях Всегда определяются . Статистика на основе выборки, предназначенная для оценки показателей зависимости населения, может иметь или не иметь желаемые статистические свойства, такие как несмещенность или асимптотическая согласованность , в зависимости от пространственной структуры совокупности, из которой были отобраны данные.

Чувствительность к распределению данных может быть использована с выгодой. Например, масштабированная корреляция предназначена для использования чувствительности к диапазону для выявления корреляций между быстрыми компонентами временного ряда . Путем контролируемого сокращения диапазона значений корреляции в долгосрочном масштабе отфильтровываются и выявляются только корреляции в коротких временных масштабах.

Матрицы корреляции

Корреляционная матрица $n$ случайные величины $X_{1},\ldots ,X_{n}$ это $n\times n$ матрица $C$ чей $(i,j)$ запись

$c_{ij}:=\operatorname {corr} (X_{i},X_{j})={\frac {\operatorname {cov} (X_{i},X_{j})}{\sigma _{X_{i}}\sigma _{X_{j}}}},\quad {\text{if}}\ \sigma _{X_{i}}\sigma _{X_{j}}>0.$

Таким образом, все диагональные элементы тождественно едины . Если используемыми мерами корреляции являются коэффициенты момента произведения, матрица корреляции такая же, как ковариационная матрица стандартизированных случайных величин. $X_{i}/\sigma (X_{i})$ для $i=1,\dots ,n$. Это относится как к матрице корреляций населения (в этом случае $\sigma$ — стандартное отклонение генеральной совокупности), а также к матрице выборочных корреляций (в этом случае $\sigma$ обозначает выборочное стандартное отклонение). Следовательно, каждая из них обязательно является положительно-полуопределенной матрицей . Более того, корреляционная матрица является строго положительно определенной , если ни одна переменная не может иметь все свои значения, точно сгенерированные как линейная функция значений других.

Корреляционная матрица симметрична, поскольку корреляция между $X_{i}$ и $X_{j}$ то же самое, что и корреляция между $X_{j}$ и $X_{i}$.

Корреляционная матрица появляется, например, в одной формуле для коэффициента множественной детерминации , меры согласия в множественной регрессии .

В статистическом моделировании корреляционные матрицы, представляющие взаимосвязи между переменными, подразделяются на различные корреляционные структуры, которые различаются такими факторами, как количество параметров, необходимых для их оценки. Например, в сменной корреляционной матрице все пары переменных моделируются как имеющие одинаковую корреляцию, поэтому все недиагональные элементы матрицы равны друг другу. С другой стороны, авторегрессионная матрица часто используется, когда переменные представляют временной ряд, поскольку корреляции, вероятно, будут выше, когда измерения ближе по времени. Другие примеры включают независимый, неструктурированный, M-зависимый и Теплиц .

При исследовательском анализе данных иконография корреляций состоит в замене корреляционной матрицы диаграммой, где «замечательные» корреляции представлены сплошной линией (положительная корреляция) или пунктирной линией (отрицательная корреляция).

Ближайшая действительная корреляционная матрица

В некоторых приложениях (например, при построении моделей данных только на основе частично наблюдаемых данных) требуется найти «ближайшую» корреляционную матрицу к «приблизительной» корреляционной матрице (например, матрице, которая обычно не имеет полуопределенной положительности из-за того, как она имеет было вычислено).

В 2002 году Хайэм формализовал понятие близости с помощью нормы Фробениуса и предоставил метод вычисления ближайшей корреляционной матрицы с использованием алгоритма проекции Дикстры , реализация которого доступна в виде онлайн-веб-API.

Это вызвало интерес к предмету с появлением новой теории (например, вычисление ближайшей корреляционной матрицы с факторной структурой). ) и числовые (например, использование метода Ньютона для вычисления ближайшей корреляционной матрицы ) результаты, полученные в последующие годы.

Некоррелированность и независимость случайных процессов

Аналогично для двух случайных процессов $\left\{X_{t}\right\}_{t\in {\mathcal {T}}}$ и $\left\{Y_{t}\right\}_{t\in {\mathcal {T}}}$: Если они независимы, то они некоррелированы. Противоположное этому утверждению может быть неверным. Даже если две переменные некоррелированы, они могут не быть независимыми друг от друга.

Распространенные заблуждения

Корреляция и причинность

Основная статья: Корреляция не подразумевает причинно-следственную связь

См. Также: Нормально распределенные и некоррелированные не подразумевают независимость.

Традиционное утверждение о том, что « корреляция не подразумевает причинно-следственную связь », означает, что корреляция сама по себе не может использоваться для вывода о причинно-следственной связи между переменными. Это изречение не следует понимать в том смысле, что корреляции не могут указывать на потенциальное существование причинных связей. Однако причины, лежащие в основе корреляции, если таковые имеются, могут быть косвенными и неизвестными, а высокие корреляции также перекрываются тождественными отношениями ( тавтологиями ), где причинного процесса не существует. Следовательно, корреляция между двумя переменными не является достаточным условием для установления причинно-следственной связи (в любом направлении).

Причинно-следственная связь между возрастом и ростом у детей довольно прозрачна, а вот корреляция между настроением и здоровьем у людей менее очевидна. Приводит ли улучшение настроения к улучшению здоровья, или хорошее здоровье приводит к хорошему настроению, или и то, и другое? Или в основе обоих лежит какой-то другой фактор? Другими словами, корреляция может рассматриваться как свидетельство возможной причинно-следственной связи, но не может указывать на то, какой может быть причинно-следственная связь, если таковая имеется.

Простые линейные корреляции

Квартет Анскомба : четыре набора данных с одинаковой корреляцией 0,816.

Коэффициент корреляции Пирсона указывает на силу линейной связи между двумя переменными, но его значение, как правило, не полностью характеризует их взаимосвязь. В частности, если условное среднее $Y$ данный $X$, обозначенный $\operatorname {E} (Y\mid X)$, не является линейным по $X$, коэффициент корреляции не будет полностью определять вид $\operatorname {E} (Y\mid X)$.

На соседнем изображении показаны диаграммы рассеяния квартета Анскомба — набора из четырех различных пар переменных, созданных Фрэнсисом Анскомбом . Четверо $y$ переменные имеют одинаковое среднее значение (7,5), дисперсию (4,12), корреляцию (0,816) и линию регрессии ( ${\textstyle y=3+0.5x}$). Однако, как видно на графиках, распределение переменных сильно различается. Первый из них (вверху слева), по-видимому, распределяется нормально и соответствует тому, что можно было бы ожидать, рассматривая две коррелированные переменные и следуя предположению о нормальности. Второй (справа вверху) не распространяется нормально; хотя можно наблюдать очевидную связь между двумя переменными, она не является линейной. В этом случае коэффициент корреляции Пирсона не указывает на наличие точной функциональной зависимости: только степень, в которой эта связь может быть аппроксимирована линейной зависимостью. В третьем случае (внизу слева) линейная зависимость идеальна, за исключением одного выброса , который оказывает достаточное влияние, чтобы снизить коэффициент корреляции с 1 до 0,816. Наконец, четвертый пример (внизу справа) показывает еще один пример, когда одного выброса достаточно для получения высокого коэффициента корреляции, даже несмотря на то, что связь между двумя переменными не является линейной.

Эти примеры показывают, что коэффициент корреляции как сводная статистика не может заменить визуальный анализ данных. Иногда говорят, что эти примеры демонстрируют, что корреляция Пирсона предполагает, что данные подчиняются нормальному распределению , но это верно лишь частично. Корреляцию Пирсона можно точно рассчитать для любого распределения, имеющего конечную ковариационную матрицу , которая включает в себя большинство распределений, встречающихся на практике. Однако коэффициент корреляции Пирсона (вместе с выборочным средним и дисперсией) является достаточной статистикой только в том случае, если данные получены из многомерного нормального распределения . В результате коэффициент корреляции Пирсона полностью характеризует связь между переменными тогда и только тогда, когда данные взяты из многомерного нормального распределения.

Двумерное нормальное распределение

Если пара $\ (X,Y)\$ случайных величин следует двумерному нормальному распределению , условное среднее $\operatorname {\boldsymbol {\mathcal {E}}} (X\mid Y)$ является линейной функцией $Y$, и условное среднее $\operatorname {\boldsymbol {\mathcal {E}}} (Y\mid X)$ является линейной функцией $\ X~.$ Коэффициент корреляции $\ \rho _{X,Y}\$ между $\ X\$ и $\ Y\ ,$ а также предельные средние и дисперсии $\ X\$ и $\ Y\$ определите эту линейную зависимость:

$\operatorname {\boldsymbol {\mathcal {E}}} (Y\mid X)=\operatorname {\boldsymbol {\mathcal {E}}} (Y)+\rho _{X,Y}\cdot \sigma _{Y}\cdot {\frac {\ X-\operatorname {\boldsymbol {\mathcal {E}}} (X)\ }{\sigma _{X}}}\ ,$

где $\operatorname {\boldsymbol {\mathcal {E}}} (X)$ и $\operatorname {\boldsymbol {\mathcal {E}}} (Y)$ ожидаемые значения $\ X\$ и $\ Y\ ,$ соответственно, и $\ \sigma _{X}\$ и $\ \sigma _{Y}\$ являются стандартными отклонениями $\ X\$ и $\ Y\ ,$ соответственно.

Эмпирическая корреляция $r$ представляет собой оценку коэффициента корреляции $\ \rho ~.$ Оценка распределения $\ \rho \$ дается

$$\pi (\rho \mid r)={\frac {\ \Gamma (N)\ }{\ {\sqrt {2\pi \ }}\cdot \Gamma (N-{\tfrac {\ 1\ }{2}})\ }}\cdot {\bigl (}1-r^{2}{\bigr )}^{\frac {\ N\ -2\ }{2}}\cdot {\bigl (}1-\rho ^{2}{\bigr )}^{\frac {\ N-3\ }{2}}\cdot {\bigl (}1-r\rho {\bigr )}^{-N+{\frac {\ 3\ }{2}}}\cdot F_{\mathsf {Hyp}}\left(\ {\tfrac {\ 3\ }{2}},-{\tfrac {\ 1\ }{2}};N-{\tfrac {\ 1\ }{2}};{\frac {\ 1+r\rho \ }{2}}\ \right)\$$

где $\ F_{\mathsf {Hyp}}\$ — гипергеометрическая функция Гаусса .

Эта плотность является одновременно байесовской апостериорной плотностью и точной оптимальной плотностью доверительного распределения .

См. также

Дополнительная информация: Корреляция (значения)

• Автокорреляция
• Каноническая корреляция
• Коэффициент детерминации
• Коинтеграция
• Коэффициент согласованности корреляции
• Кофенетическая корреляция
• Ослабление корреляции
• Корреляционная функция
• Корреляционный разрыв
• Ковариация
• Ковариация и корреляция
• Взаимная корреляция
• Экологическая корреляция
• Доля дисперсии необъяснима
• Генетическая корреляция
• Лямбда Гудмана и Краскала
• Иконография корреляций
• Иллюзорная корреляция
• Межклассовая корреляция
• Внутриклассовая корреляция
• Лифт (интеллектуальный анализ данных)
• Средняя зависимость
• Проблема с модифицируемой единицей площади
• Множественная корреляция
• Коэффициент точечно-бисерийной корреляции
• Соотношение количества квадрантов
• Ложная корреляция
• Статистическое корреляционное соотношение
• Субнезависимость

Дальнейшее чтение

• Коэн, Дж.; Коэн П.; Уэст, С.Г. и Эйкен, Л.С. (2002). Прикладной множественный регрессионно-корреляционный анализ для поведенческих наук (3-е изд.). Психология Пресс. ISBN  978-0-8058-2223-6 .
• «Корреляция (в статистике)» , Математическая энциклопедия , EMS Press , 2001 [1994]
• Острайхер, Дж. и Д.Р. (26 февраля 2015 г.). «Чума равных»: научный триллер о международных заболеваниях, политике и открытии лекарств . Калифорния: Omega Cat Press. п. 408. ИСБН  978-0963175540 .

Внешние ссылки

• Страница MathWorld, посвященная коэффициентам (взаимной) корреляции выборки
• Вычислите значимость между двумя корреляциями для сравнения двух значений корреляции.
• «Пакет инструментов MATLAB для расчета взвешенных коэффициентов корреляции» . Архивировано из оригинала 24 апреля 2021 года.
• Доказательство того, что выборочная двумерная корреляция имеет пределы плюс или минус 1.
• Интерактивное Flash-моделирование корреляции двух нормально распределенных переменных Юхи Пуранена.
• Корреляционный анализ. Биомедицинская статистика
• R-Психолог Корреляционная визуализация корреляции между двумя числовыми переменными