Коэффициент ранговой корреляции Кендалла

«Тау-а» перенаправляется сюда. Чтобы узнать об астрономическом радиоисточнике, см Taurus A. .

«Коэффициент Тау» перенаправляется сюда. Не путать с распределением Тау .

В статистике коэффициент ранговой корреляции Кендалла , обычно называемый коэффициентом Кендалла τ (от греческой буквы τ , тау), представляет собой статистику, используемую для измерения порядковой связи между двумя измеряемыми величинами. Тест τ — это непараметрический тест гипотезы на статистическую зависимость, основанный на коэффициенте τ. Это мера ранговой корреляции : сходство порядка данных при ранжировании по каждой из величин. Он назван в честь Мориса Кендалла , разработавшего его в 1938 году. хотя Густав Фехнер предложил аналогичную меру в контексте временных рядов в 1897 году.

Интуитивно понятно, что корреляция Кендалла между двумя переменными будет высокой, когда наблюдения имеют одинаковый (или идентичный при корреляции 1) ранг (т. е. метку относительного положения наблюдений внутри переменной: 1-е, 2-е, 3-е и т. д.) между двумя переменные и низкий, когда наблюдения имеют разный (или полностью разный для корреляции -1) ранг между двумя переменными.

Оба Кендалла $\tau$ и Спирмена $\rho$могут быть сформулированы как частные случаи более общего коэффициента корреляции . Его понятия согласия и несоответствия также появляются в других областях статистики, например, индекс Рэнда в кластерном анализе .

Определение

Все точки в серой области согласуются, а все точки в белой области несогласны относительно точки. $(X_{1},Y_{1})$. С $n=30$ точек, всего ${\binom {30}{2}}=435$возможные пары точек. В этом примере имеется 395 пар согласованных точек и 40 пар несогласованных точек, что приводит к коэффициенту ранговой корреляции Кендалла, равному 0,816.

Позволять $(x_{1},y_{1}),...,(x_{n},y_{n})$ быть набором наблюдений совместных случайных величин X и Y , таких, что все значения ( $x_{i}$) и ( $y_{i}$) уникальны (связями пренебрегаем для простоты). Любая пара наблюдений $(x_{i},y_{i})$ и $(x_{j},y_{j})$, где $i<j$, называются согласованными, если порядок сортировки $(x_{i},x_{j})$ и $(y_{i},y_{j})$ согласен: то есть, если либо оба $x_{i}>x_{j}$ и $y_{i}>y_{j}$ держится или и то, и другое $x_{i}<x_{j}$ и $y_{i}<y_{j}$; в противном случае о них говорят, что они несогласны .

Коэффициент Кендалла τ определяется как:

$\tau ={\frac {({\text{number of concordant pairs}})-({\text{number of discordant pairs}})}{({\text{number of pairs}})}}=1-{\frac {2({\text{number of discordant pairs}})}{n \choose 2}}.$

где ${n \choose 2}={n(n-1) \over 2}$ — биномиальный коэффициент количества способов выбрать два предмета из n предметов.

Число несогласных пар равно числу инверсий , которые переставляют y-последовательность в тот же порядок, что и x-последовательность.

Свойства

Знаменатель — это общее количество парных комбинаций, поэтому коэффициент должен находиться в диапазоне −1 ≤ τ ≤ 1.

• Если согласие между двумя рейтингами идеальное (т. е. два рейтинга одинаковы), коэффициент имеет значение 1.
• Если расхождение между двумя рейтингами абсолютное (т. е. один рейтинг является обратным другому), коэффициент имеет значение -1.
• Если X и Y — независимые случайные величины , а не постоянные, то математическое ожидание коэффициента равно нулю.
• Явное выражение для рангового коэффициента Кендалла: $\tau ={\frac {2}{n(n-1)}}\sum _{i<j}\operatorname {sgn}(x_{i}-x_{j})\operatorname {sgn}(y_{i}-y_{j})$.

Проверка гипотезы

Ранговый коэффициент Кендалла часто используется в качестве тестовой статистики при проверке статистических гипотез, чтобы установить, можно ли считать две переменные статистически зависимыми. Этот тест является непараметрическим , поскольку он не основан на каких-либо предположениях о распределениях X или Y или распределении ( X , Y ).

При нулевой гипотезе независимости X и Y выборочное распределение τ , имеет ожидаемое значение равное нулю. Точное распределение нельзя охарактеризовать с точки зрения обычных распределений, но его можно точно рассчитать для небольших выборок; для более крупных выборок обычно используется приближение к нормальному распределению со средним нулем и дисперсией ${\textstyle 2(2n+5)/9n(n-1)}$.

Теорема. Если выборки независимы, то ${\textstyle \mathbb {V} [\tau _{A}]=2(2n+5)/9n(n-1)}$.

показывать

Доказательство

Proof
Valz & McLeod (1990; 1995)

WLOG, we reorder the data pairs, so that ${\textstyle x_{1}<x_{2}<\cdots <x_{n}}$. By assumption of independence, the order of ${\textstyle y_{1},...,y_{n}}$ is a permutation sampled uniformly at random from ${\textstyle S_{n}}$, the permutation group on ${\textstyle 1:n}$.

For each permutation, its unique ${\textstyle l}$ inversion code is ${\textstyle l_{0}l_{1}\cdots l_{n-1}}$ such that each ${\textstyle l_{i}}$ is in the range ${\textstyle 0:i}$. Sampling a permutation uniformly is equivalent to sampling a ${\textstyle l}$-inversion code uniformly, which is equivalent to sampling each ${\textstyle l_{i}}$ uniformly and independently.

Then we have

$${\begin{aligned}E[\tau _{A}^{2}]&=E\left[\left(1-{\frac {4\sum _{i}l_{i}}{n(n-1)}}\right)^{2}\right]\\&=1-{\frac {8}{n(n-1)}}\sum _{i}E[l_{i}]+{\frac {16}{n^{2}(n-1)^{2}}}\sum _{ij}E[l_{i}l_{j}]\\&=1-{\frac {8}{n(n-1)}}\sum _{i}E[l_{i}]+{\frac {16}{n^{2}(n-1)^{2}}}\left(\sum _{ij}E[l_{i}]E[l_{j}]+\sum _{i}V[l_{i}]\right)\\&=1-{\frac {8}{n(n-1)}}\sum _{i}E[l_{i}]+{\frac {16}{n^{2}(n-1)^{2}}}\sum _{ij}E[l_{i}]E[l_{j}]+{\frac {16}{n^{2}(n-1)^{2}}}\left(\sum _{i}V[l_{i}]\right)\\&=\left(1-{\frac {4\sum _{i}E[l_{i}]}{n(n-1)}}\right)^{2}+{\frac {16}{n^{2}(n-1)^{2}}}\left(\sum _{i}V[l_{i}]\right)\end{aligned}}$$

The first term is just ${\textstyle E[\tau _{A}]^{2}=0}$. The second term can be calculated by noting that ${\textstyle l_{i}}$ is a uniform random variable on ${\textstyle 0:i}$, so ${\textstyle E[l_{i}]={\frac {i}{2}}}$ and ${\textstyle E[l_{i}^{2}]={\frac {0^{2}+\cdots +i^{2}}{i+1}}={\frac {i(2i+1)}{6}}}$, then using the sum of squares formula again.

Асимптотическая . нормальность ${\textstyle n\to \infty }$ предел, ${\textstyle z_{A}={\frac {\tau _{A}}{\sqrt {Var[\tau _{A}]}}}={n_{C}-n_{D} \over {\sqrt {n(n-1)(2n+5)/18}}}}$ сходится по распределению к стандартному нормальному распределению.

Доказательство

Используйте результат из класса статистики с асимптотически нормальным распределением Hoeffding (1948).

Случай

Если ${\textstyle (x_{1},y_{1}),(x_{2},y_{2}),...,(x_{n},y_{n})}$ представляют собой выборки IID из одного и того же совместно нормального распределения с известным коэффициентом корреляции Пирсона ${\textstyle r}$, то математическое ожидание ранговой корреляции Кендалла имеет формулу замкнутого вида.

Равенство Грейнера — Если ${\textstyle X,Y}$ в целом нормальны, с корреляцией ${\textstyle r}$, затем

$$r=\sin {\left({\frac {\pi }{2}}E[\tau _{A}]\right)}$$

Имя приписывается Ричарду Грейнеру (1909). ПАП Моран .

показывать

Доказательство

Proof

Define the following quantities.

• ${\textstyle A^{+}:=\{(\Delta x,\Delta y):\Delta x\Delta y>0\}}$
• ${\textstyle \Delta _{i,j}:=(x_{i}-x_{j},y_{i}-y_{j})}$ is a point in ${\textstyle \mathbb {R} ^{2}}$.

In the notation, we see that the number of concordant pairs, ${\textstyle n_{C}}$, is equal to the number of ${\textstyle \Delta _{i,j}}$ that fall in the subset ${\textstyle A^{+}}$. That is, ${\textstyle n_{C}=\sum _{1\leq i<j\leq n}1_{\Delta _{i,j}\in A^{+}}}$.

Thus,

$$E[\tau _{A}]={\frac {4}{n(n-1)}}E[n_{C}]-1={\frac {4}{n(n-1)}}\sum _{1\leq i<j\leq n}Pr(\Delta _{i,j}\in A^{+})-1$$

Since each ${\textstyle (x_{i},y_{i})}$ is an IID sample of the jointly normal distribution, the pairing does not matter, so each term in the summation is exactly the same, and so

$$E[\tau _{A}]=2Pr(\Delta _{1,2}\in A^{+})-1$$

and it remains to calculate the probability. We perform this by repeated affine transforms.

First normalize ${\textstyle X,Y}$ by subtracting the mean and dividing the standard deviation. This does not change ${\textstyle \tau _{A}}$. This gives us

$${\begin{bmatrix}x\\y\end{bmatrix}}={\begin{bmatrix}1&r\\r&1\end{bmatrix}}^{1/2}{\begin{bmatrix}z\\w\end{bmatrix}}$$

where ${\textstyle (Z,W)}$ is sampled from the standard normal distribution on ${\textstyle \mathbb {R} ^{2}}$.

Thus,

$$\Delta _{1,2}={\sqrt {2}}{\begin{bmatrix}1&r\\r&1\end{bmatrix}}^{1/2}{\begin{bmatrix}(z_{1}-z_{2})/{\sqrt {2}}\\(w_{1}-w_{2})/{\sqrt {2}}\end{bmatrix}}$$

where the vector ${\textstyle {\begin{bmatrix}(z_{1}-z_{2})/{\sqrt {2}}\\(w_{1}-w_{2})/{\sqrt {2}}\end{bmatrix}}}$ is still distributed as the standard normal distribution on ${\textstyle \mathbb {R} ^{2}}$. It remains to perform some unenlightening tedious matrix exponentiations and trigonometry, which can be skipped over.

Thus, ${\textstyle \Delta _{1,2}\in A^{+}}$ iff

$${\begin{bmatrix}(z_{1}-z_{2})/{\sqrt {2}}\\(w_{1}-w_{2})/{\sqrt {2}}\end{bmatrix}}\in {\frac {1}{\sqrt {2}}}{\begin{bmatrix}1&r\\r&1\end{bmatrix}}^{-1/2}A^{+}={\frac {1}{2{\sqrt {2}}}}{\begin{bmatrix}{\frac {1}{\sqrt {1+r}}}+{\frac {1}{\sqrt {1-r}}}&{\frac {1}{\sqrt {1+r}}}-{\frac {1}{\sqrt {1-r}}}\\{\frac {1}{\sqrt {1+r}}}-{\frac {1}{\sqrt {1-r}}}&{\frac {1}{\sqrt {1+r}}}+{\frac {1}{\sqrt {1-r}}}\end{bmatrix}}A^{+}$$

where the subset on the right is a “squashed” version of two quadrants. Since the standard normal distribution is rotationally symmetric, we need only calculate the angle spanned by each squashed quadrant.

The first quadrant is the sector bounded by the two rays ${\textstyle (1,0),(0,1)}$. It is transformed to the sector bounded by the two rays ${\textstyle ({\frac {1}{\sqrt {1+r}}}+{\frac {1}{\sqrt {1-r}}},{\frac {1}{\sqrt {1+r}}}-{\frac {1}{\sqrt {1-r}}})}$ and ${\textstyle ({\frac {1}{\sqrt {1+r}}}-{\frac {1}{\sqrt {1-r}}},{\frac {1}{\sqrt {1+r}}}+{\frac {1}{\sqrt {1-r}}})}$. They respectively make angle ${\textstyle \theta }$ with the horizontal and vertical axis, where

$$\theta =\arctan {\frac {{\frac {1}{\sqrt {1+r}}}-{\frac {1}{\sqrt {1-r}}}}{{\frac {1}{\sqrt {1+r}}}+{\frac {1}{\sqrt {1-r}}}}}$$

Together, the two transformed quadrants span an angle of ${\textstyle \pi +4\theta }$, so

$$Pr(\Delta _{1,2}\in A^{+})={\frac {\pi +4\theta }{2\pi }}$$

and therefore

$$\sin {\left({\frac {\pi }{2}}E[\tau _{A}]\right)}=\sin(2\theta )=r$$

Учет связей

Пара $\{(x_{i},y_{i}),(x_{j},y_{j})\}$ называется связанным тогда и только тогда, когда $x_{i}=x_{j}$ или $y_{i}=y_{j}$; связанная пара не является ни согласованной, ни несогласной. Когда в данных возникают связанные пары, коэффициент можно изменить несколькими способами, чтобы сохранить его в диапазоне [-1, 1]:

Тау-а

Статистика Тау-а проверяет силу связи перекрестных таблиц . Обе переменные должны быть порядковыми . Тау-а не будет делать никаких поправок на ничьи. Он определяется как:

$\tau _{A}={\frac {n_{c}-n_{d}}{n_{0}}}$

где n _c , nd _. и n ₀ определены, как в следующем разделе

Тау-б

Статистика Тау-б, в отличие от Тау-а, вносит поправки на связи. Значения Tau-b варьируются от -1 (100% отрицательная ассоциация или полная инверсия) до +1 (100% положительная ассоциация или полное согласие). Нулевое значение указывает на отсутствие ассоциации.

Коэффициент Кендалла Тау-b определяется как:

$\tau _{B}={\frac {n_{c}-n_{d}}{\sqrt {(n_{0}-n_{1})(n_{0}-n_{2})}}}$

где

${\begin{aligned}n_{0}&=n(n-1)/2\\n_{1}&=\sum _{i}t_{i}(t_{i}-1)/2\\n_{2}&=\sum _{j}u_{j}(u_{j}-1)/2\\n_{c}&={\text{Number of concordant pairs}}\\n_{d}&={\text{Number of discordant pairs}}\\t_{i}&={\text{Number of tied values in the }}i^{\text{th}}{\text{ group of ties for the first quantity}}\\u_{j}&={\text{Number of tied values in the }}j^{\text{th}}{\text{ group of ties for the second quantity}}\end{aligned}}$

Простой алгоритм, разработанный на BASIC, вычисляет коэффициент Тау-b, используя альтернативную формулу.

Имейте в виду, что некоторые статистические пакеты, например SPSS, используют альтернативные формулы для повышения эффективности вычислений с удвоенным «обычным» количеством согласующихся и несогласованных пар.

Тау-с

Тау-c (также называемый Стюарт-Кендалл Тау-c) более подходит, чем Tau-b, для анализа данных на основе неквадратных (т.е. прямоугольных) таблиц сопряженности . Поэтому используйте Tau-b, если базовая шкала обеих переменных имеет одинаковое количество возможных значений (до ранжирования), и Tau-c, если они различаются. Например, одна переменная может быть оценена по 5-балльной шкале (очень хорошо, хорошо, средне, плохо, очень плохо), тогда как другая может быть основана на более тонкой 10-балльной шкале.

Коэффициент Кендалла Тау-c определяется как:

$\tau _{C}={\frac {2(n_{c}-n_{d})}{n^{2}{\frac {(m-1)}{m}}}}=\tau _{A}{\frac {n-1}{n}}{\frac {m}{m-1}}$

где

${\begin{aligned}n_{c}&={\text{Number of concordant pairs}}\\n_{d}&={\text{Number of discordant pairs}}\\r&={\text{Number of rows}}\\c&={\text{Number of columns}}\\m&=\min(r,c)\end{aligned}}$

Тесты значимости

Когда две величины статистически зависимы, распределение $\tau$нелегко охарактеризовать в терминах известных распределений. Однако для $\tau _{A}$ следующая статистика, $z_{A}$, приблизительно распределяется как стандартное нормальное распределение, когда переменные статистически независимы:

$z_{A}={n_{c}-n_{d} \over {\sqrt {{\frac {1}{18}}v_{0}}}}$

где $v_{0}=n(n-1)(2n+5)$.

Таким образом, чтобы проверить, являются ли две переменные статистически зависимыми, вычисляется $z_{A}$и находит кумулятивную вероятность для стандартного нормального распределения при $-|z_{A}|$. Для двустороннего теста умножьте это число на два, чтобы получить значение p . Если значение p ниже заданного уровня значимости, отвергается нулевая гипотеза (на этом уровне значимости) о том, что величины статистически независимы.

Необходимо внести многочисленные корректировки $z_{A}$при учете связей. Следующая статистика, $z_{B}$, имеет то же распределение, что и $\tau _{B}$ распределение и снова примерно равно стандартному нормальному распределению, когда величины статистически независимы:

$z_{B}={n_{c}-n_{d} \over {\sqrt {v}}}$

где

${\begin{array}{ccl}v&=&{\frac {1}{18}}v_{0}-(v_{t}+v_{u})/18+(v_{1}+v_{2})\\v_{0}&=&n(n-1)(2n+5)\\v_{t}&=&\sum _{i}t_{i}(t_{i}-1)(2t_{i}+5)\\v_{u}&=&\sum _{j}u_{j}(u_{j}-1)(2u_{j}+5)\\v_{1}&=&\sum _{i}t_{i}(t_{i}-1)\sum _{j}u_{j}(u_{j}-1)/(2n(n-1))\\v_{2}&=&\sum _{i}t_{i}(t_{i}-1)(t_{i}-2)\sum _{j}u_{j}(u_{j}-1)(u_{j}-2)/(9n(n-1)(n-2))\end{array}}$

Иногда его называют тестом Манна-Кендалла.

Алгоритмы

Прямое вычисление числителя $n_{c}-n_{d}$, включает две вложенные итерации, что характеризуется следующим псевдокодом:

число := 0 
  для  i := 2..N  сделать 
     для  j := 1..(i − 1)  сделать 
          число:= число + знак(x[i] − x[j]) × знак(y[i] − y[j]) 
  возвращаемый  номер 
 

Хотя этот алгоритм быстр в реализации, он $O(n^{2})$по сложности и становится очень медленным на больших выборках. Более сложный алгоритм построенный на алгоритме сортировки слиянием, может использоваться для вычисления числителя в $O(n\cdot \log {n})$ время.

Начните с сортировки точек данных по первому количеству, $x$, и во вторую очередь (среди связей в $x$) по второй величине, $y$. При таком первоначальном заказе $y$ не сортируется, и ядро ​​алгоритма состоит в вычислении того, сколько шагов пузырьковой сортировке для сортировки этого начального потребуется $y$. Усовершенствованный алгоритм сортировки слиянием , включающий $O(n\log n)$ сложности, может применяться для вычисления количества свопов, $S(y)$, это потребуется для пузырьковой сортировки $y_{i}$. Тогда числитель для $\tau$ рассчитывается как:

$n_{c}-n_{d}=n_{0}-n_{1}-n_{2}+n_{3}-2S(y),$

где $n_{3}$ вычисляется как $n_{1}$ и $n_{2}$, но что касается совместных связей в $x$ и $y$.

Сортировка слиянием разделяет данные, подлежащие сортировке, $y$ на две примерно равные половины, $y_{\mathrm {left} }$ и $y_{\mathrm {right} }$, затем сортирует каждую полурекурсивно, а затем объединяет две отсортированные половины в полностью отсортированный вектор. Количество свопов пузырьковой сортировки равно:

$S(y)=S(y_{\mathrm {left} })+S(y_{\mathrm {right} })+M(Y_{\mathrm {left} },Y_{\mathrm {right} })$

где $Y_{\mathrm {left} }$ и $Y_{\mathrm {right} }$ это отсортированные версии $y_{\mathrm {left} }$ и $y_{\mathrm {right} }$, и $M(\cdot ,\cdot )$ характеризует эквивалент замены пузырьковой сортировки для операции слияния. $M(\cdot ,\cdot )$ вычисляется, как показано в следующем псевдокоде:

функция  M(L[1..n], R[1..m])  есть 
      я := 1 
      j := 1 
      нСвапс := 0 
      в то время как  i ≤ n  и  j ≤ m  , 
         если  R[j] < L[i]  , то 
              nSwaps := nSwaps + n - i + 1 
              j := j + 1 
          еще 
              я := я + 1 
      вернуть  nSwaps 
 

Побочным эффектом вышеперечисленных шагов является то, что вы получите отсортированную версию $x$ и отсортированная версия $y$. При этом факторы $t_{i}$ и $u_{j}$ используется для вычисления $\tau _{B}$ легко получить за один проход через отсортированные массивы за линейное время.

Программные реализации

• R реализует тест на $\tau _{B}$ cor.test(x, y, method = "kendall") в пакете "stats" (также cor(x, y, method = "kendall")будет работать, но последний не возвращает значение p). Все три версии коэффициента доступны в пакете «DescTools» вместе с доверительными интервалами: KendallTauA(x,y,conf.level=0.95) для $\tau _{A}$, KendallTauB(x,y,conf.level=0.95) для $\tau _{B}$, StuartTauC(x,y,conf.level=0.95) для $\tau _{C}$.
• Для Python библиотека SciPy реализует вычисление $\tau _{B}$ в scipy.stats.kendalltau

См. также

• Корреляция
• Расстояние Кендалла Тау
• Кендаллс W
• Коэффициент ранговой корреляции Спирмена
• Гамма Гудмана и Краскала
• Оценщик Тейла – Сена
• U-критерий Манна-Уитни - он эквивалентен тау-коэффициенту корреляции Кендалла, если одна из переменных является двоичной.

Дальнейшее чтение

• Абди, Х. (2007). «Ранговая корреляция Кендалла» (PDF) . В Салкинде, штат Нью-Джерси (ред.). Энциклопедия измерений и статистики . Таузенд-Оукс (Калифорния): Сейдж.
• Дэниел, Уэйн В. (1990). «Тау Кендалла» . Прикладная непараметрическая статистика (2-е изд.). Бостон: PWS-Кент. стр. 365–377. ISBN  978-0-534-91976-4 .
• Кендалл, Морис; Гиббонс, Джин Дикинсон (1990) [Впервые опубликовано в 1948 году]. Методы ранговой корреляции . Серия книг Чарльза Гриффина (5-е изд.). Оксфорд: Издательство Оксфордского университета. ISBN  978-0195208375 .
• Бонетт, Дуглас Г.; Райт, Томас А. (2000). «Требования к размеру выборки для оценки корреляций Пирсона, Кендалла и Спирмена». Психометрика . 65 (1): 23–28. дои : 10.1007/BF02294183 . S2CID   120558581 .

Внешние ссылки

• Расчет связанного ранга
• Программное обеспечение для расчета тау Кендалла на очень больших наборах данных
• Онлайн-программа: вычисляет ранговую корреляцию тау Кендалла