Коэффициент корреляции

В статистике коэффициент корреляции является мерой криволинейной зависимости между статистической дисперсией внутри отдельных категорий и дисперсией по всей совокупности или выборке. Мера определяется как соотношение двух стандартных отклонений, представляющих эти типы вариаций. Контекст здесь тот же, что и у коэффициента внутриклассовой корреляции , значением которого является квадрат коэффициента корреляции.

Определение

Предположим, что каждое наблюдение — это y _xi , где x указывает категорию, в которой находится наблюдение, а i — метку конкретного наблюдения. Пусть n _x — количество наблюдений в категории x и

${\overline {y}}_{x}={\frac {\sum _{i}y_{xi}}{n_{x}}}$ и ${\overline {y}}={\frac {\sum _{x}n_{x}{\overline {y}}_{x}}{\sum _{x}n_{x}}},$

где ${\overline {y}}_{x}$ среднее значение категории x и ${\overline {y}}$является средним значением всей популяции. Корреляционное отношение η ( eta ) определяется как удовлетворяющее

$\eta ^{2}={\frac {\sum _{x}n_{x}({\overline {y}}_{x}-{\overline {y}})^{2}}{\sum _{x,i}(y_{xi}-{\overline {y}})^{2}}}$

который можно записать как

$\eta ^{2}={\frac {{\sigma _{\overline {y}}}^{2}}{{\sigma _{y}}^{2}}},{\text{ where }}{\sigma _{\overline {y}}}^{2}={\frac {\sum _{x}n_{x}({\overline {y}}_{x}-{\overline {y}})^{2}}{\sum _{x}n_{x}}}{\text{ and }}{\sigma _{y}}^{2}={\frac {\sum _{x,i}(y_{xi}-{\overline {y}})^{2}}{n}},$

т.е. взвешенная дисперсия категории означает деление дисперсии всех выборок.

Если связь между значениями $x$ и ценности ${\overline {y}}_{x}$является линейным (что, безусловно, верно, когда есть только две возможности для x Пирсона ), это даст тот же результат, что и квадрат коэффициента корреляции ; в противном случае коэффициент корреляции будет больше по величине. Поэтому его можно использовать для оценки нелинейных отношений.

Диапазон

Коэффициент корреляции $\eta$ принимает значения от 0 до 1. Предел $\eta =0$ представляет собой особый случай отсутствия дисперсии среди средств различных категорий, в то время как $\eta =1$ означает отсутствие дисперсии внутри соответствующих категорий. $\eta$ не определено, когда все точки данных всей совокупности принимают одно и то же значение.

Пример

Предположим, имеется распределение результатов тестов по трем темам (категориям):

• Алгебра: 45, 70, 29, 15 и 21 (5 баллов)
• Геометрия: 40, 20, 30 и 42 (4 балла).
• Статистика: 65, 95, 80, 70, 85 и 73 (6 очков).

Тогда средние значения испытуемых составляют 36, 33 и 78, а общий средний балл — 52.

Суммы квадратов различий от средних показателей по предмету составляют 1952 по алгебре, 308 по геометрии и 600 по статистике, что в сумме составляет 2860. Общая сумма квадратов различий от общего среднего значения составляет 9640. Разница в 6780 между ними равна также взвешенная сумма квадратов различий между средними показателями субъектов и общим средним показателем:

$5(36-52)^{2}+4(33-52)^{2}+6(78-52)^{2}=6780.$

Это дает

$\eta ^{2}={\frac {6780}{9640}}=0.7033\ldots$

предполагая, что большая часть общей дисперсии является результатом различий между темами, а не внутри тем. Извлечение квадратного корня дает

$\eta ={\sqrt {\frac {6780}{9640}}}=0.8386\ldots .$

Для $\eta =1$Общая дисперсия выборки обусловлена ​​исключительно дисперсией между категориями, а вовсе не дисперсией внутри отдельных категорий. Для быстрого понимания просто представьте, что все оценки по алгебре, геометрии и статистике одинаковы соответственно, например, 5 раз по 36, 4 раза по 33, 6 раз по 78.

Лимит $\eta =0$относится к случаю отсутствия дисперсии среди категорий, вносящих вклад в общую дисперсию. Тривиальное требование для этой крайности состоит в том, чтобы все средние категории были одинаковыми.

Пирсон против Фишера

Коэффициент корреляции был введен Карлом Пирсоном как часть дисперсионного анализа . Рональд Фишер прокомментировал:

«В качестве описательной статистики полезность коэффициента корреляции крайне ограничена. Следует отметить, что число степеней свободы в числителе $\eta ^{2}$ зависит от количества массивов"

на что Эгон Пирсон (сын Карла) ответил, сказав

«Опять же, давно устоявшийся метод, такой как использование коэффициента корреляции [§45 «Коэффициент корреляции» η] обходит в нескольких словах без адекватного описания, что, возможно, вряд ли справедливо по отношению к студенту, которому не предоставляется возможность самому судить о его масштабах».