Критерий хи-квадрат Пирсона

Критерий хи-квадрат Пирсона или критерий Пирсона $\chi ^{2}$ Тест — это статистический тест, применяемый к наборам категориальных данных для оценки вероятности того, что любое наблюдаемое различие между наборами возникло случайно. Это наиболее широко используемый из многих тестов хи-квадрат (например, Йейтса , отношения правдоподобия , критерия-портманто во временных рядах и т. д.) – статистических процедур, результаты которых оцениваются по отношению к распределению хи-квадрат . Его свойства были впервые исследованы Карлом Пирсоном в 1900 году. ^[1] В контекстах, где важно улучшить различие между статистикой теста названия, подобные критерию или статистике Пирсона χ-квадрат и ее распределением, используются .

Это тест на значение p . Настройка следующая: ^[2]^[3]

Перед опытом экспериментатор фиксирует определенное число $N$ образцов, которые нужно взять.
данные Наблюдаемые $(O_{1},O_{2},...,O_{n})$ , количество образцов из конечного набора заданных категорий. Они удовлетворяют $\sum _{i}O_{i}=N$ .
Нулевая гипотеза состоит в том, что числа отсчетов выбираются из полиномиального распределения. $\mathrm {Multinomial} (N;p_{1},...,p_{n})$ . То есть базовые данные выбираются IID из категориального распределения. $\mathrm {Categorical} (p_{1},...,p_{n})$ по данным категориям.
хи-квадрат Пирсона Статистика критерия определяется как $\chi ^{2}:=\sum _{i}{\frac {(O_{i}-Np_{i})^{2}}{Np_{i}}}$ . Значение p тестовой статистики вычисляется либо численно, либо путем поиска в таблице.
Если значение p достаточно мало (обычно p <0,05 по соглашению), то нулевая гипотеза отклоняется, и мы приходим к выводу, что наблюдаемые данные не соответствуют полиномиальному распределению.

Простой пример — проверка гипотезы о том, что обычные шестигранные игральные кости «честны» (т. е. все шесть исходов имеют одинаковую вероятность). В этом случае наблюдаемые данные $(O_{1},O_{2},...,O_{6})$ , количество раз, когда на кубике выпало каждое число. Нулевая гипотеза – это $\mathrm {Multinomial} (N;1/6,...,1/6)$ , и $\chi ^{2}:=\sum _{i=1}^{6}{\frac {(O_{i}-N/6)^{2}}{N/6}}$ . Как подробно описано ниже, если $\chi ^{2}>11.07$ , то честность игры в кости можно отвергнуть на уровне $p<0.05$ .

Использование

Критерий хи-квадрат Пирсона используется для оценки трех типов сравнения: степени соответствия , однородности и независимости .

Проверка согласия устанавливает, отличается ли наблюдаемое распределение частот от теоретического распределения.
Тест на однородность сравнивает распределение подсчетов для двух или более групп с использованием одной и той же категориальной переменной (например, выбор деятельности (колледж, военная служба, трудоустройство, путешествия) выпускников средней школы, зарегистрированных через год после окончания школы, отсортированных по году выпуска, чтобы увидеть, изменилось ли количество выпускников, выбравших тот или иной вид деятельности, от класса к классу или от десятилетия к десятилетию). ^[4]
Тест на независимость оценивает, являются ли наблюдения, состоящие из показателей двух переменных, выраженных в таблице сопряженности , независимыми друг от друга (например, опрос ответов людей разных национальностей, чтобы увидеть, связана ли национальность с ответом).

Для всех трех тестов вычислительная процедура включает следующие этапы:

теста хи-квадрат Рассчитайте статистику , $\chi ^{2}$ , которая напоминает нормализованную сумму квадратов отклонений между наблюдаемыми и теоретическими частотами (см. ниже).
Определите свободы степени df этой статистики.
1. Для проверки согласия df = Cats − Params , где Cats — это количество категорий наблюдений, распознаваемых моделью, а Params — это количество параметров в модели, скорректированных так, чтобы модель лучше всего соответствовала наблюдениям: количество категорий уменьшено на количество подобранных параметров в распределении.
2. Для проверки однородности df = (Rows - 1)×(Cols - 1) , где Rows соответствует количеству категорий (т. е. строк в связанной таблице сопряженности), а Cols соответствует количеству независимых групп (т. е. столбцов в соответствующей таблице непредвиденных обстоятельств). ^[4]
3. Для проверки независимости df = (Rows - 1)×(Cols - 1) , где в этом случае Rows соответствует количеству категорий в одной переменной, а Cols соответствует количеству категорий во второй переменной. ^[4]
Выберите желаемый уровень достоверности ( уровень значимости , p значение или соответствующий альфа-уровень ) для результата теста.
Сравнивать $\chi ^{2}$ критическому значению из распределения хи-квадрат со степенями свободы df и выбранным уровнем достоверности (односторонним, поскольку тест проводится только в одном направлении, т.е. больше ли тестируемое значение критического значения?), что во многих случаев дает хорошее приближение распределения $\chi ^{2}$ .
Подтвердить или отвергнуть нулевую гипотезу о том, что наблюдаемое распределение частот совпадает с теоретическим распределением, основанным на том, превышает ли статистика теста критическое значение $\chi ^{2}$ . Если статистика теста превышает критическое значение $\chi ^{2}$ , нулевая гипотеза ( $H_{0}$ = нет ) можно отбросить, а альтернативную гипотезу ( разницы между распределениями $H_{1}$ = между распределениями имеется разница) могут быть приняты как с выбранным уровнем достоверности. Если статистика теста падает ниже порога $\chi ^{2}$ значение, то невозможно прийти к четкому выводу и нулевая гипотеза подтверждается (мы не можем отвергнуть нулевую гипотезу), хотя и не обязательно принимается.

Проверка соответствия распределения

Дискретное равномерное распределение

В этом случае $N$ наблюдения делятся между $n$ клетки. Простое применение — проверить гипотезу о том, что в общей популяции значения будут встречаться в каждой ячейке с одинаковой частотой. Таким образом , «теоретическая частота» для любой ячейки (при нулевой гипотезе дискретного равномерного распределения ) рассчитывается как

E_{i}={\frac {N}{n}}\,,

и уменьшение степеней свободы $p=1$ , условно потому, что наблюдаемые частоты $O_{i}$ ограничены суммой до $N$ .

Одним из конкретных примеров его применения может быть применение для теста лог-ранга.

Другие дистрибутивы

При проверке того, являются ли наблюдения случайными величинами, распределение которых принадлежит заданному семейству распределений, «теоретические частоты» рассчитываются с использованием распределения из этого семейства, подобранного некоторым стандартным способом. Уменьшение степеней свободы рассчитывается как $p=s+1$ , где $s$ — количество параметров, используемых при подборе распределения. Например, при проверке трехпараметрического обобщенного гамма-распределения : $p=4$ и при проверке нормального распределения (где параметрами являются среднее значение и стандартное отклонение), $p=3$ и при проверке распределения Пуассона (где параметром является ожидаемое значение), $p=2$ . Таким образом, будет $n-p$ степени свободы, где $n$ это количество категорий.

Степени свободы не основаны на количестве наблюдений, как в случае Стьюдента t-распределения или F-распределения . Например, при проверке честного шестигранного кубика будет пять степеней свободы, поскольку имеется шесть категорий или параметров (каждое число); количество бросков кубика не влияет на количество степеней свободы.

Расчет тестовой статистики

Значение тестовой статистики

\chi ^{2}=\sum _{i=1}^{n}{\frac {(O_{i}-E_{i})^{2}}{E_{i}}}=N\sum _{i=1}^{n}{\frac {\left(O_{i}/N-p_{i}\right)^{2}}{p_{i}}}

где

$\chi ^{2}$ = Кумулятивная критерийная статистика Пирсона, которая асимптотически приближается к $\chi ^{2}$ распределение .
$O_{i}$ = количество наблюдений типа i .
$N$ = общее количество наблюдений
$E_{i}=Np_{i}$ = ожидаемое (теоретическое) число типов i , утверждаемое нулевой гипотезой о том, что доля типа i в популяции равна $p_{i}$
$n$ = количество ячеек в таблице.

Затем статистику хи-квадрат можно использовать для расчета значения p путем сравнения значения статистики с распределением хи-квадрат . Число степеней свободы равно количеству ячеек $n$ , минус уменьшение степеней свободы, $p$ .

Статистика хи-квадрат также может быть рассчитана как

\chi ^{2}=\sum _{i=1}^{n}{\frac {O_{i}^{2}}{E_{i}}}-N.

Этот результат является следствием биномиальной теоремы.

Результат о количестве степеней свободы действителен, когда исходные данные являются полиномиальными и, следовательно, оцененные параметры эффективны для минимизации статистики хи-квадрат. Однако в более общем плане, когда оценка максимального правдоподобия не совпадает с минимальной оценкой хи-квадрат, распределение будет лежать где-то между распределением хи-квадрат с $n-1-p$ и $n-1$ степеней свободы (см., например, Чернов и Леманн, 1954).

Тест хи-квадрат указывает на статистически значимую связь между уровнем законченного образования и посещением плановых осмотров (хи2(3) = 14,6090, р = 0,002). Пропорции показывают, что по мере повышения уровня образования увеличивается и доля людей, посещающих плановые осмотры. В частности, лица, окончившие колледж или университет, чаще посещают плановые осмотры (31,52%) по сравнению с теми, кто не окончил среднюю школу (8,44%). Этот вывод может свидетельствовать о том, что более высокий уровень образования связан с большей вероятностью участия в поведении, способствующем укреплению здоровья, например, регулярных осмотрах.

Байесовский метод

В байесовской статистике вместо этого можно было бы использовать распределение Дирихле в качестве сопряженного априора . Если взять равномерный априор, то оценка максимального правдоподобия для вероятности совокупности является наблюдаемой вероятностью, и можно вычислить достоверную область вокруг той или иной оценки.

Тестирование на статистическую независимость

В этом случае «наблюдение» состоит из значений двух результатов, а нулевая гипотеза заключается в том, что возникновение этих результатов статистически независимо . Каждое наблюдение распределяется по одной ячейке двумерного массива ячеек (называемого таблицей сопряженности ) в соответствии со значениями двух результатов. Если в таблице r строк и c столбцов, «теоретическая частота» ячейки с учетом гипотезы независимости равна

E_{i,j}=Np_{i\cdot }p_{\cdot j},

где $N$ — общий размер выборки (сумма всех ячеек таблицы), а

p_{i\cdot }={\frac {O_{i\cdot }}{N}}=\sum _{j=1}^{c}{\frac {O_{i,j}}{N}},

- это доля наблюдений типа i, игнорирующих атрибут столбца (доля итогов строк), и

p_{\cdot j}={\frac {O_{\cdot j}}{N}}=\sum _{i=1}^{r}{\frac {O_{i,j}}{N}}

— доля наблюдений типа j, игнорирующих атрибут строки (доля итогов столбцов). Термин « частоты » относится к абсолютным числам, а не к уже нормализованным значениям.

Значение тестовой статистики

\chi ^{2}=\sum _{i=1}^{r}\sum _{j=1}^{c}{(O_{i,j}-E_{i,j})^{2} \over E_{i,j}}

\ \ \ \ =N\sum _{i,j}p_{i\cdot }p_{\cdot j}\left({\frac {(O_{i,j}/N)-p_{i\cdot }p_{\cdot j}}{p_{i\cdot }p_{\cdot j}}}\right)^{2}

Обратите внимание, что $\chi ^{2}$ равен 0 тогда и только тогда, когда $O_{i,j}=E_{i,j}\forall i,j$ , т.е. только если ожидаемое и истинное количество наблюдений одинаково во всех ячейках.

Подбор модели «независимости» уменьшает количество степеней свободы на p = r + c − 1. Число степеней свободы равно количеству ячеек rc минус уменьшение степеней свободы p , что уменьшает к ( г - 1)( с - 1).

Для теста независимости, также известного как тест на однородность, вероятность хи-квадрат, меньшая или равная 0,05 (или статистика хи-квадрат, находящаяся в критической точке 0,05 или превышающая ее), обычно интерпретируется прикладными работниками как обоснование отклонения нулевой гипотезы о том, что переменная строки не зависит от переменной столбца. ^[6]Альтернативная гипотеза соответствует переменным, имеющим ассоциацию или связь, структура которой не указана.

Предположения

Критерий хи-квадрат при использовании со стандартным приближением, согласно которому применимо распределение хи-квадрат, имеет следующие допущения: ^[7]

Простая случайная выборка: Данные выборки представляют собой случайную выборку из фиксированного распределения или совокупности, где каждая совокупность членов совокупности заданного размера выборки имеет равную вероятность отбора. Варианты теста были разработаны для сложных выборок, например, когда данные взвешиваются. Могут использоваться и другие формы, такие как целенаправленная выборка . ^[8]
Размер выборки (вся таблица): Предполагается выборка достаточно большого размера. Если тест хи-квадрат проводится на выборке меньшего размера, то тест хи-квадрат даст неверный вывод. Исследователь, использующий критерий хи-квадрат на небольших выборках, может в конечном итоге совершить ошибку второго рода . Для небольших размеров выборки предпочтительным является тест Кэша . ^[9]^[10]
Ожидаемое количество клеток: Адекватное ожидаемое количество клеток. Некоторым требуется 5 и более, а другим — 10 и более. Общее правило — 5 или более во всех ячейках таблицы 2х2 и 5 или более в 80% ячеек в более крупных таблицах, но нет ячеек с нулевым ожидаемым количеством. Если это предположение не выполняется, поправка Йейтса . применяется
Независимость: Всегда предполагается, что наблюдения независимы друг от друга. Это означает, что хи-квадрат нельзя использовать для проверки коррелированных данных (например, совпадающих пар или панельных данных). В таких случаях тест Макнемара . более подходящим может оказаться

Тест, основанный на различных предположениях, — это точный тест Фишера ; если его предположение о фиксированных маргинальных распределениях выполняется, то получение уровня значимости становится значительно более точным, особенно при небольшом количестве наблюдений. В подавляющем большинстве приложений это предположение не будет выполнено, а точный критерий Фишера будет слишком консервативным и не будет иметь правильного покрытия. ^[11]

Вывод

Вывод с использованием центральной предельной теоремы

The null distribution of the Pearson statistic with j rows and k columns is approximated by the chi-squared distribution with(k − 1)(j − 1) degrees of freedom.^[12]

This approximation arises as the true distribution, under the null hypothesis, if the expected value is given by a multinomial distribution. For large sample sizes, the central limit theorem says this distribution tends toward a certain multivariate normal distribution.

Two cells

In the special case where there are only two cells in the table, the expected values follow a binomial distribution,

O\ \sim \ {\mbox{Bin}}(n,p),\,

where

p = probability, under the null hypothesis,

n = number of observations in the sample.

In the above example the hypothesised probability of a male observation is 0.5, with 100 samples. Thus we expect to observe 50 males.

If n is sufficiently large, the above binomial distribution may be approximated by a Gaussian (normal) distribution and thus the Pearson test statistic approximates a chi-squared distribution,

{\text{Bin}}(n,p)\approx {\text{N}}(np,np(1-p)).\,

Let O₁ be the number of observations from the sample that are in the first cell. The Pearson test statistic can be expressed as

{\frac {(O_{1}-np)^{2}}{np}}+{\frac {(n-O_{1}-n(1-p))^{2}}{n(1-p)}},

which can in turn be expressed as

\left({\frac {O_{1}-np}{\sqrt {np(1-p)}}}\right)^{2}.

By the normal approximation to a binomial this is the squared of one standard normal variate, and hence is distributed as chi-squared with 1 degree of freedom. Note that the denominator is one standard deviation of the Gaussian approximation, so can be written

{\frac {(O_{1}-\mu )^{2}}{\sigma ^{2}}}.

So as consistent with the meaning of the chi-squared distribution, we are measuring how probable the observed number of standard deviations away from the mean is under the Gaussian approximation (which is a good approximation for large n).

The chi-squared distribution is then integrated on the right of the statistic value to obtain the P-value, which is equal to the probability of getting a statistic equal or bigger than the observed one, assuming the null hypothesis.

Two-by-two contingency tables

When the test is applied to a contingency table containing two rows and two columns, the test is equivalent to a Z-test of proportions.^{[citation needed]}

Many cells

Broadly similar arguments as above lead to the desired result, though the details are more involved. One may apply an orthogonal change of variables to turn the limiting summands in the test statistic into one fewer squares of i.i.d. standard normal random variables.^[13]

Let us now prove that the distribution indeed approaches asymptotically the $\chi ^{2}$ distribution as the number of observations approaches infinity.

Let $n$ be the number of observations, $m$ the number of cells and $p_{i}$ the probability of an observation to fall in the i-th cell, for $1\leq i\leq m$ . We denote by $\{k_{i}\}$ the configuration where for each i there are $k_{i}$ observations in the i-th cell. Note that

\sum _{i=1}^{m}k_{i}=n\qquad {\text{and}}\qquad \sum _{i=1}^{m}p_{i}=1.

Let $\chi _{P}^{2}(\{k_{i}\},\{p_{i}\})$ be Pearson's cumulative test statistic for such a configuration, and let $\chi _{P}^{2}(\{p_{i}\})$ be the distribution of this statistic. We will show that the latter probability approaches the $\chi ^{2}$ distribution with $m-1$ degrees of freedom, as $n\to \infty .$

For any arbitrary value T:

P(\chi _{P}^{2}(\{p_{i}\})>T)=\sum _{\{k_{i}\}|\chi _{P}^{2}(\{k_{i}\},\{p_{i}\})>T}{\frac {n!}{k_{1}!\cdots k_{m}!}}\prod _{i=1}^{m}{p_{i}}^{k_{i}}

We will use a procedure similar to the approximation in de Moivre–Laplace theorem. Contributions from small $k_{i}$ are of subleading order in $n$ and thus for large $n$ we may use Stirling's formula for both $n!$ and $k_{i}!$ to get the following:

P(\chi _{P}^{2}(\{p_{i}\})>T)\sim \sum _{\{k_{i}\}|\chi _{P}^{2}(\{k_{i}\},\{p_{i}\})>T}\prod _{i=1}^{m}\left({\frac {np_{i}}{k_{i}}}\right)^{k_{i}}{\sqrt {\frac {2\pi n}{\prod _{i=1}^{m}2\pi k_{i}}}}

By substituting for

x_{i}={\frac {k_{i}-np_{i}}{\sqrt {n}}},\qquad i=1,\cdots ,m-1,

we may approximate for large $n$ the sum over the $k_{i}$ by an integral over the $x_{i}$ . Noting that:

k_{m}=np_{m}-{\sqrt {n}}\sum _{i=1}^{m-1}x_{i},

we arrive at

{\begin{aligned}P(\chi _{P}^{2}(\{p_{i}\})>T)&\sim {\sqrt {\frac {2\pi n}{\prod _{i=1}^{m}2\pi k_{i}}}}\int _{\chi _{P}^{2}(\{{\sqrt {n}}x_{i}+np_{i}\},\{p_{i}\})>T}\left\{\prod _{i=1}^{m-1}{{\sqrt {n}}dx_{i}}\right\}\left\{\prod _{i=1}^{m-1}\left(1+{\frac {x_{i}}{{\sqrt {n}}p_{i}}}\right)^{-(np_{i}+{\sqrt {n}}x_{i})}\left(1-{\frac {\sum _{i=1}^{m-1}{x_{i}}}{{\sqrt {n}}p_{m}}}\right)^{-\left(np_{m}-{\sqrt {n}}\sum _{i=1}^{m-1}x_{i}\right)}\right\}\\&={\sqrt {\frac {2\pi n}{\prod _{i=1}^{m}\left(2\pi np_{i}+2\pi {\sqrt {n}}x_{i}\right)}}}\int _{\chi _{P}^{2}(\{{\sqrt {n}}x_{i}+np_{i}\},\{p_{i}\})>T}\left\{\prod _{i=1}^{m-1}{{\sqrt {n}}dx_{i}}\right\}\times \\&\qquad \qquad \times \left\{\prod _{i=1}^{m-1}\exp \left[-\left(np_{i}+{\sqrt {n}}x_{i}\right)\ln \left(1+{\frac {x_{i}}{{\sqrt {n}}p_{i}}}\right)\right]\exp \left[-\left(np_{m}-{\sqrt {n}}\sum _{i=1}^{m-1}x_{i}\right)\ln \left(1-{\frac {\sum _{i=1}^{m-1}{x_{i}}}{{\sqrt {n}}p_{m}}}\right)\right]\right\}\end{aligned}}

By expanding the logarithm and taking the leading terms in $n$ , we get

P(\chi _{P}^{2}(\{p_{i}\})>T)\sim {\frac {1}{\sqrt {(2\pi )^{m-1}\prod _{i=1}^{m}p_{i}}}}\int _{\chi _{P}^{2}(\{{\sqrt {n}}x_{i}+np_{i}\},\{p_{i}\})>T}\left\{\prod _{i=1}^{m-1}dx_{i}\right\}\prod _{i=1}^{m-1}\exp \left[-{\frac {1}{2}}\sum _{i=1}^{m-1}{\frac {x_{i}^{2}}{p_{i}}}-{\frac {1}{2p_{m}}}\left(\sum _{i=1}^{m-1}{x_{i}}\right)^{2}\right]

Pearson's chi, $\chi _{P}^{2}(\{k_{i}\},\{p_{i}\})=\chi _{P}^{2}(\{{\sqrt {n}}x_{i}+np_{i}\},\{p_{i}\})$ , is precisely the argument of the exponent (except for the -1/2; note that the final term in the exponent's argument is equal to $(k_{m}-np_{m})^{2}/(np_{m})$ ).

This argument can be written as:

-{\frac {1}{2}}\sum _{i,j=1}^{m-1}x_{i}A_{ij}x_{j},\qquad i,j=1,\cdots ,m-1,\quad A_{ij}={\tfrac {\delta _{ij}}{p_{i}}}+{\tfrac {1}{p_{m}}}.

$A$ is a regular symmetric $(m-1)\times (m-1)$ matrix, and hence diagonalizable. It is therefore possible to make a linear change of variables in $\{x_{i}\}$ so as to get $m-1$ new variables $\{y_{i}\}$ so that:

\sum _{i,j=1}^{m-1}x_{i}A_{ij}x_{j}=\sum _{i=1}^{m-1}y_{i}^{2}.

This linear change of variables merely multiplies the integral by a constant Jacobian, so we get:

P(\chi _{P}^{2}(\{p_{i}\})>T)\sim C\int _{\sum _{i=1}^{m-1}y_{i}^{2}>T}\left\{\prod _{i=1}^{m-1}dy_{i}\right\}\prod _{i=1}^{m-1}\exp \left[-{\frac {1}{2}}\left(\sum _{i=1}^{m-1}y_{i}^{2}\right)\right]

Where C is a constant.

This is the probability that squared sum of $m-1$ independent normally distributed variables of zero mean and unit variance will be greater than T, namely that $\chi ^{2}$ with $m-1$ degrees of freedom is larger than T.

We have thus shown that at the limit where $n\to \infty ,$ the distribution of Pearson's chi approaches the chi distribution with $m-1$ degrees of freedom.

Альтернативный вывод находится на странице полиномиального распределения .

Примеры

Справедливость игральных костей

Шестигранный кубик бросают 60 раз. Количество раз, когда на нем выпадут 1, 2, 3, 4, 5 и 6 лицом вверх, равно 5, 8, 9, 8, 10 и 20 соответственно. Является ли кость смещенной согласно критерию хи-квадрат Пирсона при уровне значимости 95% и/или 99%?

Нулевая гипотеза заключается в том, что игральная кость несмещена, поэтому ожидается, что каждое число выпадет одинаковое количество раз, в данном случае: ⁠ 60 / n ⁠ = 10. Результаты можно свести в таблицу следующим образом:

$i$	$O_{i}$	$E_{i}$	$O_{i}-E_{i}$	$(O_{i}-E_{i})^{2}$
1	5	10	−5	25
2	8	10	−2	4
3	9	10	−1	1
4	8	10	−2	4
5	10	10	0	0
6	20	10	10	100
Сумма				134

Затем мы сверяемся с критическими значениями верхней части таблицы распределения хи-квадрат, табличное значение относится к сумме квадратов переменных, каждая из которых разделена на ожидаемые результаты. Для данного примера это означает

${\chi ^{2}}=25/10+4/10+1/10+4/10+0/10+100/10=13.4$

Это экспериментальный результат, маловероятность которого (при честном игральном кубике) мы хотим оценить.

Степени из свобода	Вероятность меньше критического значения
Степени из свобода	0.90	0.95	0.975	0.99	0.999
5	9.236	11.070	12.833	15.086	20.515

Экспериментальная сумма 13,4 находится между критическими значениями значимости или достоверности 97,5% и 99% ( значение p ). В частности, получение 20 бросков по 6, когда ожидание составляет всего 10 таких значений, маловероятно при честном кубике.

Критерий соответствия хи-квадрат

В этом контексте частоты как теоретических, так и эмпирических распределений представляют собой ненормализованные значения, а для теста хи-квадрат общие размеры выборки $N$ обоих этих распределений (суммы всех ячеек соответствующих таблиц сопряженности ) должны быть одинаковыми.

Например, чтобы проверить гипотезу о том, что случайная выборка из 100 человек была взята из популяции, в которой мужчины и женщины имеют одинаковую частоту, наблюдаемое количество мужчин и женщин нужно сравнить с теоретической частотой 50 мужчин и 50 женщин. . Если бы в выборке было 44 мужчины и 56 женщин, то

\chi ^{2}={(44-50)^{2} \over 50}+{(56-50)^{2} \over 50}=1.44.

Если нулевая гипотеза верна (т. е. мужчины и женщины выбираются с равной вероятностью), тестовая статистика будет получена из распределения хи-квадрат с одной степенью свободы (поскольку, если известна частота мужчин, то частота женщин равна определенный).

Анализ распределения хи-квадрат для 1 степени свободы показывает, что вероятность наблюдения этой разницы (или более значительной разницы, чем эта), если мужчины и женщины одинаково многочисленны в популяции, составляет примерно 0,23. Эта вероятность выше, чем общепринятые критерии статистической значимости (0,01 или 0,05), поэтому обычно мы не отвергаем нулевую гипотезу о том, что количество мужчин в популяции такое же, как и количество женщин (т. е. мы будем рассматривать нашу выборку в пределах диапазон того, что мы ожидаем от соотношения мужчин и женщин 50/50.)

Проблемы

Приближение к распределению хи-квадрат не работает, если ожидаемые частоты слишком низки. Обычно это приемлемо, если не более 20% событий имеют ожидаемую частоту ниже 5. При наличии только 1 степени свободы приближение не является надежным, если ожидаемые частоты ниже 10. В этом случае лучшее приближение может быть получено путем уменьшения абсолютного значения каждой разницы между наблюдаемыми и ожидаемыми частотами на 0,5 перед возведением в квадрат; это называется поправкой Йейтса на непрерывность .

В тех случаях, когда ожидаемое значение E оказывается небольшим (что указывает на небольшую базовую популяционную вероятность и/или небольшое количество наблюдений), нормальная аппроксимация полиномиального распределения может оказаться неудачной, и в таких случаях обнаруживается, что оно Более целесообразным будет использовать G-тест , статистику теста, основанную на отношении правдоподобия . Когда общий размер выборки невелик, необходимо использовать соответствующий точный критерий, обычно либо биномиальный критерий , либо, для таблиц сопряженности , точный критерий Фишера . Этот тест использует условное распределение тестовой статистики с учетом предельных итогов и, таким образом, предполагает, что пределы были определены до исследования; альтернативы, такие как тест Бошлоо , которые не делают этого предположения, в равной степени более эффективны .

Можно показать, что $\chi ^{2}$ тест представляет собой приближение низкого порядка $\Psi$ тест. ^[14] Вышеуказанные причины вышеуказанных проблем становятся очевидными при исследовании членов более высокого порядка.

См. также

Номограмма хи-квадрат
V Крамера - мера корреляции для теста хи-квадрат
Степени свободы (статистика)
Отклонение (статистика) , еще один показатель качества соответствия.
Точный тест Фишера
G-тест , тест, приближением к которому является критерий хи-квадрат.
Лексическое соотношение , более ранняя статистика, заменена хи-квадратом
U-тест Манна-Уитни
Медианный тест
Минимальная оценка хи-квадрат
Уменьшенная статистика хи-квадрат

Примечания

^ Пирсон, Карл (1900). «О том критерии, что данная система отклонений от вероятного в случае коррелированной системы переменных такова, что можно разумно предположить, что она возникла в результате случайной выборки» . Философский журнал . Серия 5. 50 (302): 157–175. дои : 10.1080/14786440009463897 .
^ Лукас, Орестис; Чунг, Хо Рюн (2022). «Энтропийная характеристика ограничений моделирования». arXiv : 2206.14105 [ stat.ME ].
^ Лукас, Орестис; Чунг, Хо Рюн (2023). «Тотальный эмпиризм: обучение на данных». arXiv : 2311.08315 [ math.ST ].
^ Jump up to: ^а ^б ^с Дэвид Э. Бок, Пол Ф. Веллеман, Ричард Д. Де Во (2007). «Статистика, моделирование мира», стр. 606–627, Пирсон Аддисон Уэсли, Бостон, ISBN 0-13-187621-X
^ «1.3.6.7.4. Критические значения распределения хи-квадрат» . Проверено 14 октября 2014 г.
^ «Критические значения распределения хи-квадрат» . Электронный справочник NIST/SEMATECH по статистическим методам . Национальный институт стандартов и технологий.
^ Макхью, Мэри (15 июня 2013 г.). «Тест независимости по хи-квадрату» . Биохимия медика . 23 (2): 143–149. дои : 10.11613/BM.2013.018 . ПМК 3900058 . ПМИД 23894860 .
^ См. Филд, Энди. Поиск статистики с помощью SPSS . для предположений о площади Чи.
^ Кэш, В. (1979). «Оценка параметров в астрономии с помощью отношения правдоподобия» . Астрофизический журнал . 228 : 939. Бибкод : 1979ApJ...228..939C . дои : 10.1086/156922 . ISSN 0004-637X .
^ «Наличная статистика и форвардный аппроксимация» . hesperia.gsfc.nasa.gov . Проверено 19 октября 2021 г.
^ «Байесовская формулировка для исследовательского анализа данных и проверки согласия» (PDF) . Международный статистический обзор. п. 375.
^ Статистика по приложениям. MIT OpenCourseWare . Лекция 23 . Теорема Пирсона. Проверено 21 марта 2007 г.
^ Бенаму, Эрик; Мелот, Валентин (2018). «Семь доказательств теста независимости Пирсона по хи-квадрату и его графическая интерпретация» . ССРН (препринт): 5-6. arXiv : 1808.09171 . дои : 10.2139/ssrn.3239829 . S2CID 88524653 . ССНН 3239829 . {{cite journal}}: Для цитирования журнала требуется |journal= ( помощь )
^ Джейнс, ET (2003). Теория вероятностей: логика науки . C. Университетское издательство. п. 298. ИСБН 978-0-521-59271-0 . ( Ссылка на фрагментарное издание за март 1996 года .)

Ссылки

Чернов, Х .; Леманн, Э.Л. (1954). «Использование оценок максимального правдоподобия в $\chi ^{2}$ Тесты на соответствие» . Анналы математической статистики . 25 (3): 579–586. doi : 10.1214/aoms/1177728726 .
Плакетт, Р.Л. (1983). «Карл Пирсон и тест хи-квадрат». Международный статистический обзор . 51 (1). Международный статистический институт (ISI): 59–72. дои : 10.2307/1402731 . JSTOR 1402731 .
Гринвуд, Пенсильвания ; Никулин, М.С. (1996). Руководство по тестированию хи-квадрат . Нью-Йорк: Уайли. ISBN 0-471-55779-Х .

[1] Пирсон, Карл (1900). «О том критерии, что данная система отклонений от вероятного в случае коррелированной системы переменных такова, что можно разумно предположить, что она возникла в результате случайной выборки» . Философский журнал . Серия 5. 50 (302): 157–175. дои : 10.1080/14786440009463897 .

[2] Лукас, Орестис; Чунг, Хо Рюн (2022). «Энтропийная характеристика ограничений моделирования». arXiv : 2206.14105 [ stat.ME ].

[3] Лукас, Орестис; Чунг, Хо Рюн (2023). «Тотальный эмпиризм: обучение на данных». arXiv : 2311.08315 [ math.ST ].

[Bock-4] Jump up to: ^а ^б ^с Дэвид Э. Бок, Пол Ф. Веллеман, Ричард Д. Де Во (2007). «Статистика, моделирование мира», стр. 606–627, Пирсон Аддисон Уэсли, Бостон, ISBN 0-13-187621-X

[5] «1.3.6.7.4. Критические значения распределения хи-квадрат» . Проверено 14 октября 2014 г.

[6] «Критические значения распределения хи-квадрат» . Электронный справочник NIST/SEMATECH по статистическим методам . Национальный институт стандартов и технологий.

[7] Макхью, Мэри (15 июня 2013 г.). «Тест независимости по хи-квадрату» . Биохимия медика . 23 (2): 143–149. дои : 10.11613/BM.2013.018 . ПМК 3900058 . ПМИД 23894860 .

[8] См. Филд, Энди. Поиск статистики с помощью SPSS . для предположений о площади Чи.

[9] Кэш, В. (1979). «Оценка параметров в астрономии с помощью отношения правдоподобия» . Астрофизический журнал . 228 : 939. Бибкод : 1979ApJ...228..939C . дои : 10.1086/156922 . ISSN 0004-637X .

[10] «Наличная статистика и форвардный аппроксимация» . hesperia.gsfc.nasa.gov . Проверено 19 октября 2021 г.

[11] «Байесовская формулировка для исследовательского анализа данных и проверки согласия» (PDF) . Международный статистический обзор. п. 375.

[ocw-12] Статистика по приложениям. MIT OpenCourseWare . Лекция 23 . Теорема Пирсона. Проверено 21 марта 2007 г.

[13] Бенаму, Эрик; Мелот, Валентин (2018). «Семь доказательств теста независимости Пирсона по хи-квадрату и его графическая интерпретация» . ССРН (препринт): 5-6. arXiv : 1808.09171 . дои : 10.2139/ssrn.3239829 . S2CID 88524653 . ССНН 3239829 . {{cite journal}}: Для цитирования журнала требуется |journal= ( помощь )

[14] Джейнс, ET (2003). Теория вероятностей: логика науки . C. Университетское издательство. п. 298. ИСБН 978-0-521-59271-0 . ( Ссылка на фрагментарное издание за март 1996 года .)

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

Верхние критические значения распределения хи-квадрат ^[5]
Degrees of freedom	Probability less than the critical value
Degrees of freedom	0.90	0.95	0.975	0.99	0.999
1	2.706	3.841	5.024	6.635	10.828
2	4.605	5.991	7.378	9.210	13.816
3	6.251	7.815	9.348	11.345	16.266
4	7.779	9.488	11.143	13.277	18.467
5	9.236	11.070	12.833	15.086	20.515
6	10.645	12.592	14.449	16.812	22.458
7	12.017	14.067	16.013	18.475	24.322
8	13.362	15.507	17.535	20.090	26.125
9	14.684	16.919	19.023	21.666	27.877
10	15.987	18.307	20.483	23.209	29.588
11	17.275	19.675	21.920	24.725	31.264
12	18.549	21.026	23.337	26.217	32.910
13	19.812	22.362	24.736	27.688	34.528
14	21.064	23.685	26.119	29.141	36.123
15	22.307	24.996	27.488	30.578	37.697
16	23.542	26.296	28.845	32.000	39.252
17	24.769	27.587	30.191	33.409	40.790
18	25.989	28.869	31.526	34.805	42.312
19	27.204	30.144	32.852	36.191	43.820
20	28.412	31.410	34.170	37.566	45.315
21	29.615	32.671	35.479	38.932	46.797
22	30.813	33.924	36.781	40.289	48.268
23	32.007	35.172	38.076	41.638	49.728
24	33.196	36.415	39.364	42.980	51.179
25	34.382	37.652	40.646	44.314	52.620
26	35.563	38.885	41.923	45.642	54.052
27	36.741	40.113	43.195	46.963	55.476
28	37.916	41.337	44.461	48.278	56.892
29	39.087	42.557	45.722	49.588	58.301
30	40.256	43.773	46.979	50.892	59.703
31	41.422	44.985	48.232	52.191	61.098
32	42.585	46.194	49.480	53.486	62.487
33	43.745	47.400	50.725	54.776	63.870
34	44.903	48.602	51.966	56.061	65.247
35	46.059	49.802	53.203	57.342	66.619
36	47.212	50.998	54.437	58.619	67.985
37	48.363	52.192	55.668	59.893	69.347
38	49.513	53.384	56.896	61.162	70.703
39	50.660	54.572	58.120	62.428	72.055
40	51.805	55.758	59.342	63.691	73.402
41	52.949	56.942	60.561	64.950	74.745
42	54.090	58.124	61.777	66.206	76.084
43	55.230	59.304	62.990	67.459	77.419
44	56.369	60.481	64.201	68.710	78.750
45	57.505	61.656	65.410	69.957	80.077
46	58.641	62.830	66.617	71.201	81.400
47	59.774	64.001	67.821	72.443	82.720
48	60.907	65.171	69.023	73.683	84.037
49	62.038	66.339	70.222	74.919	85.351
50	63.167	67.505	71.420	76.154	86.661
51	64.295	68.669	72.616	77.386	87.968
52	65.422	69.832	73.810	78.616	89.272
53	66.548	70.993	75.002	79.843	90.573
54	67.673	72.153	76.192	81.069	91.872
55	68.796	73.311	77.380	82.292	93.168
56	69.919	74.468	78.567	83.513	94.461
57	71.040	75.624	79.752	84.733	95.751
58	72.160	76.778	80.936	85.950	97.039
59	73.279	77.931	82.117	87.166	98.324
60	74.397	79.082	83.298	88.379	99.607
61	75.514	80.232	84.476	89.591	100.888
62	76.630	81.381	85.654	90.802	102.166
63	77.745	82.529	86.830	92.010	103.442
64	78.860	83.675	88.004	93.217	104.716
65	79.973	84.821	89.177	94.422	105.988
66	81.085	85.965	90.349	95.626	107.258
67	82.197	87.108	91.519	96.828	108.526
68	83.308	88.250	92.689	98.028	109.791
69	84.418	89.391	93.856	99.228	111.055
70	85.527	90.531	95.023	100.425	112.317
71	86.635	91.670	96.189	101.621	113.577
72	87.743	92.808	97.353	102.816	114.835
73	88.850	93.945	98.516	104.010	116.092
74	89.956	95.081	99.678	105.202	117.346
75	91.061	96.217	100.839	106.393	118.599
76	92.166	97.351	101.999	107.583	119.850
77	93.270	98.484	103.158	108.771	121.100
78	94.374	99.617	104.316	109.958	122.348
79	95.476	100.749	105.473	111.144	123.594
80	96.578	101.879	106.629	112.329	124.839
81	97.680	103.010	107.783	113.512	126.083
82	98.780	104.139	108.937	114.695	127.324
83	99.880	105.267	110.090	115.876	128.565
84	100.980	106.395	111.242	117.057	129.804
85	102.079	107.522	112.393	118.236	131.041
86	103.177	108.648	113.544	119.414	132.277
87	104.275	109.773	114.693	120.591	133.512
88	105.372	110.898	115.841	121.767	134.746
89	106.469	112.022	116.989	122.942	135.978
90	107.565	113.145	118.136	124.116	137.208
91	108.661	114.268	119.282	125.289	138.438
92	109.756	115.390	120.427	126.462	139.666
93	110.850	116.511	121.571	127.633	140.893
94	111.944	117.632	122.715	128.803	142.119
95	113.038	118.752	123.858	129.973	143.344
96	114.131	119.871	125.000	131.141	144.567
97	115.223	120.990	126.141	132.309	145.789
98	116.315	122.108	127.282	133.476	147.010
99	117.407	123.225	128.422	134.642	148.230
100	118.498	124.342	129.561	135.807	149.449