Доверительный интервал

Неформально, в частотной статистике ( доверительный интервал CI ) — это интервал, который, как ожидается, обычно содержит параметр оцениваемый . Точнее, с учетом уровня доверия $\gamma$ (95% и 99% — типичные значения), ДИ — это случайный интервал, содержащий оцениваемый параметр. $\gamma$ % времени. ^{[ 1 ]}^{[ 2 ]} Уровень уверенности , степень уверенности или коэффициент уверенности представляет собой долгосрочную долю ДИ (при данном уровне достоверности), которые теоретически содержат истинное значение параметра; это эквивалентно номинальной вероятности покрытия . Например, из всех интервалов, рассчитанных на уровне 95 %, 95 % должны содержать истинное значение параметра. ^{[ 3 ]}

Факторы, влияющие на ширину CI, включают размер выборки , изменчивость в выборке и уровень достоверности. ^{[ 4 ]} Все остальное одно и то же, более крупная выборка создает более узкий доверительный интервал, большая изменчивость в выборке дает более широкий доверительный интервал, а более высокий уровень доверия дает более широкий доверительный интервал. ^{[ 5 ]}

Определение

Позволять $X$ быть случайной выборкой из распределения вероятностей со статистическим параметром $\theta$ , которое представляет собой величину, которую необходимо оценить, и $\varphi$ , представляющий величины, которые не представляют непосредственного интереса. Доверительный интервал для параметра $\theta$ , с уровнем достоверности или коэффициентом $\gamma$ , представляет собой интервал $(u(X),v(X))$ определяется случайными величинами $u(X)$ и $v(X)$ с имуществом:

P(u(X)<\theta <v(X))=\gamma \quad {\text{ for every }}(\theta ,\varphi ).

Число $\gamma$ , типичное значение которого близко, но не превышает 1, иногда выражается в виде $1-\alpha$ (или в процентах $100\%\cdot (1-\alpha )$ ), где $\alpha$ — небольшое положительное число, часто 0,05.

Это важно для границ $u(X)$ и $v(X)$ указываться таким образом, чтобы до тех пор, пока $X$ собирается случайным образом, каждый раз, когда мы вычисляем доверительный интервал, существует вероятность $\gamma$ что оно будет содержать $\theta$ , истинное значение оцениваемого параметра. Это должно справедливо для любого фактического $\theta$ и $\varphi$ . ^{[ 2 ]}

Приблизительные доверительные интервалы

Во многих приложениях трудно построить доверительные интервалы, которые имеют точно необходимый уровень доверия, но приблизительные интервалы можно вычислить. Правило построения интервала можно принять как обеспечивающее доверительный интервал на уровне $\gamma$ если

P(u(X)<\theta <v(X))\approx \ \gamma \quad {\text{ for every }}(\theta ,\varphi )

до приемлемого уровня приближения. Альтернативно, некоторые авторы ^{[ 6 ]} просто требуйте этого

P(u(X)<\theta <v(X))\geq \ \gamma \quad {\text{ for every }}(\theta ,\varphi ),

что полезно, если вероятности идентифицированы лишь частично или неточно , а также при работе с дискретными распределениями . Доверительные пределы формы

P(u(X)<\theta )\geq \ \gamma

и

P(\theta <v(X))\geq \gamma

называются консервативными ; ^{[ 7 ]}^{(стр. 210)} соответственно, говорят о консервативных доверительных интервалах и вообще о регионах.

Желаемые свойства

При применении стандартных статистических процедур часто используются стандартные способы построения доверительных интервалов. Они будут разработаны таким образом, чтобы обеспечить определенные желательные свойства, которые будут сохраняться при условии, что предположения, на которых основана процедура, верны. Эти желательные свойства можно описать как: достоверность, оптимальность и инвариантность.

Из этих трех наиболее важным является «действительность», за которым следует «оптимальность». «Инвариантность» можно рассматривать как свойство метода получения доверительного интервала, а не правила построения интервала. В нестандартных приложениях следует искать те же желательные свойства:

Срок действия

Это означает, что номинальная вероятность покрытия (уровень доверия) доверительного интервала должна соблюдаться либо точно, либо с хорошим приближением.

Оптимальность

Это означает, что правило построения доверительного интервала должно максимально использовать информацию из набора данных.

Одним из способов оценки оптимальности является ширина интервала, так что правило построения доверительного интервала оценивается лучше, чем другое, если оно приводит к интервалам, ширина которых обычно короче.

Инвариантность

Во многих приложениях оцениваемое количество не может быть четко определено как таковое.

Например, опрос может привести к оценке медианного дохода населения, но его в равной степени можно рассматривать и как оценку логарифма медианного дохода, учитывая, что это обычная шкала для представления графических результатов. Было бы желательно, чтобы метод, используемый для построения доверительного интервала для медианного дохода, давал эквивалентные результаты при применении к построению доверительного интервала для логарифма медианного дохода: в частности, значения на концах последнего интервала были бы логарифмами. значений на концах бывшего интервала.

Методы вывода

Для нестандартных применений существует несколько маршрутов, которые можно найти для получения правила для построения доверительных интервалов. Установленные правила для стандартных процедур могут быть оправданы или объяснены несколькими из этих маршрутов. Как правило, правило для построения доверительных интервалов тесно связано с определенным способом поиска точечной оценки рассматриваемой количества.

Сводная статистика

Это тесно связано с методом моментов оценки. Возникает простой пример, когда оцениваемой величиной является среднее значение генеральной совокупности, и в этом случае естественной оценкой является выборочное среднее значение. Аналогично, выборочную дисперсию можно использовать для оценки генеральной дисперсии. Доверительный интервал для истинного среднего значения может быть построен по центру выборочного среднего значения с шириной, кратной квадратному корню выборочной дисперсии.

Теория правдоподобия

Оценки могут быть построены с использованием принципа максимального правдоподобия , теория правдоподобия для этого предусматривает два способа построения доверительных интервалов или доверительных областей для оценок.

Оценочные уравнения

Оценочный подход здесь можно рассматривать как обобщение метода моментов и обобщение подхода максимального правдоподобия. Существуют соответствующие обобщения результатов теории максимального правдоподобия, которые позволяют строить доверительные интервалы на основе оценок, полученных из оценочных уравнений . ^{[ Цитация необходима ]}

Проверка гипотез

Если для общих значений параметра доступны тесты гипотез, то доверительные интервалы/области могут быть построены путем включения в доверительную область 100 $p$ % всех тех точек, для которых проверка нулевой гипотезы о том, что истинное значение является заданным значением, равна не отвергается на уровне значимости (1 - $p$ ). ^{[ 7 ]}^{(п. 7.2 (iii))}

Начальная загрузка

В ситуациях, когда предположения о распределении для вышеупомянутых методов неопределенны или нарушаются, методы повторной выборки позволяют построить доверительные интервалы или интервалы прогнозирования. Наблюдаемое распределение данных и внутренние корреляции используются в качестве замены корреляций в более широкой популяции.

Центральная предельная теорема

Центральная предельная теорема является уточнением закона больших чисел . Для большого числа независимых одинаково распределенных случайных величин $X_{1},...,X_{n},$ с конечной дисперсией, среднее ${\overline {X}}_{n}$ приблизительно имеет нормальное распределение, независимо от того, какое распределение $X_{i}$ с приближением примерно улучшения пропорционально ${\sqrt {n}}$ . ^{[ 2 ]}

Пример

В этой гистограмме верхние концы коричневых стержней указывают на наблюдаемые средства, а сегменты красной линии (« столбцы ошибок ») представляют доверительные интервалы вокруг них. Хотя столбцы ошибки показаны как симметричные вокруг средств, это не всегда так. На большинстве графиков столбцы ошибок не представляют доверительные интервалы (например, они часто представляют стандартные ошибки или стандартные отклонения).

Предполагать ${X_{1},\ldots ,X_{n}}$ является независимой выборкой из обычно распределенной популяции с неизвестным средним значением параметров $\mu$ и дисперсия $\sigma ^{2}.$ Позволять

{\bar {X}}={\frac {X_{1}+\cdots +X_{n}}{n}},

S^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}.

Где ${\bar {X}}$ это среднее выборочное , и $S^{2}$ это выборка . Затем

T={\frac {{\bar {X}}-\mu }{S/{\sqrt {n}}}}

имеет студента с T дистрибуцию с $n-1$ степени свободы. ^{[ 8 ]} Обратите внимание, что распределение $T$ не зависит от значений ненаблюдаемых параметров $\mu$ и $\sigma ^{2}$ ; т.е. это ключевое количество . Предположим, мы хотим рассчитать 95% доверительный интервал для $\mu .$ Затем обозначает $c$ Как 97,5 -й процентиль этого распределения,

P_{T}(-c\leq T\leq c)=0.95.

Обратите внимание, что «97,5 -й» и «0,95» верны в предыдущих выражениях. Есть 2,5% шанс, что $T$ будет меньше, чем $-c$ и 2,5% вероятность, что это будет больше, чем $+c.$ Таким образом, вероятность, что $T$ будет между $-c$ и $+c$ 95%. $P_{T}$ является мерой вероятности у студента $t$ распределение.

Следовательно,

P_{\mu }\left({\bar {X}}-{\frac {cS}{\sqrt {n}}}\leq \mu \leq {\bar {X}}+{\frac {cS}{\sqrt {n}}}\right)=0.95,

и у нас есть теоретический (стохастический) 95% доверительный интервал для $\mu .$ Здесь $P_{\mu }$ является мера вероятности при неизвестном распределении $\mu$ .

После наблюдения образца мы находим значения ${\bar {x}}$ для ${\bar {X}}$ и $s$ для $S,$ из которого мы вычисляем доверительный интервал

\left[{\bar {x}}-{\frac {cs}{\sqrt {n}}},{\bar {x}}+{\frac {cs}{\sqrt {n}}}\right].

Интерпретация

Могут быть даны различные интерпретации доверительного интервала (принимая 95% доверительный интервал в качестве примера в следующем).

Доверительный интервал может быть выражен с точки зрения долгосрочной частоты в повторных образцах (или в повторной выборке ): «Если эта процедура повторялась на многочисленных образцах, доля расчетных 95% доверительных интервалов, которые охватывали истинную ценность популяции Параметр будет стремиться к 95%". ^{[ 9 ]}
Доверительный интервал можно выразить через вероятность относительно одной теоретической (еще не реализованной) выборки: «Существует 95%-ная вероятность того, что 95%-ный доверительный интервал, рассчитанный на основе данной будущей выборки, будет охватывать истинное значение параметр населения». [ 10 ] По сути, это переосмысливает интерпретацию «повторяющихся выборок» как вероятность, а не как частоту.
Доверительный интервал может быть выражен через статистическую значимость, например: «95% доверительный интервал представляет собой значения, которые статистически значимо не отличаются от точечной оценки на уровне 0,05». ^{[ 11 ]}

Распространенные недоразумения

Доверительные интервалы и уровни часто неправильно понимаются, а опубликованные исследования показали, что даже профессиональные ученые часто неправильно их интерпретируют. ^{[ 12 ]}^{[ 13 ]}^{[ 14 ]}^{[ 15 ]}^{[ 16 ]}^{[ 17 ]}

Уровень достоверности 95 % не означает, что для данного реализованного интервала существует 95 % вероятность того, что параметр совокупности находится внутри интервала (т. е. 95 % вероятность того, что интервал покрывает параметр совокупности). ^{[ 18 ]} Согласно частотной интерпретации, после расчета интервала этот интервал либо покрывает значение параметра, либо нет; это уже не вопрос вероятности. Вероятность 95% относится к надежности процедуры оценки, а не к конкретному расчетному интервалу. ^{[ 19 ]} Сам Нейман (первоначальный сторонник доверительных интервалов) высказал это мнение в своей оригинальной статье: ^{[ 10 ]}
Следует отметить, что в приведенном выше описании утверждения о вероятности относятся к проблемам оценки, которыми статистика будет заниматься в будущем. На самом деле, я неоднократно заявлял, что частота правильных результатов будет стремиться к α . Рассмотрим теперь случай, когда выборка уже взята и расчеты дали [частные пределы]. Можем ли мы сказать, что в данном конкретном случае вероятность истинного значения [попадания между этими пределами] равна α ? Ответ, очевидно, отрицательный. Параметр представляет собой неизвестную константу, и относительно его значения нельзя сделать никаких утверждений о вероятности...

Уровень достоверности 95% не означает, что 95% данных выборки лежат в пределах доверительного интервала.
Уровень достоверности 95% не означает, что существует 95% вероятность оценки параметров по повторению эксперимента, попадающего в пределы доверительного интервала, вычисленного из данного эксперимента. ^{[ 16 ]}

Примеры того, как наивная интерпретация доверительных интервалов может быть проблематичной

Процедура доверия для единого местоположения

Уэлч ^{[ 20 ]} интервалы Фишера представил пример, который четко показывает разницу между теорией доверительных интервалов и другими теориями интервальной оценки (включая фирменные и объективные байесовские интервалы). Робинсон ^{[ 21 ]} Назван этот пример «[P], как правило, наиболее известным контрпримером для версии теории доверительного интервала Неймана». Для Уэлча он показал превосходство теории доверительного интервала; Критикам теории это показывает недостаток. Здесь мы представляем упрощенную версию.

Предположим, что $X_{1},X_{2}$ являются независимыми наблюдениями из однородного $(\theta -1/2,\theta +1/2)$ распределение. Тогда оптимальная процедура доверительности 50% для $\theta$ является ^{[ 22 ]}

{\bar {X}}\pm {\begin{cases}{\dfrac {|X_{1}-X_{2}|}{2}}&{\text{if }}|X_{1}-X_{2}|<1/2\\[8pt]{\dfrac {1-|X_{1}-X_{2}|}{2}}&{\text{if }}|X_{1}-X_{2}|\geq 1/2.\end{cases}}

Для получения интервальной оценки можно использовать фидуциальный или объективный байесовский аргумент.

{\bar {X}}\pm {\frac {1-|X_{1}-X_{2}|}{4}},

что также является процедурой доверия 50%. Уэлч показал, что первая доверительная процедура доминирует над второй, согласно требованиям теории доверительных интервалов; для каждого $\theta _{1}\neq \theta$ , вероятность того, что первая процедура содержит $\theta _{1}$ меньше или равно вероятности того, что вторая процедура содержит $\theta _{1}$ . Средняя ширина интервалов у первой процедуры меньше, чем у второй. Следовательно, первая процедура предпочтительна в рамках классической теории доверительного интервала.

Однако когда $|X_{1}-X_{2}|\geq 1/2$ , интервалы из первой процедуры гарантированно содержит истинное значение $\theta$ Следовательно, номинальный коэффициент достоверности 50% не связан с неопределенностью, которую мы должны иметь, чтобы конкретный интервал содержит истинное значение. Вторая процедура не имеет этого свойства.

Более того, когда первая процедура генерирует очень короткий интервал, это указывает на то, что $X_{1},X_{2}$ очень близки друг к другу и, следовательно, предлагают информацию только в одной точке данных. Тем не менее, первый интервал исключит почти все разумные значения параметра из -за его короткой ширины. Вторая процедура не имеет этого свойства.

Два противоречивых свойства первой процедуры-100% охват , когда $X_{1},X_{2}$ находятся далеко друг от друга и почти 0% покрывают, когда $X_{1},X_{2}$ находятся близко друг к другу - уравновешивают, чтобы получить 50% охвата в среднем. Однако, несмотря на оптимальную процедуру, ее интервалы не дают ни оценки точности оценки, ни оценки неопределенности, с которой следует иметь, чтобы интервал содержит истинную ценность.

Этот пример используется для споров против наивных интерпретаций доверительных интервалов. Если утверждается, что процедура доверия обладает свойствами, помимо номинального охвата (например, отношение к точности или отношения с байесовским выводом), должны быть доказаны эти свойства; Они не следуют за тем, что процедура является процедурой доверия.

Достоверная процедура для ω ²

Штайгер ^{[ 23 ]} предложил ряд доверительных процедур для общих показателей величины эффекта в ANOVA . Мори и др. ^{[ 18 ]} отметим, что некоторые из этих доверительных процедур, включая процедуру для ω ², обладают тем свойством, что по мере того, как статистика F становится все более маленькой, что указывает на несоответствие всем возможным значениям ω ²— доверительный интервал сужается и может даже содержать только одно значение ω ² = 0; то есть КИ бесконечно узок (это происходит, когда $p\geq 1-\alpha /2$ для $100(1-\alpha )\%$ ТАМ).

Такое поведение согласуется с взаимосвязью между доверительной процедурой и проверкой значимости : поскольку F становится настолько малым, что групповые средние оказываются намного ближе друг к другу, чем мы могли бы случайно ожидать, проверка значимости может указывать на отклонение большинства или всех значений ω. ². Следовательно, интервал будет очень узким или даже пустым (или, по соглашению, предложенному Штайгером, содержащим только 0). Однако это не означает, что оценка ω ² очень точен. В каком-то смысле это указывает на обратное: достоверность самих результатов может оказаться под вопросом. Это противоречит общепринятой интерпретации доверительных интервалов, согласно которой они отражают точность оценки.

История

Методы расчета доверительных интервалов для биномиальной пропорции появились с 1920-х годов. ^{[ 24 ]}^{[ 25 ]} Основные идеи доверительных интервалов в целом были разработаны в начале 1930-х гг. ^{[ 26 ]}^{[ 27 ]}^{[ 28 ]} а первый подробный и общий отчет был сделан Ежи Нейманом в 1937 году. ^{[ 10 ]}

Нейман описал развитие идей следующим образом (номера ссылок изменены): ^{[ 28 ]}

[Моя работа над доверительными интервалами] возникла примерно в 1930 году из простого вопроса Вацлава Пытковского, тогда моего студента в Варшаве, который занимался эмпирическим исследованием экономики сельского хозяйства. Вопрос заключался в следующем: как недогматично охарактеризовать точность оценки коэффициента регрессии? ...
Монография Питковского... появилась в печати в 1932 году. ^{[ 29 ]} Так случилось, что несколько раньше Фишер опубликовал свою первую статью. ^{[ 30 ]} занимается фидуциальным распределением и фидуциальным аргументом. Совершенно неожиданно, хотя концептуальная основа фидуциального аргумента полностью отличается от концептуальной основы доверительных интервалов, конкретные решения нескольких частных проблем совпали. Так, в первой статье, в которой я представил теорию доверительных интервалов, опубликованной в 1934 г., ^{[ 26 ]} Я признал приоритет Фишера для идеи, что интервальная оценка возможна без какой -либо ссылки на теорему Байеса, и с тем, что решение не зависит от вероятностей априори . В то же время я слегка предположил, что подход Фишера к проблеме включал незначительное недопонимание.

В медицинских журналах доверительные интервалы были продвинуты в 1970 -х годах, но стали широко использоваться только в 1980 -х годах. ^{[ 31 ]} К 1988 году медицинские журналы требовали сообщения о доверительных интервалах. ^{[ 32 ]}

Смотрите также

Верхние пределы CL (физика элементарных частиц)
Правило 68–95–99,7
Полоса доверия , интервальная оценка кривой
Распределение уверенности
Область доверия , более высокое обобщение
CRENTENCE (Статистика) - Мера силы убеждений, используемая на
Заслуживающий доверия интервал , байесовская альтернатива для интервальной оценки
Совокупный непараметрический доверительный интервал на основе функций распределения
Строка ошибок - графические представления изменчивости данных
Статистика оценки - подход анализа данных в частых статистике
Погрешность , полугода CI
P-значение -функция наблюдаемых результатов образца
Интервал прогнозирования , интервальная оценка для случайной величины
Возможная ошибка
Надежные доверительные интервалы - статистические индикаторы отклонения образцов