Неравенство Дворецкого – Кифера – Вольфовица.

На приведенной выше диаграмме показан пример применения неравенства ДКВ при построении доверительных границ (фиолетового цвета) вокруг эмпирической функции распределения (голубого цвета). В этом случайном розыгрыше истинный CDF (оранжевый) полностью находится в пределах границ DKW.

В теории вероятностей и статистике неравенство Дворецкого -Кифера-Вольфовица-Массарта ( неравенство ДКВ ) обеспечивает оценку расстояния в наихудшем случае эмпирически определенной функции распределения населения от связанной с ней функции распределения . Оно названо в честь Арье Дворецкого , Джека Кифера и Джейкоба Вулфовица , которые в 1956 году доказали неравенство

$\Pr {\Bigl (}\sup _{x\in \mathbb {R} }|F_{n}(x)-F(x)|>\varepsilon {\Bigr )}\leq Ce^{-2n\varepsilon ^{2}}\qquad {\text{for every }}\varepsilon >0.$

с неуказанной мультипликативной константой C перед показателем степени в правой части.

В 1990 году Паскаль Массар доказал неравенство с точной константой C = 2: подтверждая гипотезу Бирнбаума и Маккарти. В 2021 году Майкл Нааман доказал многомерную версию неравенства ДКВ и обобщил результат Массарта о тесноте на многомерный случай, что приводит к точной константе, вдвое превышающей размерность k пространства, в котором находятся наблюдения: C = 2 k .

Неравенство ДКВ

Для заданного натурального числа n пусть X ₁ , X ₂ , …, X _n — вещественнозначные независимые и одинаково распределенные случайные величины с кумулятивной функцией распределения F (·). Пусть F _n обозначает ассоциированную эмпирическую функцию распределения , определяемую формулой

$F_{n}(x)={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {1} _{\{X_{i}\leq x\}},\qquad x\in \mathbb {R} .$

так $F(x)$ это вероятность того, что одна случайная величина $X$ меньше, чем $x$, и $F_{n}(x)$ это доля случайных величин, меньших, чем $x$.

Неравенство Дворецкого – Кифера – Вольфовица ограничивает вероятность того, что случайная функция F _n отличается от F более чем на заданную константу ε > 0 в любом месте действительной прямой. Точнее, имеется односторонняя оценка

$\Pr {\Bigl (}\sup _{x\in \mathbb {R} }{\bigl (}F_{n}(x)-F(x){\bigr )}>\varepsilon {\Bigr )}\leq e^{-2n\varepsilon ^{2}}\qquad {\text{for every }}\varepsilon \geq {\sqrt {{\tfrac {1}{2n}}\ln 2}},$

откуда также следует двусторонняя оценка

$\Pr {\Bigl (}\sup _{x\in \mathbb {R} }|F_{n}(x)-F(x)|>\varepsilon {\Bigr )}\leq 2e^{-2n\varepsilon ^{2}}\qquad {\text{for every }}\varepsilon >0.$

Это усиливает теорему Гливенко – Кантелли за счет количественного определения скорости сходимости при стремлении n к бесконечности. Он также оценивает хвостовую вероятность статистики Колмогорова–Смирнова . Приведенные выше неравенства следуют из случая, когда F соответствует равномерному распределению на [0,1] поскольку F _n имеет те же распределения, что и G _n ( F ), где G _n — эмпирическое распределение U ₁ , U ₂ , …, Un _, где они независимы и равномерны (0,1), и отмечая, что

$\sup _{x\in \mathbb {R} }|F_{n}(x)-F(x)|\;{\stackrel {d}{=}}\;\sup _{x\in \mathbb {R} }|G_{n}(F(x))-F(x)|\leq \sup _{0\leq t\leq 1}|G_{n}(t)-t|,$

с равенством тогда и только тогда, когда F непрерывно.

Многомерный случай

В многомерном случае X ₁ , X ₂ , …, X _n представляет собой iid-последовательность k -мерных векторов. Если F _n — многомерная эмпирическая функция распределения функций, то

$\Pr {\Bigl (}\sup _{t\in \mathbb {R} ^{k}}|F_{n}(t)-F(t)|>\varepsilon {\Bigr )}\leq (n+1)ke^{-2n\varepsilon ^{2}}$

для каждого ε , n , k > 0. Член ( n + 1) можно заменить на 2 для любого достаточно большого n .

Оценщик Каплана – Мейера

Неравенство Дворецкого – Кифера – Вольфовица получено для оценки Каплана – Мейера , которая представляет собой цензурированный справа аналог эмпирической функции распределения данных.

$\Pr {\Bigl (}{\sqrt {n}}\sup _{t\in [0,\infty )}|(1-G(t))(F_{n}(t)-F(t))|>\varepsilon {\Bigr )}\leq 2.5e^{-2\varepsilon ^{2}+C\varepsilon }$

для каждого $\varepsilon >0$ и для некоторой константы $C<\infty$, где $F_{n}$ – оценка Каплана – Мейера, и $G$ – цензурирующая функция распределения.

Создание групп CDF

См. также: Непараметрический доверительный интервал на основе CDF.

Неравенство Дворецкого-Кифера-Вольфовица является одним из методов создания доверительных границ на основе CDF и создания доверительной полосы , которую иногда называют доверительной полосой Колмогорова-Смирнова . Целью этого доверительного интервала является удержание всего CDF на заданном доверительном уровне, в то время как альтернативные подходы пытаются достичь доверительного уровня только в каждой отдельной точке, что может обеспечить более жесткую границу. Границы DKW проходят параллельно и одинаково выше и ниже эмпирического CDF. Равноотстоящий доверительный интервал вокруг эмпирического CDF допускает различную частоту нарушений в зависимости от поддержки распределения. В частности, CDF чаще выходит за пределы границы CDF, оцененной с использованием неравенства ДКВ вблизи медианы распределения, чем вблизи конечных точек распределения.

Интервал, содержащий истинный CDF, $F(x)$, с вероятностью $1-\alpha$ часто указывается как

$F_{n}(x)-\varepsilon \leq F(x)\leq F_{n}(x)+\varepsilon \;{\text{ where }}\varepsilon ={\sqrt {\frac {\ln {\frac {2}{\alpha }}}{2n}}}$

что также является частным случаем асимптотической процедуры для многомерного случая, при этом используется следующее критическое значение

${\frac {d(\alpha ,k)}{\sqrt {n}}}={\sqrt {\frac {\ln {\frac {2k}{\alpha }}}{2n}}}$

для многомерного теста; можно заменить 2 k на k ( n + 1) для проверки, которая справедлива для всех n ; более того, многомерный тест, описанный Нааманом, можно обобщить для учета гетерогенности и зависимости.

См. также

• Неравенство концентрации - сводка границ наборов случайных величин.