Парадокс Фридмана

В анализе статистическом Фридмана парадокс названная в честь Дэвида Фридмана , представляет собой проблему выбора модели , при которой переменные-предикторы , не имеющие отношения к зависимой переменной, могут проходить тесты на значимость – как индивидуально с помощью t-теста, так и совместно с помощью F-теста на значимость регрессии. Фридман продемонстрировал (посредством моделирования и асимптотических вычислений), что это обычное явление, когда количество переменных аналогично количеству точек данных.

В частности, если зависимая переменная и k регрессоры являются независимыми нормальными переменными и имеется n наблюдений, то, когда k и n совместно стремятся к бесконечности в отношении k / n = ρ ,

1. Р ​ ² переходит в ρ ,
2. F-статистика для общей регрессии достигает 1,0, и
3. число ложно значимых регрессоров переходит в αk , где α — выбранная критическая вероятность (вероятность ошибки I рода для регрессора). Этот третий результат интуитивно понятен, поскольку он говорит, что количество ошибок типа I равно вероятности ошибки типа I для отдельного параметра, умноженной на количество параметров, значимость которых проверяется.

Совсем недавно новые теоретико-информационные оценки. в попытке решить эту проблему были разработаны в дополнение к сопутствующей проблеме предвзятости выбора модели, при этом оценки переменных-предикторов, которые имеют слабую связь с переменной ответа, являются смещенными.