Дерево логистической модели
| Часть серии о |
| Машинное обучение и интеллектуальный анализ данных |
|---|
В информатике дерево логистической модели ( LMT ) — это модель классификации с соответствующим контролируемого обучения алгоритмом , который сочетает в себе логистическую регрессию (LR) и обучение дереву решений . [1] [2]
Деревья логистических моделей основаны на более ранней идее дерева моделей: дерева решений, на листьях которого имеются модели линейной регрессии , обеспечивающие модель кусочно-линейной регрессии (где обычные деревья решений с константами на листьях создают кусочно-постоянную модель). [1] В логистическом варианте алгоритм LogitBoost используется для создания модели LR в каждом узле дерева; затем узел разделяется с использованием критерия C4.5 . Каждый вызов LogitBoost запускается с «горячего» запуска. [ нечеткий ] из его результатов в родительском узле. Наконец, дерево обрезается. [3]
Базовый алгоритм индукции LMT использует перекрестную проверку , чтобы найти количество итераций LogitBoost, которые не соответствуют обучающим данным. Была предложена более быстрая версия, которая использует информационный критерий Акаике для управления остановкой LogitBoost. [3]
Ссылки
[ редактировать ]- ^ Jump up to: а б Нильс Ландвер; Марк Холл; Ю Фрэнк (2003). Деревья логистических моделей (PDF) . ЭКМЛ ПКДД .
- ^ Ландвер, Н.; Холл, М.; Франк, Э. (2005). «Деревья логистических моделей» (PDF) . Машинное обучение . 59 (1–2): 161–205. дои : 10.1007/s10994-005-0466-3 .
- ^ Jump up to: а б Самнер, Марк; Эйбе Франк; Марк Холл (2005). Ускорение создания дерева логистических моделей (PDF) . ПКДД. Спрингер. стр. 675–683.