Классификатор ближайшего центроида

Классификация Роккьо

В машинном обучении классификатор ближайшего центроида или классификатор ближайшего прототипа — это модель классификации , которая присваивает наблюдениям метку класса обучающих выборок, среднее значение которых ( центроид ) ближе всего к наблюдению. Применительно к классификации текста с использованием векторов слов, содержащих веса tf*idf для представления документов, ближайший классификатор центроидов известен как классификатор Роккио из-за его сходства с алгоритмом Роккио для обратной связи по релевантности .

Расширенная версия классификатора ближайшего центроида нашла применение в медицинской сфере, в частности для классификации опухолей .

Алгоритм

Обучение

Учитывая помеченные обучающие образцы $\textstyle \{({\vec {x}}_{1},y_{1}),\dots ,({\vec {x}}_{n},y_{n})\}$ с метками классов $y_{i}\in \mathbf {Y}$, вычислите центроиды для каждого класса $\textstyle {\vec {\mu }}_{\ell }={\frac {1}{|C_{\ell }|}}{\underset {i\in C_{\ell }}{\sum }}{\vec {x}}_{i}$ где $C_{\ell }$ – совокупность индексов образцов, принадлежащих классу $\ell \in \mathbf {Y}$.

Прогноз

Класс, присвоенный наблюдению ${\vec {x}}$ является ${\hat {y}}={\arg \min }_{\ell \in \mathbf {Y} }\|{\vec {\mu }}_{\ell }-{\vec {x}}\|$.

См. также

• Кластерная гипотеза
• k - означает кластеризацию
• k - алгоритм ближайшего соседа
• Линейный дискриминантный анализ