Натараджанское измерение
В теории вероятно аппроксимально правильного машинного обучения размерность Натараяна характеризует сложность обучения набора функций, обобщая размерность Вапника-Червоненкиса для булевых функций на многоклассовые функции. Первоначально представленное как Обобщенное Измерение , Натараджаном [ 1 ] переименовали его в « Натараджанское измерение» . Впоследствии Хаусслер и Лонг [ 2 ]
Определение
[ редактировать ]Позволять быть набором функций из множества в набор . разрушает набор если существуют две функции такой, что
- Для каждого .
- Для каждого , существует функция такой, что
для всех и для всех .
Натараджанская размерность H — это максимальная мощность множества, разбитого .
Легко увидеть, что если измерение Натараяна схлопывается до измерения Вапника Червоненкиса .
Шалев-Шварц и Бен-Давид [ 3 ] представить всеобъемлющий материал по многоклассному обучению и измерению Натараджана, включая единообразную конвергенцию и обучаемость.
Ссылки
[ редактировать ]- ^ Натараджан, Балас Каусик (1989). «Об изучении множеств и функций» . Машинное обучение . 4 : 67–97. дои : 10.1007/BF00114804 .
- ^ Хаусслер, Дэвид; Лонг, Филип (1995). «Обобщение леммы Зауэра». Журнал комбинаторной теории . 71 : 219–240.
- ^ Шалев-Шварц, Шай; Бен-Давид, Шай (2013). Понимание машинного обучения. От теории к алгоритмам . Издательство Кембриджского университета.