Краткое описание машинного обучения

Следующий план представляет собой обзор и актуальное руководство по машинному обучению:

Машинное обучение — подобласть мягких вычислений в информатике , возникшая в результате изучения теории распознавания образов и теории вычислительного обучения в области искусственного интеллекта . ^[1] В 1959 году Артур Сэмюэл определил машинное обучение как «область исследования, которая дает компьютерам возможность учиться без явного программирования». ^[2] Машинное обучение включает в себя изучение и создание алгоритмов , которые могут учиться на данных и делать прогнозы на их основе . ^[3] Эти алгоритмы работают путем построения модели на основе примера обучающего набора входных наблюдений, чтобы делать прогнозы или решения на основе данных, выраженные в виде выходных данных, а не следовать строго статическим инструкциям программы.

Что такое машинное обучение?

Академическая дисциплина
Отрасль науки
- Прикладная наука
  - Подобласть информатики
    - Отделение искусственного интеллекта
    - Подобласть мягких вычислений
    - Применение статистики

Парадигмы машинного обучения

Обучение с учителем — когда модель обучается на помеченных данных.
Обучение без учителя — когда модель пытается выявить закономерности в немаркированных данных.
Обучение с подкреплением — модель учится принимать решения, получая награды или штрафы.

Приложения машинного обучения

Аппаратное обеспечение машинного обучения

Инструменты машинного обучения

Сравнение программного обеспечения глубокого обучения

Фреймворки машинного обучения

Собственные платформы машинного обучения

Машинное обучение Amazon
Студия машинного обучения Microsoft Azure
DistBelief – заменен на TensorFlow

Фреймворки машинного обучения с открытым исходным кодом

Апачский лев
Апач MXNet
Кафе
PyTorch
млпак
Тензорфлоу
Факел
ЦНТК
Accord.Net
Джакс
MLJ.jl — платформа машинного обучения для Джулии.

Библиотеки машинного обучения

Алгоритмы машинного обучения

Методы машинного обучения

Алгоритм на основе экземпляров

Регрессионный анализ

Уменьшение размерности

Ансамблевое обучение

АдаБуст
Повышение
Бутстрап-агрегирование (пакетирование)
Усреднение по ансамблю — процесс создания нескольких моделей и их объединения для получения желаемого результата, а не создания только одной модели. Зачастую совокупность моделей работает лучше, чем любая отдельная модель, поскольку различные ошибки моделей «усредняются».
Дерево решений с градиентным усилением (GBDT)
Машина повышения градиента (GBM)
Случайный лес
Многоуровневое обобщение (смешение)

Метаобучение

Обучение с подкреплением

Обучение под присмотром

Усредненные оценки с одной зависимостью (AODE)
Искусственная нейронная сеть
Рассуждение на основе прецедентов
Регрессия гауссовского процесса
Программирование экспрессии генов
Групповой метод обработки данных (ГМДХ)
Индуктивное логическое программирование
Обучение на основе экземпляров
Ленивое обучение
Обучение автоматов
Обучение векторному квантованию
Дерево логистической модели
Минимальная длина сообщения (деревья решений, графы решений и т. д.)
- Алгоритм ближайшего соседа
- Аналогичное моделирование
Вероятно, приблизительно правильное обучение (PAC) обучение
Правила Ripple Down , методология приобретения знаний
Символьные алгоритмы машинного обучения
Машины опорных векторов
Случайные леса
Ансамбли классификаторов
- Бутстрап-агрегирование (пакетирование)
- Бустинг (мета-алгоритм)
Порядковая классификация
Условное случайное поле
дисперсионный анализ
Квадратичные классификаторы
k-ближайший сосед
Повышение
- СПРИНТ
Байесовские сети
- Наивный Байес
Скрытые марковские модели
- Иерархическая скрытая марковская модель

Байесовский

Байесовская статистика

Байесовская база знаний
Наивный Байес
Гауссов наивный байесовский метод
Полиномиальный наивный Байес
Усредненные оценки с одной зависимостью (AODE)
Байесовская сеть убеждений (BBN)
Байесовская сеть (БН)

Алгоритмы дерева решений

Алгоритм дерева решений

Дерево решений
Дерево классификации и регрессии (CART)
Итеративный дихотомизатор 3 (ID3)
Алгоритм C4.5
Алгоритм C5.0
Автоматическое обнаружение взаимодействия по хи-квадрату (CHAID)
Решение тупик
Условное дерево решений
Алгоритм ID3
Случайный лес
СЛИК

Линейный классификатор

Обучение без присмотра

Искусственные нейронные сети

Искусственная нейронная сеть

Изучение правил ассоциации

Иерархическая кластеризация

Кластерный анализ

Обнаружение аномалий

Полуконтролируемое обучение

Активное обучение - особый случай полуконтролируемого обучения, при котором алгоритм обучения может в интерактивном режиме опрашивать пользователя (или какой-либо другой источник информации) для получения желаемых результатов в новых точках данных. ^[4]^[5]
Генеративные модели
Сепарация низкой плотности
Методы на основе графов
Совместное обучение
Трансдукция

Глубокое обучение

Другие методы и проблемы машинного обучения

Исследования машинного обучения

История машинного обучения

Хронология машинного обучения

Проекты машинного обучения

Организации машинного обучения

Конференции и семинары по машинному обучению

Искусственный интеллект и безопасность (AISec) (семинар совместно с CCS)
Конференция по нейронным системам обработки информации (NIPS)
ЭКМЛ ПКДД
Международная конференция по машинному обучению (ICML)
ML4ALL (Машинное обучение для всех)

Публикации по машинному обучению

Книги по машинному обучению

Журналы машинного обучения

Лица, влиятельные в машинном обучении

Альберто Брогги
Андрей Князев
Эндрю МакКаллум
Эндрю Нг
Анураг Джайн
Армин Б. Кремерс
Аянна Ховард
Барни Пелл
Бен Герцель
Бен Трежер
Бернхард Шёлкопф
Брайан Д. Рипли
Кристофер Дж. Аткесон
Коринна Кортес
Демис Хассабис
Дуглас Ленат
Эрик Син
Эрнст Дикманнс
Джеффри Хинтон - соавтор алгоритмов обучения обратному распространению ошибки и контрастному расхождению.
Ханс-Петер Кригель
Хартмут Невен
Хейкки Маннила
Ян Гудфеллоу – Отец генеративных и состязательных сетей
Яцек М. Зурада
Хайме Карбонелл
Джереми Словак
Джером Х. Фридман
Джон Д. Лафферти
Джон Платт - изобрел SMO и масштабирование Платта.
Джули Бет Ловинс
Юрген Шмидхубер
Карл Штайнбух
Катя Сикара
Лео Брейман – изобрел мешки и случайные леса.
Лиза заколдована
Лука Мария Гамбарделла
Леон Ботту
Маркус Хаттер
Мехриар Мори
Майкл Коллинз
Майкл И. Джордан
Майкл Л. Литтман
Нандо де Фрейтас
Офер Декель
Орен Эциони
Педро Домингос
Питер Флэт
Пьер Бальди
Пушмит Кохли
Рэй Курцвейл
Райид Гани
Росс Куинлан
Сальваторе Дж. Столфо
Себастьян Трун
Зельмер Брингсйорд
Зепп Хохрайтер
Шейн Легг
Стивен Магглтон
Стив Омохундро
Том М. Митчелл
Тревор Хэсти
Васант Хонавар
Владимир Вапник – соавтор теории SVM и VC.
Ян ЛеКун – изобрел сверточные нейронные сети
Ясуо Мацуяма
Джошуа Бенджио
Зубин Гахрамани

См. также

Другой

Дальнейшее чтение

Тревор Хэсти , Роберт Тибширани и Джером Х. Фридман (2001). Элементы статистического обучения , Спрингер. ISBN 0-387-95284-5 .
Педро Домингос (сентябрь 2015 г.), Главный алгоритм , Основные книги, ISBN 978-0-465-06570-7
Мехриар Мори , Афшин Ростамизаде, Амит Талвалкар (2012). Основы машинного обучения , MIT Press. ISBN 978-0-262-01825-8 .
Ян Х. Виттен и Эйбе Франк (2011). Интеллектуальный анализ данных: практические инструменты и методы машинного обучения Морган Кауфманн, 664 стр., ISBN 978-0-12-374856-0 .
Дэвид Дж. К. Маккей . Теория информации, вывод и алгоритмы обучения. Кембридж: Издательство Кембриджского университета, 2003. ISBN 0-521-64298-1
Ричард О. Дуда , Питер Э. Харт , Дэвид Г. Сторк (2001) Классификация моделей (2-е издание), Уайли, Нью-Йорк, ISBN 0-471-05669-3 .
Кристофер Бишоп (1995). Нейронные сети для распознавания образов , Издательство Оксфордского университета. ISBN 0-19-853864-2 .
Владимир Вапник (1998). Статистическая теория обучения . Вили-Интерсайенс, ISBN 0-471-03003-1 .
Рэй Соломонов , Машина индуктивного вывода , Протокол конференции IRE, Раздел теории информации, Часть 2, стр., 56–62, 1957.
Рэй Соломонов , « Машина индуктивного вывода » Распространенный в частном порядке отчет Дартмутской летней исследовательской конференции по искусственному интеллекту 1956 года .

Ссылки

^ http://www.britannica.com/EBchecked/topic/1116194/machine-learning Этот третичный источник повторно использует информацию из других источников, но не называет их.
^ Фил Саймон (18 марта 2013 г.). Слишком большой, чтобы его игнорировать: экономическое обоснование больших данных . Уайли. п. 89. ИСБН 978-1-118-63817-0 .
^ Рон Кохави; Фостер Провост (1998). «Словарь терминов» . Машинное обучение . 30 : 271–274. дои : 10.1023/A:1007411609915 .
^ Сеттлс, Берр (2010), «Обзор литературы по активному обучению» (PDF) , Технический отчет по компьютерным наукам 1648. Университет Висконсина – Мэдисона , получено 18 ноября 2014 г.
^ Рубенс, Нил; Элахи, Мехди; Сугияма, Масаси; Каплан, Дейн (2016). «Активное обучение в рекомендательных системах». В Риччи, Франческо; Рокач, Лиор; Шапира, Брача (ред.). Справочник по рекомендательным системам (2-е изд.). Спрингер США. дои : 10.1007/978-1-4899-7637-6 . hdl : 11311/1006123 . ISBN 978-1-4899-7637-6 . S2CID 11569603 .

Внешние ссылки

Наука о данных: данные для анализа от MIT (машинное обучение)
Популярный онлайн-курс Эндрю Нга на Coursera . Он использует GNU Octave . Этот курс представляет собой бесплатную версию реального курса Стэнфордского университета , преподаваемого Нг, см. stanford.edu/Course/CS229, доступный бесплатно].
mloss — это академическая база данных программного обеспечения для машинного обучения с открытым исходным кодом.

[Britannica-1] ttp://www.britannica.com/EBchecked/topic/1116194/machine-learning Этот третичный источник повторно использует информацию из других источников, но не называет их.

[arthur_samuel_machine_learning_def-2] Фил Саймон (18 марта 2013 г.). Слишком большой, чтобы его игнорировать: экономическое обоснование больших данных . Уайли. п. 89. ИСБН 978-1-118-63817-0 .

[3] Рон Кохави; Фостер Провост (1998). «Словарь терминов» . Машинное обучение . 30 : 271–274. дои : 10.1023/A:1007411609915 .

[settles-4] Сеттлс, Берр (2010), «Обзор литературы по активному обучению» (PDF) , Технический отчет по компьютерным наукам 1648. Университет Висконсина – Мэдисона , получено 18 ноября 2014 г.

[rubens2016-5] Рубенс, Нил; Элахи, Мехди; Сугияма, Масаси; Каплан, Дейн (2016). «Активное обучение в рекомендательных системах». В Риччи, Франческо; Рокач, Лиор; Шапира, Брача (ред.). Справочник по рекомендательным системам (2-е изд.). Спрингер США. дои : 10.1007/978-1-4899-7637-6 . hdl : 11311/1006123 . ISBN 978-1-4899-7637-6 . S2CID 11569603 .

[1]

[2]

[3]

[4]

[5]