Нейроэволюция
(Перенаправлено с Эволюционной нейронной сети )
Нейроэволюция , или нейроэволюция , — это форма искусственного интеллекта , которая использует эволюционные алгоритмы для создания искусственных нейронных сетей (ИНС), параметров и правил. [ 1 ] Чаще всего применяется в искусственной жизни , обычных играх. [ 2 ] и эволюционная робототехника . Основное преимущество заключается в том, что нейроэволюцию можно применять более широко, чем алгоритмы обучения с учителем , которые требуют программы правильных пар ввода-вывода. Напротив, нейроэволюция требует лишь измерения производительности сети при выполнении задачи. Например, результат игры (то есть, выиграл или проиграл один игрок) можно легко измерить, не предоставляя помеченных примеров желаемых стратегий. Нейроэволюция обычно используется как часть парадигмы обучения с подкреплением , и ее можно противопоставить традиционным методам глубокого обучения, которые используют обратное распространение ошибки ( градиентный спуск в нейронной сети) с фиксированной топологией.
Функции
[ редактировать ]множество алгоритмов Было определено нейроэволюции. Одно общее различие заключается между алгоритмами, которые развивают только силу весов соединений для фиксированной топологии сети (иногда называемыми традиционной нейроэволюцией), и алгоритмами, которые развивают как топологию сети, так и ее веса (называемые TWEANN, для топологии и искусственного изменения веса). Алгоритмы нейронной сети).
Отдельно можно провести различие между методами, развивающими структуру ИНС параллельно с ее параметрами (применяющими стандартные эволюционные алгоритмы), и теми, которые разрабатывают их отдельно (посредством меметических алгоритмов ). [ 3 ]
Сравнение с градиентным спуском
[ редактировать ]Большинство нейронных сетей используют градиентный спуск, а не нейроэволюцию. Однако примерно в 2017 году исследователи из Uber заявили, что обнаружили, что простые алгоритмы структурной нейроэволюции конкурентоспособны со сложными современными стандартными алгоритмами глубокого обучения с градиентным спуском , отчасти потому, что нейроэволюция с меньшей вероятностью застревает в локальных минимумах. В науке , Журналист Мэтью Хатсон предположил, что одна из причин успеха нейроэволюции там, где она потерпела неудачу раньше, связана с возросшей вычислительной мощностью, доступной в 2010-х годах. [ 4 ]
Можно показать, что существует соответствие между нейроэволюцией и градиентным спуском. [ 5 ]
Прямое и косвенное кодирование
[ редактировать ]Эволюционные алгоритмы работают с популяцией генотипов (также называемых геномами ). В нейроэволюции генотип сопоставляется с фенотипом нейронной сети , который оценивается при выполнении некоторой задачи для определения его пригодности .
В схемах прямого кодирования генотип напрямую сопоставляется с фенотипом. То есть каждый нейрон и соединение в нейронной сети прямо и явно указаны в генотипе. Напротив, в схемах косвенного кодирования генотип косвенно определяет, как должна быть создана эта сеть. [ 6 ]
Косвенное кодирование часто используется для достижения нескольких целей: [ 6 ] [ 7 ] [ 8 ] [ 9 ] [ 10 ]
- модульность и другие закономерности;
- сжатие фенотипа до меньшего генотипа, обеспечивающее меньшее пространство поиска;
- сопоставление пространства поиска (генома) с проблемной областью.
Таксономия эмбриогенных систем непрямого кодирования
[ редактировать ]Традиционно непрямое кодирование, использующее искусственную эмбриогенез (также известное как искусственное развитие ), подразделяется на две категории: грамматический подход и подход клеточной химии . [ 11 ] Первый развивает наборы правил в форме систем грамматического переписывания. Последний пытается имитировать то, как физические структуры возникают в биологии посредством экспрессии генов. Системы косвенного кодирования часто используют аспекты обоих подходов.
Стэнли и Мииккулайнен [ 11 ] предложить таксономию эмбриогенных систем, призванную отразить их основные свойства. Таксономия выделяет пять непрерывных измерений, по которым можно разместить любую эмбриогенную систему:
- Судьба клетки (нейрона) : окончательные характеристики и роль клетки в зрелом фенотипе. Это измерение подсчитывает количество методов, используемых для определения судьбы клетки.
- Таргетинг : метод, с помощью которого соединения направляются из ячеек-источников в ячейки-мишени. Это варьируется от конкретного нацеливания (источник и цель четко идентифицируются) до относительного нацеливания (например, на основе местоположения клеток относительно друг друга).
- Гетерохрония : время и порядок событий во время эмбриогенеза. Подсчитывает количество механизмов изменения времени событий.
- Канализация : насколько толерантен геном к мутациям (хрупкости). Диапазон варьируется от требования точных генотипических инструкций до высокой толерантности к неточным мутациям.
- Комплексификация : способность системы (включая эволюционный алгоритм и сопоставление генотипа с фенотипом) допускать комплексификацию генома (и, следовательно, фенотипа) с течением времени. Диапазон варьируется от разрешения только геномов фиксированного размера до разрешения геномов с очень переменной длиной.
Примеры
[ редактировать ]Примеры методов нейроэволюции (те, которые имеют прямую кодировку, обязательно неэмбриогенны):
| Метод | Кодирование | Эволюционный алгоритм | Аспекты развивались |
|---|---|---|---|
| Нейрогенетическая эволюция Э. Рональда, 1994 г. [ 12 ] | Прямой | Генетический алгоритм | Вес сети |
| Сотовое кодирование (CE) Ф. Груау, 1994 г. [ 8 ] | Косвенный, эмбриогенный (грамматическое дерево с использованием S-выражений ) | Генетическое программирование | Структура и параметры (одновременно, комплексификация) |
| GNARL Анджелины и др., 1994 г. [ 13 ] | Прямой | Эволюционное программирование | Структура и параметры (одновременно, комплексификация) |
| EPNet Яо и Лю, 1997 г. [ 14 ] | Прямой | Эволюционное программирование (в сочетании с обратным распространением ошибки и имитацией отжига ) | Структура и параметры (смешанная, усложнение и упрощение) |
| Нейроэволюция расширяющих топологий (NEAT), Стэнли и Мииккулайнен, 2002 г. [ 15 ] [ 16 ] | Прямой | Генетический алгоритм . Отслеживает гены с помощью исторических меток, что позволяет осуществлять кроссовер между различными топологиями, защищает инновации посредством видообразования. | Структура и параметры |
| NeuroEvolution of Augmenting Topology (HyperNEAT) на основе гиперкуба Стэнли, Д'Амброзио, Гаучи, 2008 г. [ 7 ] | Косвенный, неэмбриогенный (пространственные паттерны, генерируемые сетью, создающей композиционные паттерны (CPPN) внутри гиперкуба, интерпретируются как паттерны связности в пространстве более низкой размерности) | Генетический алгоритм . Алгоритм NEAT (выше) используется для развития CPPN. | Параметры, структура фиксированная (функционально полносвязная) |
| Нейроэволюция расширяющих топологий на основе гиперкуба с изменяемым субстратом (ES-HyperNEAT), Ризи, Стэнли, 2012 г. [ 10 ] | Косвенный, неэмбриогенный (пространственные паттерны, генерируемые сетью, создающей композиционные паттерны (CPPN) внутри гиперкуба, интерпретируются как паттерны связности в пространстве более низкой размерности) | Генетический алгоритм . Алгоритм NEAT (выше) используется для развития CPPN. | Параметры и структура сети |
| Эволюционное приобретение нейронных топологий (EANT/EANT2) Кассахуна и Зоммера, 2005 г. [ 17 ] / Зибель и Зоммер, 2007 г. [ 18 ] | Прямые и непрямые, потенциально эмбриогенные (общая генетическая кодировка). [ 6 ] ) | Эволюционное программирование / Стратегии эволюции | Структура и параметры (отдельно комплексификация) |
| Интерактивно ограниченная нейроэволюция (ICONE) Ремписа, 2012 г. [ 19 ] | Direct включает маски ограничений для ограничения поиска определенными многообразиями топологии/параметров. | Эволюционный алгоритм . Использует маски ограничений, чтобы резко сократить пространство поиска за счет использования знаний предметной области . | Структура и параметры (отдельно, комплексификация, интерактивно) |
| Нейронная сеть Deus Ex (DXNN), Джин Шер, 2012 г. [ 20 ] | Прямое/косвенное, включает ограничения, локальную настройку и позволяет интегрировать новые датчики и исполнительные механизмы. | Меметический алгоритм . Развивает структуру и параметры сети в разных временных масштабах. | Структура и параметры (отдельно, комплексификация, интерактивно) |
| Единая нейроэволюционная архитектура (SUNA), разнообразная по спектру, авторы Данило Васконселлос Варгас, Джуничи Мурата [ 21 ] ( Скачать код ) | Direct представляет унифицированное нейронное представление (представление, объединяющее большинство функций нейронной сети из литературы). | Генетический алгоритм с механизмом сохранения разнообразия, называемым спектральным разнообразием , который хорошо масштабируется в зависимости от размера хромосом, не зависит от проблем и больше ориентирован на получение разнообразия поведений/подходов высокого уровня. концепция хромосомного спектра Для достижения такого разнообразия вводится , которая используется вместе с картой новизны популяции . | Структура и параметры (смешанная, усложнение и упрощение) |
| Модульный агентный эволювер (MABE) Клиффорда Бома, Аренда Хинтце и других. [ 22 ] ( Скачать код ) | Прямое или косвенное кодирование сетей Маркова , нейронных сетей, генетического программирования и других произвольно настраиваемых контроллеров. | Предоставляет эволюционные алгоритмы, алгоритмы генетического программирования и позволяет настраивать алгоритмы, а также указывать произвольные ограничения. | Развиваемые аспекты включают нейронную модель и позволяют, среди прочего, эволюцию морфологии и полового отбора. |
| Адаптация ковариационной матрицы с помощью алгоритма адаптивной сетки с гиперобъемной сортировкой (CMA-HAGA) Шахина Ростами и других. [ 23 ] [ 24 ] | Direct включает в себя функцию атавизма , которая позволяет чертам исчезать и снова появляться в разных поколениях. | многоцелевой Стратегия эволюции с формулированием предпочтений ( вычислительное управление ) | Структура, веса и предвзятости. |
| GACNN, основанная на эволюционном давлении, автор: Ди Биази и др., [ 25 ] | Прямой | Генетический алгоритм , одноцелевая стратегия эволюции, специализирующаяся на сверточной нейронной сети | Структура |
| Fast-DENSER от Ассунсао и др. [ 26 ] и другие [ 27 ] [ 28 ] | Косвенный | Грамматическая эволюция (динамическая структурированная грамматическая эволюция) [ 29 ] | Структура и оптимизатор, используемые для обучения |
См. также
[ редактировать ]- Автоматизированное машинное обучение (AutoML)
- Эволюционные вычисления
- Нейроэволюция расширяющих топологий (NEAT)
- HyperNEAT (генеративная версия NEAT)
- Эволюционное приобретение нейронных топологий (EANT/EANT2)
Ссылки
[ редактировать ]- ^ Стэнли, Кеннет О. (13 июля 2017 г.). «Нейроэволюция: другой вид глубокого обучения» . О'Рейли Медиа . Проверено 4 сентября 2017 г.
- ^ Ризи, Себастьян; Тогелиус, Джулиан (2017). «Нейроэволюция в играх: современное состояние и открытые проблемы». Транзакции IEEE по вычислительному интеллекту и искусственному интеллекту в играх . 9 : 25–41. arXiv : 1410.7326 . дои : 10.1109/TCIAIG.2015.2494596 . S2CID 11245845 .
- ^ Тогелиус, Джулиан; Шауль, Том; Шмидхубер, Юрген; Гомес, Фаустино (2008). «Противодействие ядовитым воздействиям с помощью меметической нейроэволюции». Параллельное решение проблем из природы – PPSN X. Конспекты лекций по информатике. Том. 5199. стр. 610–619. дои : 10.1007/978-3-540-87700-4_61 . ISBN 978-3-540-87699-1 .
- ^ Хатсон, Мэтью (11 января 2018 г.). «Искусственный интеллект может «развиваться» для решения проблем». Наука . дои : 10.1126/science.aas9715 .
- ^ Уайтлам, Стивен; Селин, Виктор; Пак, Сан-Вон; Тэмблин, Исаак (2 ноября 2021 г.). «Соответствие между нейроэволюцией и градиентным спуском» . Природные коммуникации . 12 (1): 6317. arXiv : 2008.06643 . Бибкод : 2021NatCo..12.6317W . дои : 10.1038/s41467-021-26568-2 . ПМЦ 8563972 . ПМИД 34728632 .
- ^ Jump up to: а б с Кассахун, Йоханнес; Соммер, Джеральд; Эджингтон, Марк; Метцен, Ян Хендрик; Киршнер, Франк (2007), «Общее генетическое кодирование как для прямого, так и для косвенного кодирования сетей», Конференция по генетическим и эволюционным вычислениям , ACM Press, стр. 1029–1036, CiteSeerX 10.1.1.159.705
- ^ Jump up to: а б Гаучи, Стэнли (2007), «Создание крупномасштабных нейронных сетей посредством обнаружения геометрических закономерностей» (PDF) , Конференция по генетическим и эволюционным вычислениям , Нью-Йорк, Нью-Йорк: ACM
- ^ Jump up to: а б Груо, Фредерик; Я, Университет Клода Бернар-Лайона; Докторантура, А. Диплом Де; Демонжо, М. Жак; Коснар, экзаменаторы М. Мишель; Мазуайе, М. Жак; Перетто, М. Пьер; Уитли, М. Дарелл (1994). Синтез нейронной сети с использованием клеточного кодирования и генетического алгоритма . CiteSeerX 10.1.1.29.5939 .
- ^ Клюн, Дж.; Стэнли, Кеннет О.; Пеннок, RT; Офрия, К. (июнь 2011 г.). «О производительности косвенного кодирования в континууме регулярности». Транзакции IEEE в эволюционных вычислениях . 15 (3): 346–367. CiteSeerX 10.1.1.375.6731 . дои : 10.1109/TEVC.2010.2104157 . ISSN 1089-778X . S2CID 3008628 .
- ^ Jump up to: а б Ризи, Себастьян; Стэнли, Кеннет О. (октябрь 2012 г.). «Улучшенное кодирование на основе гиперкуба для развития размещения, плотности и связности нейронов» . Искусственная жизнь . 18 (4): 331–363. дои : 10.1162/ARTL_a_00071 . ПМИД 22938563 . S2CID 3256786 .
- ^ Jump up to: а б Стэнли, Кеннет О.; Мииккулайнен, Ристо (апрель 2003 г.). «Таксономия искусственной эмбриогении». Искусственная жизнь . 9 (2): 93–130. дои : 10.1162/106454603322221487 . ПМИД 12906725 . S2CID 2124332 .
- ^ Рональд, Эдмунд; Шенауэр, март (1994), «Генетический посадочный модуль: эксперимент по точному нейрогенетическому контролю», PPSN III, 1994 г., параллельное программирование, решение из природы , стр. 452–461, CiteSeerX 10.1.1.56.3139
- ^ Анджелина, ПиДжей; Сондерс, генеральный менеджер; Поллак, Дж. Б. (январь 1994 г.). «Эволюционный алгоритм, создающий рекуррентные нейронные сети». Транзакции IEEE в нейронных сетях . 5 (1): 54–65. CiteSeerX 10.1.1.64.1853 . дои : 10.1109/72.265960 . ПМИД 18267779 . S2CID 44767 .
- ^ Яо, X.; Лю, Ю. (май 1997 г.). «Новая эволюционная система развития искусственных нейронных сетей». Транзакции IEEE в нейронных сетях . 8 (3): 694–713. дои : 10.1109/72.572107 . ПМИД 18255671 .
- ^ Стэнли, Кеннет О.; Брайант, Бобби Д.; Мииккулайнен, Ристо (декабрь 2005 г.). «Нейроэволюция в реальном времени в видеоигре NERO» (PDF) .
- ^ Стэнли, Кеннет О.; Мииккулайнен, Ристо (июнь 2002 г.). «Развитие нейронных сетей посредством расширения топологий». Эволюционные вычисления . 10 (2): 99–127. CiteSeerX 10.1.1.638.3910 . дои : 10.1162/106365602320169811 . ПМИД 12180173 . S2CID 498161 .
- ^ Кассахун, Йоханнес; Соммер, Джеральд (апрель 2005 г.), «Эффективное обучение с подкреплением посредством эволюционного приобретения нейронных топологий» (PDF) , 13-й Европейский симпозиум по искусственным нейронным сетям , Брюгге, Бельгия, стр. 259–266.
{{citation}}: CS1 maint: отсутствует местоположение издателя ( ссылка ) - ^ Зибель, Нильс Т.; Соммер, Джеральд (17 октября 2007 г.). «Эволюционное обучение искусственных нейронных сетей с подкреплением». Международный журнал гибридных интеллектуальных систем . 4 (3): 171–183. дои : 10.3233/его-2007-4304 .
- ^ Ремпис, Кристиан Вильгельм (2012). Развитие сложных нейроконтроллеров с помощью интерактивно ограниченной нейроэволюции (Диссертация).
- ^ Шер, Джин И. (2013). Справочник по нейроэволюции с помощью Эрланга . дои : 10.1007/978-1-4614-4463-3 . ISBN 978-1-4614-4462-6 . S2CID 21777855 .
- ^ Варгас, Данило Васконселлос; Мурата, Дзюнъити (2019). «Нейроэволюция с разнообразным спектром и унифицированными нейронными моделями». Транзакции IEEE в нейронных сетях и системах обучения . 28 (8): 1759–1773. arXiv : 1902.06703 . Бибкод : 2019arXiv190206703V . дои : 10.1109/TNNLS.2016.2551748 . ПМИД 28113564 . S2CID 206757620 .
- ^ Эдлунд, Джеффри; Шомон, Николя; Хинтце, Аренд; Кох, Кристоф; Тонони, Джулио; Адами, Кристоф (2011). «Интегрированная информация увеличивается с приспособленностью в эволюции аниматов» . PLOS Вычислительная биология . 7 (10): e1002236. arXiv : 1103.1791 . Бибкод : 2011PLSCB...7E2236E . дои : 10.1371/journal.pcbi.1002236 . ПМК 3197648 . ПМИД 22028639 .
- ^ Ростами, Шахин; Нери, Ферранте (июнь 2017 г.). «Быстрый механизм выбора, управляемый гиперобъемом, для задач многоцелевой оптимизации». Рой и эволюционные вычисления . 34 : 50–67. дои : 10.1016/j.swevo.2016.12.002 . hdl : 2086/13102 .
- ^ Шенфилд, Алекс; Ростами, Шахин (2017). «Многоцелевая эволюция искусственных нейронных сетей в многоклассовых задачах медицинской диагностики с дисбалансом классов» (PDF) . Конференция IEEE 2017 по вычислительному интеллекту в биоинформатике и вычислительной биологии (CIBCB) . стр. 1–8. дои : 10.1109/CIBCB.2017.8058553 . ISBN 978-1-4673-8988-4 . S2CID 22674515 .
- ^ Ди Биази, Луиджи; Де Марко, Фабиола; Ауриемма Цитарелла, Алессия; Барра, Паола; Пиотто Пиотто, Стефано; Тортора, Дженовеффа (2023). «Гибридный подход к созданию CNNS с использованием генетических алгоритмов классификации меланомы» . У Руссо — Жан-Жак; Капралос, Билл (ред.). Распознавание образов, компьютерное зрение и обработка изображений. Международные семинары и задачи ICPR 2022 . Конспекты лекций по информатике. Том. 13643. Чам: Springer Nature Switzerland. стр. 514–528. дои : 10.1007/978-3-031-37660-3_36 . ISBN 978-3-031-37660-3 .
- ^ АССУНАСЬО, Фелипе; Лоренсу, Нуно; РИБЕЙРО, Бернардет; Мачадо, Пенусал (июнь 2021 г.). «Fast-DENSER: структурированное представление быстрой эволюционной сети» . Программное обеспечениеX . 14 : 100694. Бибкод : 2021SoftX..1400694A . дои : 10.1016/j.softx.2021.100694 . hdl : 10316/100856 .
- ^ Вайнс, Адриано; КОРРЕЯ, Жуан; Мачадо, Пенусал (20 июня 2024 г.), На пути к развитию глубоких нейронных сетей посредством контрастного самоконтролируемого обучения , arXiv : 2406.14525 , получено 21 июня 2024 г.
- ^ КОРТЕС, Габриэль; Лоренсу, Нуно; Мачадо, Пенусал (2024), Смит, Стивен; КОРРЕЯ, Жуан; Цинтрано, Кристиан (ред.), «К физическому правдоподобию в нейроэволюционных системах» , «Приложения эволюционных вычислений» , том. 14635, Чам: Springer Nature Switzerland, стр. 76–90, номер домена : 10.1007/978-3-031-56855-8_5 , ISBN. 978-3-031-56854-1 , получено 21 июня 2024 г.
- ^ Лоренсу, Нуно; АССУНАСЬО, Фелипе; ПЕРЕЙРА, Франсиско Б.; КОСТА, Эрнесто; Мачадо, Пенусал (2018), Райан, Конор; О'Нил, Майкл; Коллинз, Дж.Дж. (ред.), «Структурированная грамматическая эволюция: динамический подход» , Справочник по грамматической эволюции , Cham: Springer International Publishing, стр. 137–161, номер домена : 10.1007/978-3-319-78717-6_6 , ISBN. 978-3-319-78717-6 , получено 21 июня 2024 г.
Внешние ссылки
[ редактировать ]- «Эволюция 101: Нейроэволюция | МАЯК» . beacon-center.org . Проверено 14 января 2018 г.
- «Области ННРГ – Нейроэволюция» . nn.cs.utexas.edu . Техасский университет . Проверено 14 января 2018 г. (есть загружаемые документы по NEAT и приложениям)
- «Структура нейроэволюции SharpNEAT» . Sharpneat.sourceforge.net . Проверено 14 января 2018 г. зрелый проект нейроэволюции с открытым исходным кодом , реализованный на C#/.Net.
- ANNEvolve — это исследовательский проект искусственного интеллекта с открытым исходным кодом (загружаемый исходный код на C и Python с учебным пособием, различными статьями и иллюстрациями).
- «Нильс Т. Зибель – EANT2 – Эволюционное обучение нейронных сетей с подкреплением» . siebel-research.de . Проверено 14 января 2018 г. Веб-страница об эволюционном обучении с помощью EANT/EANT2] (информация и статьи об EANT/EANT2 с приложениями для обучения роботов)
- Инструментарий НЭРД. Набор инструментов для разработки нейродинамики и эволюционной робототехники. Бесплатная коллекция программного обеспечения с открытым исходным кодом для различных экспериментов по нейроконтролю и нейроэволюции. Включает в себя симулятор с поддержкой сценариев, несколько алгоритмов нейроэволюции (например, ICONE), поддержку кластеров, инструменты визуального проектирования сетей и анализа.
- «КортикальныйКомпьютер (Ген)» . Гитхаб . Проверено 14 января 2018 г. Исходный код нейроэволюционной системы DXNN.
- «Страница пользователя ES-HyperNEAT» . eplex.cs.ucf.edu . Проверено 14 января 2018 г.
