Эволюционное приобретение нейронных топологий
Эволюционное приобретение нейронных топологий ( EANT / EANT2 ) — это эволюционный метод обучения с подкреплением , который развивает как топологию, так и веса искусственных нейронных сетей . Это тесно связано с работами Анджелины и др. [ 1 ] и Стэнли и Мииккулайнен. [ 2 ] Как и в работе Анджелины и др., в этом методе используется тип параметрической мутации, возникающий из стратегий эволюции и эволюционного программирования (теперь с использованием наиболее продвинутой формы стратегий эволюции CMA-ES в EANT2), в которой используются адаптивные размеры шагов. для оптимизации весов нейронных сетей. Подобно работе Стэнли ( NEAT ), метод начинается с минимальных структур, которые по мере эволюции усложняются.
Вклад EANT в нейроэволюцию
[ редактировать ]Несмотря на наличие этих двух свойств, метод имеет следующие важные особенности, которые отличают его от предыдущих работ в области нейроэволюции .
Он представляет генетическую кодировку, называемую общей генетической кодировкой (CGE), которая обрабатывает как прямое, так и косвенное кодирование нейронных сетей в рамках одной и той же теоретической основы. Кодировка обладает важными свойствами, которые делают ее подходящей для развития нейронных сетей:
- Он является полным в том смысле, что способен представлять все типы действительных фенотипических сетей.
- Он является закрытым , т.е. каждый действительный генотип представляет собой действительный фенотип. (Аналогично, кодирование закрыто для таких генетических операторов, как структурная мутация и скрещивание.)
Эти свойства формально доказаны. [ 3 ]
Для развития структуры и весов нейронных сетей используется эволюционный процесс, при котором исследование структур выполняется в большем масштабе времени (структурное исследование), а использование существующих структур выполняется в меньшем масштабе времени (структурное исследование). На этапе структурного исследования новые нейронные структуры разрабатываются путем постепенного добавления новых структур к изначально минимальной сети, которая используется в качестве отправной точки. На этапе структурной эксплуатации веса доступных на данный момент структур оптимизируются с использованием стратегии развития .
Производительность
[ редактировать ]EANT был протестирован на некоторых эталонных задачах, таких как задача двухполюсной балансировки, [ 4 ] и RoboCup . тест [ 5 ] Во всех тестах EANT показал себя очень хорошо. Более того, более новая версия EANT, названная EANT2, была протестирована на задаче визуального сервопривода и оказалась превосходящей NEAT и традиционный итеративный метод Гаусса-Ньютона . [ 6 ] Дальнейшие эксперименты включают результаты по проблеме классификации. [ 7 ]
Ссылки
[ редактировать ]- ^ Питер Дж. Анджелина, Грегори М. Сондерс и Джордан Б. Поллак. Эволюционный алгоритм, создающий рекуррентные нейронные сети. Транзакции IEEE в нейронных сетях, 5:54–65, 1994. [1]
- ^ NeuroEvolution of Augmented Topology (NEAT) Стэнли и Мииккулайнена, 2005 г. [2]
- ^ Йоханнес Кассахун, Марк Эджингтон, Ян Хендрик Метцен, Джеральд Соммер и Фрэнк Киршнер. Общее генетическое кодирование как для прямого, так и для косвенного кодирования сетей. В материалах конференции по генетическим и эволюционным вычислениям (GECCO 2007), Лондон, Великобритания, 1029–1036, 2007. [3]
- ^ Йоханнес Кассахун и Джеральд Соммер. Эффективное обучение с подкреплением посредством эволюционного приобретения нейронных топологий. В материалах 13-го Европейского симпозиума по искусственным нейронным сетям (ESANN 2005), страницы 259–266, Брюгге, Бельгия, апрель 2005 г. «Архивная копия» (PDF) . Архивировано из оригинала (PDF) 13 июня 2007 г. Проверено 11 февраля 2008 г.
{{cite web}}: CS1 maint: архивная копия в заголовке ( ссылка ) - ^ Ян Хендрик Метцен, Марк Эджингтон, Йоханнес Кассахун и Фрэнк Киршнер. Оценка производительности EANT в тесте RoboCup Keepaway Benchmark. В материалах шестой Международной конференции по машинному обучению и приложениям (ICMLA 2007), страницы 342–347, США, 2007 г. [4]
- ^ Нильс Т. Зибель и Джеральд Зоммер. Эволюционное обучение с подкреплением искусственных нейронных сетей. Международный журнал гибридных интеллектуальных систем 4 (3): 171–183, октябрь 2007 г. [5]
- ^ Нильс Т. Зибель и Джеральд Зоммер. Изучение классификаторов дефектов для изображений визуального контроля с помощью нейроэволюции с использованием слабо размеченных обучающих данных. Труды Конгресса IEEE по эволюционным вычислениям (CEC 2008), страницы 3926–3932, Гонконг, Китай, июнь 2008 г. [6] .