Рекуррентное обратное распространение ошибки Алмейды – Пинеды
Рекуррентное обратное распространение ошибки Алмейды-Пинеды — это расширение обратного распространения ошибки алгоритма , применимое к рекуррентным нейронным сетям . Это тип контролируемого обучения . Он был описан несколько загадочно в дипломной работе Ричарда Фейнмана и независимо заново открыт в контексте искусственных нейронных сетей Фернандо Пинедой и Луисом Б. Алмейдой . [ 1 ] [ 2 ] [ 3 ]
Рекуррентная нейронная сеть для этого алгоритма состоит из нескольких входных блоков, некоторых выходных блоков и, в конечном итоге, некоторых скрытых блоков.
Для заданного набора состояний (входное, целевое) сеть обучается переходить в стабильное состояние активации с выходными модулями в целевом состоянии на основе заданного входного состояния, зафиксированного на входных модулях.
Ссылки
[ редактировать ]- ^ Фейнман, Ричард П. (август 1939 г.). «Силы в молекулах». Физический обзор . 56 (4). Американское физическое общество: 340–3. Бибкод : 1939PhRv...56..340F . дои : 10.1103/PhysRev.56.340 .
- ^ Пинеда, Фернандо (9 ноября 1987 г.). «Обобщение обратного распространения ошибки на рекуррентные нейронные сети». Письма о физических отзывах . 19 (59): 2229–32. Бибкод : 1987PhRvL..59.2229P . doi : 10.1103/PhysRevLett.59.2229 . ПМИД 10035458 .
- ^ Алмейда, Луис Б. (июнь 1987 г.). Правило обучения асинхронных перцептронов с обратной связью в комбинаторной среде . Первая международная конференция IEEE по нейронным сетям. Сан-Диего, Калифорния, США. стр. 608–18.