Неокогнитрон
Неокогнитрон предложенная — это иерархическая многослойная искусственная нейронная сеть, Кунихико Фукусимой в 1979 году. [1] Он использовался для распознавания японских рукописных символов и других задач распознавания образов и послужил источником вдохновения для создания сверточных нейронных сетей . [2]
Неокогнитрон был вдохновлен моделью, предложенной Хьюбелом и Визелем в 1959 году. Они обнаружили два типа клеток в первичной зрительной коре, называемые простыми клетками и сложными клетками , а также предложили каскадную модель этих двух типов клеток для использования в распознавании образов. задачи. [3] [4]
Неокогнитрон является естественным продолжением этих каскадных моделей. Неокогнитрон состоит из нескольких типов клеток, наиболее важные из которых называются S-клетками и C-клетками. [5] Локальные особенности извлекаются S-клетками, и деформация этих особенностей, такая как локальные сдвиги, допускается C-клетками. Локальные особенности входных данных постепенно интегрируются и классифицируются на более высоких уровнях. [6] Идея интеграции локальных функций встречается в нескольких других моделях, таких как модель сверточной нейронной сети , метод SIFT и метод HoG .
Существуют различные виды неокогнитрона. [7] Например, некоторые типы неокогнитронов могут обнаруживать несколько шаблонов в одном и том же вводе, используя обратные сигналы для достижения избирательного внимания . [8]
См. также [ править ]
- Искусственная нейронная сеть
- Глубокое обучение
- Распознавание образов
- Рецептивное поле
- Самоорганизующаяся карта
- Обучение без присмотра
Примечания [ править ]
- ^ Фукусима, Кунихико (октябрь 1979 г.). модель механизма распознавания образов, на которую не влияет сдвиг положения --- Неокогнитрон ---» «Нейросетевая ]. Trans . J62-A (10): 658–. 665.
- ^ ЛеКун, Янн; Бенджио, Йошуа; Хинтон, Джеффри (2015). «Глубокое обучение» (PDF) . Природа . 521 (7553): 436–444. Бибкод : 2015Natur.521..436L . дои : 10.1038/nature14539 . ПМИД 26017442 . S2CID 3074096 .
- ^ Дэвид Х. Хьюбель и Торстен Н. Визель (2005). Мозг и зрительное восприятие: история 25-летнего сотрудничества . Издательство Оксфордского университета, США. п. 106. ИСБН 978-0-19-517618-6 .
- ^ Хьюбель, Д.Х.; Визель, Теннесси (октябрь 1959 г.). «Рецептивные поля одиночных нейронов полосатой коры головного мозга кошки» . Дж. Физиол . 148 (3): 574–91. doi : 10.1113/jphysicalol.1959.sp006308 . ПМЦ 1363130 . ПМИД 14403679 .
- ^ Фукусима 1987 , стр. 83.
- ^ Фукусима 1987 , стр. 84.
- ^ Фукусима 2007 .
- ^ Фукусима 1987 , стр. 81, 85.
Ссылки [ править ]
- Фукусима, Кунихико (апрель 1980 г.). «Неокогнитрон: самоорганизующаяся модель нейронной сети для механизма распознавания образов, на который не влияет сдвиг положения». Биологическая кибернетика . 36 (4): 193–202. дои : 10.1007/bf00344251 . ПМИД 7370364 . S2CID 206775608 .
- Фукусима, Кунихико; Мияке, С.; Ито, Т. (1983). «Неокогнитрон: нейросетевая модель механизма распознавания визуальных образов». Транзакции IEEE по системам, человеку и кибернетике . SMC-13 (3): 826–834. дои : 10.1109/TSMC.1983.6313076 . S2CID 8235461 .
- Фукусима, Кунихико (1987). «Иерархическая модель нейронной сети для избирательного внимания». В Экмиллере, Р.; Фон дер Мальсбург, К. (ред.). Нейронные компьютеры . Спрингер-Верлаг. стр. 81–90.
- Фукусима, Кунихико (2007). «Неокогнитрон» . Схоларпедия . 2 (1): 1717. Бибкод : 2007SchpJ...2.1717F . doi : 10.4249/scholarpedia.1717 .
- Хьюбель, Д.Х.; Визель, Теннесси (1959). «Рецептивные поля одиночных нореонов в полосатой коре кошки» . Дж Физиол . 148 (3): 574–591. doi : 10.1113/jphysicalol.1959.sp006308 . ПМЦ 1363130 . ПМИД 14403679 .
Внешние ссылки [ править ]
- Неокогнитрон в Scholarpedia
- Неокогнитрон от Ing. Габриэль Минарик — приложение (C#) и видео
- Ресурсы по неокогнитрону на платформе Visiome - включают среду MATLAB
- Beholder — симулятор неокогнитрона