Автоассоциативная память
Автоассоциативная память , также известная как память автоассоциации или сеть автоассоциации , представляет собой любой тип памяти, который способен извлекать часть данных только из крошечного образца самой себя. Они очень эффективны для шумоподавления или устранения помех на входе и могут использоваться для определения того, является ли данный вход «известным» или «неизвестным».
В искусственной нейронной сети примеры включают вариационный автокодировщик , автокодировщик с шумоподавлением , сеть Хопфилда .
Что касается компьютерной памяти, идея ассоциативной памяти также называется памятью с адресацией по содержимому (CAM).
Говорят, что сеть распознает «известный» вектор, если сеть создает шаблон активации на выходных модулях, который совпадает с одним из векторов, хранящихся в ней.
Фон
[ редактировать ]Традиционная память
[ редактировать ]Традиционная память [ нужны разъяснения ] хранит данные по уникальному адресу и может вызвать данные при предоставлении полного уникального адреса.
![[икона]](http://upload.wikimedia.org/wikipedia/commons/thumb/1/1c/Wiki_letter_w_cropped.svg/20px-Wiki_letter_w_cropped.svg.png){kind=small} | Этот раздел нуждается в расширении . Вы можете помочь, добавив к нему . ( октябрь 2016 г. ) |
Автоассоциативная память
[ редактировать ]Аутоассоциативная память способна восстанавливать фрагмент данных при представлении лишь частичной информации. [ нужны разъяснения ] из этого фрагмента данных. Сети Хопфилда [1] были показаны [2] действовать как автоассоциативная память , поскольку они способны запоминать данные, наблюдая за частью этих данных.
Итеративная автоассоциативная сеть
[ редактировать ]В некоторых случаях автоассоциативная сеть не воспроизводит сохраненный шаблон с первого раза, но если результат первого показа снова вводится в сеть, сохраненный шаблон воспроизводится. [3] Они бывают еще трех видов: рекуррентный линейный автоассоциатор, [4] Сеть «Состояние мозга в коробке», [5] и дискретная сеть Хопфилда . Сеть Хопфилда — наиболее известный пример автоассоциативной памяти.
Сеть Хопфилда
[ редактировать ]Сети Хопфилда служат в качестве памяти с адресацией по содержимому («ассоциативными») систем с двоичными пороговыми узлами , и было показано, что они действуют как автоассоциативные, поскольку способны запоминать данные, наблюдая за частью этих данных. [2]
Гетероассоциативная память
[ редактировать ]С другой стороны, гетероассоциативные воспоминания могут вспомнить связанный фрагмент данных из одной категории при представлении данных из другой категории. Например: возможно, что ассоциативное воспоминание представляет собой трансформацию шаблона «банан» в другой шаблон «обезьяна». [6]
Двунаправленная ассоциативная память (БАМ)
[ редактировать ]Двунаправленная ассоциативная память (БАМ) [7] — это искусственные нейронные сети , которые уже давно используются для гетероассоциативного запоминания.
Пример
[ редактировать ]Например, представленных ниже фрагментов предложений достаточно, чтобы большинство англоговорящих взрослых людей могли вспомнить недостающую информацию.
- «Быть или не быть — это _____».
- «Пришел, увидел, _____».
Многие читатели поймут, что недостающая информация на самом деле:
- «Быть или не быть, вот в чем вопрос».
- «Пришел, увидел, победил».
Это демонстрирует способность автоассоциативных сетей запоминать целое, используя некоторые его части.
| Этот раздел нуждается в расширении . Вы можете помочь, добавив к нему . ( октябрь 2016 г. ) |
Ссылки
[ редактировать ]- ^ Хопфилд, Джей-Джей (1 апреля 1982 г.). «Нейронные сети и физические системы с возникающими коллективными вычислительными способностями» . Труды Национальной академии наук Соединенных Штатов Америки . 79 (8): 2554–8. Бибкод : 1982PNAS...79.2554H . дои : 10.1073/pnas.79.8.2554 . ПМЦ 346238 . ПМИД 6953413 .
- ^ Jump up to: а б Коппин, Бен (2004). Искусственный интеллект с подсветкой . Джонс и Бартлетт Обучение. ISBN 978-0-7637-3230-1 .
- ^ Джугал, Калита (2014). «Ассоциация шаблонов или ассоциативные сети» (PDF) . CS 5870: Введение в искусственные нейронные сети . Университет Колорадо.
- ^ Томас, MSC; Макклелланд, Дж. Л. (2008). «Коннекционистские модели познания» (PDF) . В Сан, Р. (ред.). Кембриджский справочник по вычислительной психологии . Издательство Кембриджского университета. стр. 23–58. CiteSeerX 10.1.1.144.6791 . дои : 10.1017/CBO9780511816772.005 . ISBN 9780521674102 .
- ^ Голден, Ричард М. (1 марта 1986 г.). «Нейронная модель «Состояние мозга в коробке» представляет собой алгоритм градиентного спуска». Журнал математической психологии . 30 (1): 73–80. дои : 10.1016/0022-2496(86)90043-X . ISSN 0022-2496 .
- ^ Хирахара, Макото (2009), «Ассоциативная память», в Биндере, Марк Д.; Хирокава, Нобутака; Виндхорст, Уве (ред.), Энциклопедия неврологии , Берлин, Гейдельберг: Springer, стр. 195, номер домена : 10.1007/978-3-540-29678-2_392 , ISBN 978-3-540-29678-2
- ^ Коско, Б. (1988). «Двунаправленные ассоциативные воспоминания» (PDF) . Транзакции IEEE по системам, человеку и кибернетике . 18 (1): 49–60. дои : 10.1109/21.87054 .