Машина Гельмгольца
Машина Гельмгольца (названная в честь Германа фон Гельмгольца и его концепции свободной энергии Гельмгольца ) — это тип искусственной нейронной сети , которая может учитывать скрытую структуру набора данных путем обучения созданию генеративной модели исходного набора данных. . [1] Есть надежда, что, изучая экономичное представление данных, базовая структура генеративной модели должна разумно аппроксимировать скрытую структуру набора данных. Машина Гельмгольца содержит две сети: восходящую сеть распознавания , которая принимает данные в качестве входных данных и создает распределение по скрытым переменным, и нисходящую «генеративную» сеть, которая генерирует значения скрытых переменных и сами данные. В то время машины Гельмгольца были одной из немногих обучающихся архитектур, которые использовали обратную связь, а также прямую связь для обеспечения качества изученных моделей. [2]
Машины Гельмгольца обычно обучаются с использованием алгоритма обучения без учителя , такого как алгоритм пробуждения-сна . [3] Они являются предшественниками вариационных автоэнкодеров , которые вместо этого обучаются с использованием обратного распространения ошибки . Машины Гельмгольца также могут использоваться в приложениях, требующих контролируемого алгоритма обучения (например, распознавание символов или позиционно-инвариантное распознавание объекта в поле).
См. также
[ редактировать ]Ссылки
[ редактировать ]- ^ Питер, Даян ; Хинтон, Джеффри Э .; Нил, Рэдфорд М .; Земель, Ричард С. (1995). «Машина Гельмгольца». Нейронные вычисления . 7 (5): 889–904. дои : 10.1162/neco.1995.7.5.889 . hdl : 21.11116/0000-0002-D6D3-E . ПМИД 7584891 . S2CID 1890561 .
- ^ Латтрелл СП (1994). Байесовский анализ самоорганизующихся карт. Нейронные вычисления. 1994, 1 сентября;6(5):767-94. [1]
- ^ Хинтон, Джеффри Э.; Даян, Питер ; Фрей, Брендан Дж.; Нил, Рэдфорд (26 мая 1995 г.). «Алгоритм пробуждения-сна для неконтролируемых нейронных сетей». Наука . 268 (5214): 1158–1161. Бибкод : 1995Sci...268.1158H . дои : 10.1126/science.7761831 . ПМИД 7761831 . S2CID 871473 .
Внешние ссылки
[ редактировать ]- http://www.cs.utoronto.ca/~hinton/helmholtz.html — статьи Хинтона о машинах Гельмгольца.
- https://www.nku.edu/~kirby/docs/HelmholtzTutorialKoeln.pdf — Учебное пособие по машинам Гельмгольца