Машина Больцмана

Графическое изображение примера машины Больцмана. Каждое ненаправленное ребро представляет зависимость. В этом примере есть 3 скрытых блока и 4 видимых блока. Это не ограниченная машина Больцмана.

Машина Больцмана (также называемая моделью Шеррингтона-Киркпатрика с внешним полем или стохастической моделью Изинга ), названная в честь Людвига Больцмана, представляет собой стохастическую модель спинового стекла с внешним полем, т. е. модель Шеррингтона-Киркпатрика , это стохастическая модель Изинга . Это метод статистической физики, применяемый в контексте когнитивной науки . Его также классифицируют как марковское случайное поле .

Машины Больцмана теоретически интригуют из-за локальности и хеббианской природы их алгоритма обучения (обучающихся по правилу Хебба), а также из-за их параллелизма и сходства их динамики с простыми физическими процессами . Машины Больцмана с неограниченной связностью не оказались полезными для решения практических задач машинного обучения или вывода , но если связность правильно ограничена, обучение можно сделать достаточно эффективным, чтобы его можно было использовать для решения практических задач.

Они названы в честь распределения Больцмана в статистической механике , которое используется в их функции выборки . Их активно популяризировали и продвигали Джеффри Хинтон , Терри Сейновски и Янн Лекун в сообществах когнитивных наук, особенно в области машинного обучения . как часть « энергетических моделей » (EBM), поскольку гамильтонианы спиновых стекол как энергия используются в качестве отправной точки для определения задачи обучения.

Структура

Графическое изображение машины Больцмана с обозначением нескольких гирь. Каждое ненаправленное ребро представляет зависимость и имеет вес $w_{ij}$. В этом примере есть 3 скрытых объекта (синие) и 4 видимых объекта (белые). Это не ограниченная машина Больцмана.

Машина Больцмана, как и модель Шеррингтона-Киркпатрика , представляет собой сеть блоков с полной «энергией» ( гамильтонианом ), определенной для всей сети. Его единицы выдают двоичные результаты. Машинные веса Больцмана стохастические . Глобальная энергия $E$ в машине Больцмана по форме идентична машинам Хопфилда и моделям Изинга :

$E=-\left(\sum _{i<j}w_{ij}\,s_{i}\,s_{j}+\sum _{i}\theta _{i}\,s_{i}\right)$

Где:

• $w_{ij}$ это сила соединения между блоком $j$ и единица $i$.
• $s_{i}$ это государство, $s_{i}\in \{0,1\}$, единицы $i$.
• $\theta _{i}$ это смещение единицы $i$ в глобальной энергетической функции. ( $-\theta _{i}$ — порог активации устройства.)

Часто веса $w_{ij}$ представлены в виде симметричной матрицы $W=[w_{ij}]$ с нулями по диагонали.

Вероятность единичного состояния

Разница в глобальной энергии, возникающей в результате работы одного устройства $i$ равное 0 (выключено) против 1 (включено), записано $\Delta E_{i}$, предполагая симметричную матрицу весов, определяется как:

$\Delta E_{i}=\sum _{j>i}w_{ij}\,s_{j}+\sum _{j<i}w_{ji}\,s_{j}+\theta _{i}$

Это можно выразить как разность энергий двух состояний:

$\Delta E_{i}=E_{\text{i=off}}-E_{\text{i=on}}$

Замена энергии каждого состояния его относительной вероятностью в соответствии с фактором Больцмана (свойство распределения Больцмана , заключающееся в том, что энергия состояния пропорциональна отрицательной логарифмической вероятности этого состояния) дает:

$\Delta E_{i}=-k_{B}\,T\ln(p_{\text{i=off}})-(-k_{B}\,T\ln(p_{\text{i=on}}))$

где $k_{B}$ - постоянная Больцмана , которая включена в искусственное представление о температуре. $T$. Затем мы переставляем члены и считаем, что вероятность включения и выключения устройства должна в сумме равняться единице:

${\frac {\Delta E_{i}}{T}}=\ln(p_{\text{i=on}})-\ln(p_{\text{i=off}})$

${\frac {\Delta E_{i}}{T}}=\ln(p_{\text{i=on}})-\ln(1-p_{\text{i=on}})$

${\frac {\Delta E_{i}}{T}}=\ln \left({\frac {p_{\text{i=on}}}{1-p_{\text{i=on}}}}\right)$

$-{\frac {\Delta E_{i}}{T}}=\ln \left({\frac {1-p_{\text{i=on}}}{p_{\text{i=on}}}}\right)$

$-{\frac {\Delta E_{i}}{T}}=\ln \left({\frac {1}{p_{\text{i=on}}}}-1\right)$

$\exp \left(-{\frac {\Delta E_{i}}{T}}\right)={\frac {1}{p_{\text{i=on}}}}-1$

Решение для $p_{\text{i=on}}$, вероятность того, что $i$-й юнит включен дает:

$p_{\text{i=on}}={\frac {1}{1+\exp(-{\frac {\Delta E_{i}}{T}})}}$

где скаляр $T$ называется температурой системы. Это соотношение является источником логистической функции , находящейся в вероятностных выражениях в вариантах машины Больцмана.

Равновесное состояние

Сеть работает путем многократного выбора устройства и сброса его состояния. После достаточно долгой работы при определенной температуре вероятность глобального состояния сети зависит только от энергии этого глобального состояния в соответствии с распределением Больцмана , а не от начального состояния, из которого был запущен процесс. Это означает, что логарифмические вероятности глобальных состояний становятся линейными по своим энергиям. Это соотношение верно, когда машина находится «в тепловом равновесии », а это означает, что распределение вероятностей глобальных состояний сходится. Запуск сети начинается с высокой температуры, ее температура постепенно снижается до достижения теплового равновесия при более низкой температуре. Затем оно может сходиться к распределению, в котором уровень энергии колеблется вокруг глобального минимума. Этот процесс называется имитацией отжига .

Чтобы обучить сеть так, чтобы вероятность ее сходимости к глобальному состоянию в соответствии с внешним распределением по этим состояниям, веса должны быть установлены так, чтобы глобальные состояния с наибольшей вероятностью получали наименьшую энергию. Это достигается путем обучения.

Обучение

Единицы в машине Больцмана разделены на «видимые» единицы V и «скрытые» единицы H. Видимые единицы — это те, которые получают информацию из «окружения», т.е. обучающий набор представляет собой набор двоичных векторов по множество V. Распределение по обучающему набору обозначается $P^{+}(V)$.

Распределение по глобальным состояниям сходится, когда машина Больцмана достигает теплового равновесия . Мы обозначим это распределение после того, как мы маргинализируем его по скрытым единицам, как $P^{-}(V)$.

Наша цель — приблизиться к «реальному» распределению. $P^{+}(V)$ используя $P^{-}(V)$ производится машиной. Сходство двух распределений измеряется расхождением Кульбака – Лейблера , $G$:

$G=\sum _{v}{P^{+}(v)\ln \left({\frac {P^{+}(v)}{P^{-}(v)}}\right)}$

где сумма ведется по всем возможным состояниям $V$. $G$ является функцией весов, так как они определяют энергию состояния, а энергия определяет $P^{-}(v)$, как и обещает распределение Больцмана. Алгоритм градиентного спуска $G$ изменяет заданный вес, $w_{ij}$, вычитая частную производную $G$ относительно веса.

Тренировка на машине Больцмана включает в себя два чередующихся этапа. Одна из них — «положительная» фаза, когда состояния видимых единиц фиксируются к определенному вектору двоичного состояния, выбранному из обучающего набора (согласно $P^{+}$). Другая — это «негативная» фаза, когда сети разрешено работать свободно, т. е. состояние только входных узлов определяется внешними данными, а выходным узлам разрешено плавающее состояние. Градиент по отношению к заданному весу, $w_{ij}$, определяется уравнением:

${\frac {\partial {G}}{\partial {w_{ij}}}}=-{\frac {1}{R}}[p_{ij}^{+}-p_{ij}^{-}]$

где:

• $p_{ij}^{+}$ — это вероятность того, что блоки i и j включены, когда машина находится в равновесии на положительной фазе.
• $p_{ij}^{-}$ — это вероятность того, что блоки i и j включены, когда машина находится в равновесии на отрицательной фазе.
• $R$ обозначает скорость обучения

Этот результат следует из того, что при тепловом равновесии вероятность $P^{-}(s)$ любого глобального государства $s$ когда сеть работает автономно, определяется распределением Больцмана.

Это правило обучения биологически правдоподобно, поскольку единственная информация, необходимая для изменения весов, предоставляется «локальной» информацией. То есть соединению ( биологически синапсу ) не нужна информация ни о чем, кроме двух нейронов, которые оно соединяет. Это более биологически реалистично, чем информация, необходимая для соединения во многих других алгоритмах обучения нейронных сетей, таких как обратное распространение ошибки .

Обучение машины Больцмана не использует алгоритм EM , который широко используется в машинном обучении . Минимизация KL-дивергенции эквивалентна максимизации логарифмического правдоподобия данных. Таким образом, процедура обучения выполняет градиентное восхождение на основе логарифмического правдоподобия наблюдаемых данных. В этом отличие от алгоритма EM, где апостериорное распределение скрытых узлов должно быть рассчитано до максимизации ожидаемого значения полной вероятности данных во время M-шага.

Обучение смещений аналогично, но использует только активность одного узла:

${\frac {\partial {G}}{\partial {\theta _{i}}}}=-{\frac {1}{R}}[p_{i}^{+}-p_{i}^{-}]$

Проблемы

Теоретически машина Больцмана представляет собой довольно общую вычислительную среду. Например, при обучении на фотографиях машина теоретически моделирует распространение фотографий и может использовать эту модель, например, для завершения частичной фотографии.

К сожалению, машины Больцмана сталкиваются с серьезной практической проблемой, а именно: кажется, что они перестают правильно обучаться, когда машина масштабируется до чего-то большего, чем тривиальный размер. Это связано с важными эффектами, а именно:

• требуемый временной порядок для сбора статистики равновесия растет экспоненциально с размером машины и с величиной силы соединения.
• Сила связи более пластична, когда связанные единицы имеют вероятности активации, промежуточные между нулем и единицей, что приводит к так называемой ловушке дисперсии. силы соединения Конечным эффектом является то, что шум приводит к случайному блужданию до тех пор, пока активность не достигнет насыщения.

Типы

Ограниченная машина Больцмана

Графическое изображение ограниченной машины Больцмана. Четыре синих блока представляют собой скрытые блоки, а три красных блока представляют видимые состояния. В ограниченных машинах Больцмана имеются только связи (зависимости) между скрытыми и видимыми единицами и нет связей между однотипными единицами (нет ни скрыто-скрытых, ни видимо-видимых связей).

Основная статья: Ограниченная машина Больцмана

Хотя обучение в обычных машинах Больцмана непрактично, его можно сделать весьма эффективным в ограниченной машине Больцмана (RBM), которая не допускает внутриуровневых связей между скрытыми и видимыми модулями, т.е. нет связи между видимыми и видимыми и скрытыми со скрытыми модулями. . После обучения одного RBM деятельность его скрытых подразделений можно рассматривать как данные для обучения RBM более высокого уровня. Этот метод объединения RBM позволяет эффективно обучать множество слоев скрытых модулей и является одной из наиболее распространенных стратегий глубокого обучения . По мере добавления каждого нового слоя генеративная модель улучшается.

Расширение ограниченной машины Больцмана позволяет использовать вещественные данные, а не двоичные данные.

Одним из примеров практического применения RBM является распознавание речи.

Глубокая машина Больцмана

Глубокая машина Больцмана (DBM) — это тип двоичного попарного марковского случайного поля ( неориентированная вероятностная графическая модель ) с несколькими слоями скрытых случайных величин . Это сеть симметрично связанных стохастических двоичных единиц . Он состоит из набора видимых единиц. ${\boldsymbol {\nu }}\in \{0,1\}^{D}$ и слои скрытых юнитов ${\boldsymbol {h}}^{(1)}\in \{0,1\}^{F_{1}},{\boldsymbol {h}}^{(2)}\in \{0,1\}^{F_{2}},\ldots ,{\boldsymbol {h}}^{(L)}\in \{0,1\}^{F_{L}}$. Никакие соединения не связывают модули одного и того же уровня (например, RBM ). Для DBM , вероятность, присвоенная вектору ν, равна

$p({\boldsymbol {\nu }})={\frac {1}{Z}}\sum _{h}e^{\sum _{ij}W_{ij}^{(1)}\nu _{i}h_{j}^{(1)}+\sum _{jl}W_{jl}^{(2)}h_{j}^{(1)}h_{l}^{(2)}+\sum _{lm}W_{lm}^{(3)}h_{l}^{(2)}h_{m}^{(3)}},$

где ${\boldsymbol {h}}=\{{\boldsymbol {h}}^{(1)},{\boldsymbol {h}}^{(2)},{\boldsymbol {h}}^{(3)}\}$ представляют собой набор скрытых единиц, а $\theta =\{{\boldsymbol {W}}^{(1)},{\boldsymbol {W}}^{(2)},{\boldsymbol {W}}^{(3)}\}$ — параметры модели, представляющие видимо-скрытые и скрыто-скрытые взаимодействия. В DBN только два верхних слоя образуют ограниченную машину Больцмана (которая представляет собой неориентированную графическую модель ), а нижние уровни образуют направленную генеративную модель. В DBM все слои симметричны и ненаправлены.

Как и DBN , DBM могут изучать сложные и абстрактные внутренние представления входных данных в таких задачах, как распознавание объектов или речи , используя ограниченные размеченные данные для точной настройки представлений, построенных с использованием большого набора немаркированных сенсорных входных данных. Однако, в отличие от DBN и глубоких сверточных нейронных сетей , они выполняют процедуру вывода и обучения в обоих направлениях, снизу вверх и сверху вниз, что позволяет DBM лучше раскрывать представления входных структур.

Однако низкая скорость DBM ограничивает их производительность и функциональность. Поскольку точное обучение с максимальным правдоподобием невозможно для DBM, возможно только приблизительное обучение с максимальным правдоподобием. Другой вариант — использовать вывод среднего поля для оценки ожиданий, зависящих от данных, и аппроксимации ожидаемой достаточной статистики с помощью цепи Маркова Монте-Карло (MCMC). Этот приблизительный вывод, который необходимо сделать для каждого тестового ввода, примерно в 25–50 раз медленнее, чем один проход «снизу вверх» в DBM. Это делает совместную оптимизацию непрактичной для больших наборов данных и ограничивает использование DBM для таких задач, как представление объектов.

Мультимодальная глубинная машина Больцмана

Этот раздел представляет собой отрывок из § Применение мультимодального обучения . [ редактировать ]

Мультимодальные глубинные машины Больцмана успешно используются для классификации и поиска недостающих данных. Точность классификации мультимодальной глубокой машины Больцмана превосходит машины опорных векторов , скрытое распределение Дирихле и сеть глубоких убеждений , когда модели тестируются на данных как с модальностями изображения-текста, так и с одной модальностью. Мультимодальные глубокие машины Больцмана также способны предсказывать недостающие модальности с учетом наблюдаемых с достаточно хорошей точностью. Самостоятельное обучение создает более интересную и мощную модель мультимодальности. OpenAI разработала CLIP и DALL-E модели , которые произвели революцию в мультимодальности.

Мультимодальное глубокое обучение используется для скрининга рака – по крайней мере, одна разрабатываемая система объединяет такие разные типы данных.

RBM с шипами и плитами

Потребность в глубоком обучении с действительными входными данными, как в гауссовских с шипами и плитами RBM, привела к созданию RBM ( ss RBM ), который моделирует входные данные с непрерывными значениями и двоичными скрытыми переменными . Подобно базовым RBM и их вариантам, RBM с шипами и плитами представляет собой двудольный граф , в то время как, как и RBM G , видимые единицы (входные данные) имеют действительные значения. Разница заключается в скрытом слое, где каждая скрытая единица имеет двоичную переменную пика и переменную плиты с действительным знаком. Шип — это дискретная вероятностная масса в нуле, а плита — это плотность в непрерывной области; их смесь образует априор .

Расширение ss RBM, называемое μ-ss RBM, обеспечивает дополнительные возможности моделирования с использованием дополнительных членов в функции энергии . Один из этих терминов позволяет модели сформировать условное распределение пиковых переменных путем исключения переменных плиты с учетом наблюдения.

По математике

Основные статьи: мера Гиббса и лог-линейная модель

В более общей математической терминологии распределение Больцмана также известно как мера Гиббса . В статистике и машинном обучении это называется лог-линейной моделью . В глубоком обучении распределение Больцмана используется в распределении выборки стохастических нейронных сетей, таких как машина Больцмана.

История

Машина Больцмана основана на модели спинового стекла Шеррингтона-Киркпатрика стохастической модели Изинга .

Оригинальный вклад в применение таких энергетических моделей в когнитивной науке появился в работах Хинтона и Сейновски.

Основополагающая публикация Джона Хопфилда связала физику и статистическую механику, упоминая спиновые стекла.

Идея применения модели Изинга с отожженной выборкой Гиббса присутствует в Дугласа Хофштадтера Copycat . проекте

Подобные идеи (со сменой знака энергетической функции) встречаются в Павла Смоленского «Теории гармонии» .

Явная аналогия, проведенная со статистической механикой в ​​формулировке машины Больцмана, привела к использованию терминологии, заимствованной из физики (например, «энергия», а не «гармония»), которая стала стандартом в этой области. Широкому распространению этой терминологии, возможно, способствовал тот факт, что ее использование привело к заимствованию множества концепций и методов статистической механики. Различные предложения использовать для вывода моделируемый отжиг, очевидно, были независимыми.

Модели Изинга стали рассматриваться как частный случай марковских случайных полей , которые находят широкое применение в лингвистике , робототехнике , компьютерном зрении и искусственном интеллекте .

См. также

• Ограниченная машина Больцмана
• Машина Гельмгольца
• Марковское случайное поле (MRF)
• Модель Изинга (модель Ленца – Изинга)
• Сеть Хопфилда
• Правило обучения который использует условную «локальную» информацию, может быть получен из обратной формы $G$,

$G'=\sum _{v}{P^{-}(v)\ln \left({\frac {P^{-}(v)}{P^{+}(v)}}\right)}$.

Дальнейшее чтение

• Хинтон, Джорджия ; Сейновский, Т.Дж. (1986). Д. Е. Румельхарт; Дж. Л. Макклелланд (ред.). «Обучение и переобучение на машинах Больцмана» (PDF) . Параллельная распределенная обработка: исследования микроструктуры познания. Том 1: Основы : 282–317. Архивировано из оригинала (PDF) 5 июля 2010 г.
• Хинтон, GE (2002). «Продукты обучения экспертов путем минимизации контрастного расхождения» (PDF) . Нейронные вычисления . 14 (8): 1771–1800. CiteSeerX   10.1.1.35.8613 . дои : 10.1162/089976602760128018 . ПМИД   12180402 . S2CID   207596505 .
• Хинтон, GE ; Осиндеро, С.; Тех, Ю. (2006). «Алгоритм быстрого обучения для сетей глубокого доверия» (PDF ) Нейронные вычисления . 18 (7): 1527–1554. CiteSeerX   10.1.1.76.1541 . дои : 10.1162/neco.2006.18.7.1527 . ПМИД   16764513 . S2CID   2309950 .
• Котари П. (2020): https://www.forbes.com/sites/tomtaulli/2020/02/02/coronavirus-can-ai-artificial-intelligence-make-a-difference/?sh=1eca51e55817
• Монтуфар, Гвидо (2018). «Ограниченные машины Больцмана: введение и обзор» (PDF) . МПИ МиС (Препринт) . Проверено 1 августа 2023 г.

Внешние ссылки

• Статья Хинтона в Scholarpedia о машинах Больцмана
• Talk at Google Джеффри Хинтон