Вариационный автоэнкодер

Базовая схема вариационного автоэнкодера. Модель получает $x$ в качестве ввода. Кодер сжимает его в скрытое пространство. Декодер получает на вход информацию, выбранную из скрытого пространства, и выдает ${x'}$ максимально похоже на $x$.

В машинном обучении ( вариационный автоэнкодер VAE ) — это архитектура искусственной нейронной сети, представленная Дидериком П. Кингмой и Максом Веллингом . Он входит в семейство вероятностных графических моделей и вариационных байесовских методов .

Вариационные автоэнкодеры не только рассматриваются как архитектура нейронной сети автоэнкодера , но и могут быть изучены в рамках математической формулировки вариационных байесовских методов , соединяющих сеть нейронного кодировщика с ее декодером через вероятностное скрытое пространство (например, как многомерное гауссово распределение ). что соответствует параметрам вариационного распределения.

Таким образом, кодер отображает каждую точку (например, изображение) из большого сложного набора данных в распределение внутри скрытого пространства, а не в одну точку в этом пространстве. Декодер имеет противоположную функцию: отображать скрытое пространство во входное пространство, опять же в соответствии с распределением (хотя на практике шум редко добавляется на этапе декодирования). Сопоставляя точку с распределением вместо одной точки, сеть может избежать переобучения обучающих данных. Обе сети обычно обучаются вместе с использованием приема перепараметризации , хотя дисперсию модели шума можно изучить отдельно.

Хотя этот тип модели изначально был разработан для обучения без учителя , его эффективность была доказана для полуконтролируемого обучения и контролируемое обучение .

Обзор архитектуры и работы

Вариационный автоэнкодер — это генеративная модель с априорным распределением и распределением шума соответственно. Обычно такие модели обучаются с использованием мета-алгоритма максимизации ожидания (например, вероятностного PCA , разреженного кодирования (всплеск и плита)). Такая схема оптимизирует нижнюю границу вероятности данных, что обычно неразрешимо и при этом требует открытия q-распределений или вариационных апостериорных данных . Эти q-распределения обычно параметризуются для каждой отдельной точки данных в отдельном процессе оптимизации. Однако вариационные автоэнкодеры используют нейронную сеть как амортизированный подход для совместной оптимизации точек данных. Эта нейронная сеть принимает в качестве входных данных сами точки данных и выводит параметры для вариационного распределения. Поскольку он отображает известное входное пространство в низкомерное скрытое пространство, он называется кодировщиком.

Декодер — вторая нейронная сеть этой модели. Это функция, которая отображает скрытое пространство во входное пространство, например, как средство распределения шума. Можно использовать другую нейронную сеть, которая отображает дисперсию, однако для простоты ее можно опустить. В таком случае дисперсию можно оптимизировать с помощью градиентного спуска.

Чтобы оптимизировать эту модель, необходимо знать два термина: «ошибка реконструкции» и расхождение Кульбака – Лейблера (KL-D). Оба термина выводятся из выражения свободной энергии вероятностной модели и, следовательно, различаются в зависимости от распределения шума и предполагаемого априора данных. Например, обычно предполагается, что стандартная задача VAE, такая как IMAGENET, имеет гауссово распределенный шум; однако такие задачи, как бинаризация MNIST, требуют шума Бернулли. KL-D из выражения свободной энергии максимизирует массу вероятности q-распределения, которое перекрывается с p-распределением, что, к сожалению, может привести к поиску режима. Термин «реконструкция» представляет собой остаток выражения свободной энергии и требует аппроксимации выборки для вычисления его среднего значения.

Формулировка

С точки зрения вероятностного моделирования хочется максимизировать вероятность того, что данные $x$ по выбранному ими параметризованному распределению вероятностей $p_{\theta }(x)=p(x|\theta )$. Это распределение обычно выбирается гауссовым. $N(x|\mu ,\sigma )$ который параметризуется $\mu$ и $\sigma$ соответственно, и как член экспоненциального семейства, с ним легко работать как с распределением шума. Простые распределения достаточно легко максимизировать, однако распределения, в которых предполагается априорное значение над скрытыми $z$ приводит к трудноразрешимым интегралам. Давайте найдем $p_{\theta }(x)$ через маргинализацию ​ $z$.

$p_{\theta }(x)=\int _{z}p_{\theta }({x,z})\,dz,$

где $p_{\theta }({x,z})$ представляет собой совместное распределение в рамках $p_{\theta }$ наблюдаемых данных $x$ и его скрытое представление или кодирование $z$. Согласно цепному правилу уравнение можно переписать в виде

$p_{\theta }(x)=\int _{z}p_{\theta }({x|z})p_{\theta }(z)\,dz$

В ванильном вариационном автоэнкодере $z$ обычно считается конечномерным вектором действительных чисел, а $p_{\theta }({x|z})$ быть распределением Гаусса . Затем $p_{\theta }(x)$ представляет собой смесь гауссовских распределений.

Теперь можно определить набор отношений между входными данными и их скрытым представлением как

• Прежний $p_{\theta }(z)$
• Вероятность $p_{\theta }(x|z)$
• задний $p_{\theta }(z|x)$

К сожалению, расчет $p_{\theta }(z|x)$ дорого и в большинстве случаев трудноразрешимо. Чтобы ускорить расчет и сделать его возможным, необходимо ввести дополнительную функцию для аппроксимации апостериорного распределения как

$q_{\phi }({z|x})\approx p_{\theta }({z|x})$

с $\phi$ определяется как набор реальных значений, которые параметризуют $q$. Иногда это называют амортизированным выводом , поскольку, «инвестируя» в поиск хорошего $q_{\phi }$, позже можно сделать вывод $z$ от $x$ быстро, не делая никаких интегралов.

Таким образом, проблема состоит в том, чтобы найти хороший вероятностный автокодировщик, в котором условное распределение правдоподобия $p_{\theta }(x|z)$ вычисляется вероятностным декодером , а аппроксимированное апостериорное распределение $q_{\phi }(z|x)$ вычисляется вероятностным кодировщиком .

Параметризуйте энкодер как $E_{\phi }$, а декодер как $D_{\theta }$.

Нижняя граница доказательств (ELBO)

Основная статья: Нижняя граница доказательств

Как и в каждой задаче глубокого обучения , необходимо определить дифференцируемую функцию потерь, чтобы обновлять веса сети посредством обратного распространения ошибки .

Идея вариационных автоэнкодеров состоит в том, чтобы совместно оптимизировать параметры генеративной модели. $\theta$ уменьшить ошибку восстановления между входом и выходом, и $\phi$ сделать $q_{\phi }({z|x})$ как можно ближе к $p_{\theta }(z|x)$. В качестве потерь при реконструкции среднеквадратическая ошибка и перекрестная энтропия часто используются .

По мере потери расстояния между двумя распределениями расхождение Кульбака – Лейблера $D_{KL}(q_{\phi }({z|x})\parallel p_{\theta }({z|x}))$ хороший выбор, чтобы сжать $q_{\phi }({z|x})$ под $p_{\theta }(z|x)$.

Только что определенная потеря расстояния выражается как

${\begin{aligned}D_{KL}(q_{\phi }({z|x})\parallel p_{\theta }({z|x}))&=\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln {\frac {q_{\phi }(z|x)}{p_{\theta }(z|x)}}\right]\\&=\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln {\frac {q_{\phi }({z|x})p_{\theta }(x)}{p_{\theta }(x,z)}}\right]\\&=\ln p_{\theta }(x)+\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln {\frac {q_{\phi }({z|x})}{p_{\theta }(x,z)}}\right]\end{aligned}}$

Теперь определим нижнюю границу доказательства (ELBO):

$$L_{\theta ,\phi }(x):=\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln {\frac {p_{\theta }(x,z)}{q_{\phi }({z|x})}}\right]=\ln p_{\theta }(x)-D_{KL}(q_{\phi }({\cdot |x})\parallel p_{\theta }({\cdot |x}))$$

Максимизация ELBO

$$\theta ^{*},\phi ^{*}={\underset {\theta ,\phi }{\operatorname {argmax} }}\,L_{\theta ,\phi }(x)$$

эквивалентно одновременной максимизации $\ln p_{\theta }(x)$ и минимизация $D_{KL}(q_{\phi }({z|x})\parallel p_{\theta }({z|x}))$. То есть максимизация логарифмического правдоподобия наблюдаемых данных и минимизация расхождения приблизительных апостериорных значений. $q_{\phi }(\cdot |x)$ точно сзади $p_{\theta }(\cdot |x)$.

Приведенная форма не очень удобна для максимизации, но есть следующая эквивалентная форма:

$$L_{\theta ,\phi }(x)=\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln p_{\theta }(x|z)\right]-D_{KL}(q_{\phi }({\cdot |x})\parallel p_{\theta }(\cdot ))$$

где $\ln p_{\theta }(x|z)$ реализуется как $-{\frac {1}{2}}\|x-D_{\theta }(z)\|_{2}^{2}$, поскольку то есть с точностью до аддитивной константы, что $x\sim {\mathcal {N}}(D_{\theta }(z),I)$ урожайность. То есть мы моделируем распределение $x$ при условии $z$ быть гауссовым распределением с центром $D_{\theta }(z)$. Распределение $q_{\phi }(z|x)$ и $p_{\theta }(z)$ часто также выбираются в качестве гауссианов, поскольку $z|x\sim {\mathcal {N}}(E_{\phi }(x),\sigma _{\phi }(x)^{2}I)$ и $z\sim {\mathcal {N}}(0,I)$, откуда по формуле КЛ-дивергенции гауссианов получаем :

$$L_{\theta ,\phi }(x)=-{\frac {1}{2}}\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\|x-D_{\theta }(z)\|_{2}^{2}\right]-{\frac {1}{2}}\left(N\sigma _{\phi }(x)^{2}+\|E_{\phi }(x)\|_{2}^{2}-2N\ln \sigma _{\phi }(x)\right)+Const$$

Здесь $N$ это размерность $z$. Более подробный вывод и дополнительные интерпретации ELBO и его максимизации см. на его главной странице .

Репараметризация

Схема трюка с репараметризацией. Случайная переменная ${\varepsilon }$ вводится в скрытое пространство $z$ в качестве внешнего входа. Таким образом, можно выполнить обратное распространение градиента без использования стохастической переменной во время обновления.

Для эффективного поиска

$$\theta ^{*},\phi ^{*}={\underset {\theta ,\phi }{\operatorname {argmax} }}\,L_{\theta ,\phi }(x)$$

типичный метод — градиентное восхождение .

Это легко найти

$$\nabla _{\theta }\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln {\frac {p_{\theta }(x,z)}{q_{\phi }({z|x})}}\right]=\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\nabla _{\theta }\ln {\frac {p_{\theta }(x,z)}{q_{\phi }({z|x})}}\right]$$

Однако,

$$\nabla _{\phi }\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln {\frac {p_{\theta }(x,z)}{q_{\phi }({z|x})}}\right]$$

не позволяет поставить $\nabla _{\phi }$ внутри ожидания, поскольку $\phi$ появляется в самом распределении вероятностей. Трюк с репараметризацией (также известный как стохастическое обратное распространение ошибки) ) обходит эту трудность.

Самый важный пример – это когда $z\sim q_{\phi }(\cdot |x)$ нормально распределяется, так как ${\mathcal {N}}(\mu _{\phi }(x),\Sigma _{\phi }(x))$.

Схема вариационного автоэнкодера после трюка с перепараметризацией

Это можно перепараметризовать, позволив ${\boldsymbol {\varepsilon }}\sim {\mathcal {N}}(0,{\boldsymbol {I}})$ быть «стандартным генератором случайных чисел » и построить $z$ как $z=\mu _{\phi }(x)+L_{\phi }(x)\epsilon$. Здесь, $L_{\phi }(x)$ получается разложением Холецкого :

$$\Sigma _{\phi }(x)=L_{\phi }(x)L_{\phi }(x)^{T}$$

Тогда у нас есть

$$\nabla _{\phi }\mathbb {E} _{z\sim q_{\phi }(\cdot |x)}\left[\ln {\frac {p_{\theta }(x,z)}{q_{\phi }({z|x})}}\right]=\mathbb {E} _{\epsilon }\left[\nabla _{\phi }\ln {\frac {p_{\theta }(x,\mu _{\phi }(x)+L_{\phi }(x)\epsilon )}{q_{\phi }(\mu _{\phi }(x)+L_{\phi }(x)\epsilon |x)}}\right]$$

и таким образом мы получили несмещенную оценку градиента, допускающую стохастический градиентный спуск .

Поскольку мы перепараметризовали $z$, нам нужно найти $q_{\phi }(z|x)$. Позволять $q_{0}$ быть функцией плотности вероятности для $\epsilon$, затем

$$\ln q_{\phi }(z|x)=\ln q_{0}(\epsilon )-\ln |\det(\partial _{\epsilon }z)|$$

где $\partial _{\epsilon }z$ - матрица Якобиана $\epsilon$ относительно $z$. С $z=\mu _{\phi }(x)+L_{\phi }(x)\epsilon$, Это

$$\ln q_{\phi }(z|x)=-{\frac {1}{2}}\|\epsilon \|^{2}-\ln |\det L_{\phi }(x)|-{\frac {n}{2}}\ln(2\pi )$$

Вариации

Многие приложения и расширения вариационных автоэнкодеров использовались для адаптации архитектуры к другим областям и повышения ее производительности.

$\beta$-VAE — это реализация с взвешенным термином расхождения Кульбака-Лейблера для автоматического обнаружения и интерпретации факторизованных скрытых представлений. С помощью этой реализации можно принудительно распутать многообразие для $\beta$ значения больше единицы. Эта архитектура может обнаруживать распутанные скрытые факторы без присмотра.

Условный VAE (CVAE) вставляет информацию метки в скрытое пространство, чтобы обеспечить детерминированное ограниченное представление изученных данных.

Некоторые структуры напрямую занимаются качеством генерируемых образцов. или реализовать более одного скрытого пространства для дальнейшего улучшения обучения представлению.

Некоторые архитектуры смешивают VAE и генеративно-состязательные сети для получения гибридных моделей.

См. также

• Автоэнкодер
• Искусственная нейронная сеть
• Глубокое обучение
• Генеративно-состязательная сеть
• Обучение представлению
• Редкое изучение словаря
• Увеличение данных
• Обратное распространение ошибки