Квантовая нейронная сеть

Пример модели нейронной сети с прямой связью. Для сети глубокого обучения увеличьте количество скрытых слоев.

Квантовые нейронные сети — это вычислительные модели нейронных сетей , основанные на принципах квантовой механики . Первые идеи квантовых нейронных вычислений были независимо опубликованы в 1995 году Субхашем Как и Роном Крисли. занимается теорией квантового разума , которая утверждает, что квантовые эффекты играют роль в когнитивных функциях. Однако типичные исследования в области квантовых нейронных сетей включают в себя объединение классических моделей искусственных нейронных сетей (которые широко используются в машинном обучении для важной задачи распознавания образов) с преимуществами квантовой информации для разработки более эффективных алгоритмов. Одной из важных мотиваций для этих исследований является сложность обучения классических нейронных сетей, особенно в приложениях с большими данными . Есть надежда, что такие особенности квантовых вычислений , как квантовый параллелизм или эффекты интерференции и запутанности, можно будет использовать в качестве ресурсов. Поскольку технологическая реализация квантового компьютера все еще находится на преждевременной стадии, такие модели квантовых нейронных сетей представляют собой в основном теоретические предложения, ожидающие полной реализации в физических экспериментах.

Большинство квантовых нейронных сетей разрабатываются как сети прямого распространения . Подобно своим классическим аналогам, эта структура принимает входные данные от одного слоя кубитов и передает эти входные данные на другой слой кубитов. Этот уровень кубитов оценивает эту информацию и передает выходные данные на следующий уровень. В конце концов путь ведет к последнему слою кубитов. Слои не обязательно должны быть одинаковой ширины, то есть они не обязательно должны иметь такое же количество кубитов, как слой до или после него. Эта структура обучается тому, какой путь выбрать, аналогично классическим искусственным нейронным сетям . Это обсуждается в нижнем разделе. Квантовые нейронные сети относятся к трем различным категориям: квантовый компьютер с классическими данными, классический компьютер с квантовыми данными и квантовый компьютер с квантовыми данными.

Примеры

Исследования квантовых нейронных сетей все еще находятся в зачаточном состоянии, и было выдвинуто множество предложений и идей различного масштаба и математической строгости. них основано на идее замены классических бинарных нейронов или нейронов Мак-Каллоха-Питтса кубитом Большинство из (который можно назвать «куроном»), в результате чего нейронные единицы могут находиться в суперпозиции состояний «активация» и «покой». '.

Квантовый персептрон

Многие предложения пытаются найти квантовый эквивалент персептрона, из которого строятся нейронные сети. Проблема в том, что нелинейные функции активации не сразу соответствуют математической структуре квантовой теории, поскольку квантовая эволюция описывается линейными операциями и приводит к вероятностному наблюдению. Идеи по имитации функции активации перцептрона с помощью квантовомеханического формализма возникли в результате специальных измерений. к постулированию нелинейных квантовых операторов (математическая основа, которая оспаривается). Прямая реализация функции активации с использованием схемной модели квантовых вычислений недавно была предложена Шульдом, Синайским и Петруччионе на основе алгоритма оценки квантовой фазы .

Квантовые сети

В более широком масштабе исследователи попытались обобщить нейронные сети до квантовых условий. Один из способов создания квантового нейрона — сначала обобщить классические нейроны, а затем обобщить их дальше, чтобы создать унитарные вентили. Взаимодействием между нейронами можно управлять квантово, с помощью унитарных вентилей , или классически, посредством измерения состояний сети. Этот теоретический метод высокого уровня можно применять широко, используя различные типы сетей и различные реализации квантовых нейронов, таких как фотонно реализованные нейроны. и квантовый процессор резервуара (квантовая версия вычислений резервуара ). Большинство алгоритмов обучения следуют классической модели обучения искусственной нейронной сети для изучения функции ввода-вывода данного обучающего набора и используют классические петли обратной связи для обновления параметров квантовой системы до тех пор, пока они не сойдутся к оптимальной конфигурации. Обучение как задача оптимизации параметров также рассматривалась в адиабатических моделях квантовых вычислений.

Квантовые нейронные сети могут применяться для разработки алгоритмов: имея кубиты с настраиваемыми взаимными взаимодействиями, можно попытаться изучить взаимодействия, следуя классическому правилу обратного распространения ошибки , из обучающего набора желаемых отношений ввода-вывода, которые считаются поведением желаемого выходного алгоритма. Таким образом, квантовая сеть «изучает» алгоритм.

Квантовая ассоциативная память

Первый алгоритм квантовой ассоциативной памяти был представлен Дэном Вентурой и Тони Мартинесом в 1999 году. Авторы не пытаются перевести структуру моделей искусственных нейронных сетей в квантовую теорию, а предлагают алгоритм схемотехнического квантового компьютера , моделирующего ассоциативную память . Состояния памяти (в нейронных сетях Хопфилда, сохраненные в весах нейронных связей) записываются в суперпозицию, и алгоритм квантового поиска, подобный Гроверу, извлекает состояние памяти, наиболее близкое к заданному входному сигналу. По сути, это не полностью адресуемая по содержанию память, поскольку можно извлечь только неполные шаблоны.

Первая по-настоящему адресуемая по содержанию квантовая память, которая может извлекать шаблоны даже из поврежденных входных данных, была предложена Карло А. Тругенбергером. Обе памяти могут хранить экспоненциальное (в единицах n кубитов) количество шаблонов, но могут использоваться только один раз из-за теоремы о запрете клонирования и их уничтожения при измерении.

Тругенбергер, тем не менее, он показал, что его проабабилистическая модель квантовой ассоциативной памяти может быть эффективно реализована и многократно использована для любого полиномиального числа хранимых шаблонов, что является большим преимуществом по сравнению с классической ассоциативной памятью.

вдохновленные квантовой

Значительный интерес был проявлен к «квантовой» модели, которая использует идеи квантовой теории для реализации нейронной сети, основанной на нечеткой логике .

Обучение

Квантовые нейронные сети теоретически можно обучать аналогично обучению классических/искусственных нейронных сетей. Ключевое отличие заключается во взаимодействии между слоями нейронных сетей. В классических нейронных сетях в конце заданной операции текущий перцептрон копирует свои выходные данные на следующий уровень перцептронов в сети. Однако в квантовой нейронной сети, где каждый перцептрон является кубитом, это нарушит теорему о запрете клонирования . Предлагаемое обобщенное решение этой проблемы состоит в замене классического метода разветвления произвольным унитарным методом, который распределяет, но не копирует выходные данные одного кубита на следующий слой кубитов. Используя этот разветвленный унитарный ( $U_{f}$) с кубитом фиктивного состояния в известном состоянии (Пример. $|0\rangle$ в вычислительной основе ), также известный как вспомогательный бит , информация из кубита может быть передана на следующий уровень кубитов. Этот процесс соответствует требованию обратимости квантовой операции .

Используя эту квантовую сеть прямой связи, можно эффективно выполнять и обучать глубокие нейронные сети. Глубокая нейронная сеть — это, по сути, сеть со многими скрытыми слоями, как показано в примере модели нейронной сети выше. Поскольку обсуждаемая квантовая нейронная сеть использует разветвленные унитарные операторы, и каждый оператор действует только на соответствующий вход, в любой момент времени используются только два слоя. Другими словами, ни один унитарный оператор не действует на всю сеть в любой момент времени, а это означает, что количество кубитов, необходимых для данного шага, зависит от количества входов в данном слое. Поскольку квантовые компьютеры печально известны своей способностью выполнять несколько итераций за короткий период времени, эффективность квантовой нейронной сети зависит исключительно от количества кубитов в любом заданном слое, а не от глубины сети.

Функции стоимости

Для определения эффективности нейронной сети используется функция стоимости, которая по существу измеряет близость выхода сети к ожидаемому или желаемому результату. В классической нейронной сети веса ( $w$) и предубеждения ( $b$) на каждом шаге определяют результат функции стоимости $C(w,b)$. При обучении классической нейронной сети веса и смещения корректируются после каждой итерации по уравнению 1 ниже, где $y(x)$ желаемый результат и $a^{\text{out}}(x)$ — фактический выпуск, функция стоимости оптимизируется, когда $C(w,b)$= 0. Для квантовой нейронной сети функция стоимости определяется путем измерения точности конечного состояния ( $\rho ^{\text{out}}$) с желаемым исходным состоянием ( $\phi ^{\text{out}}$), как показано в уравнении 2 ниже. В этом случае унитарные операторы корректируются после каждой итерации, а функция стоимости оптимизируется при C = 1.

Equation 1 $C(w,b)={1 \over N}\sum _{x}{||y(x)-a^{\text{out}}(x)|| \over 2}$

Equation 2 $C={1 \over N}\sum _{x}^{N}{\langle \phi ^{\text{out}}|\rho ^{\text{out}}|\phi ^{\text{out}}\rangle }$

Бесплодные плато

Бесплодные плато VQA На рисунке показано, что проблема Бесплодного плато становится все более серьезной по мере расширения VQA.

Градиентный спуск широко используется и успешно применяется в классических алгоритмах. Однако, хотя упрощенная структура очень похожа на нейронные сети, такие как CNN, QNN работают намного хуже.

Поскольку квантовое пространство экспоненциально расширяется по мере роста q-бита, наблюдения будут концентрироваться вокруг среднего значения с экспоненциальной скоростью, где также будут иметь экспоненциально малые градиенты.

Эта ситуация известна как бесплодные плато, поскольку большинство начальных параметров захватываются «плато» с почти нулевым градиентом, что приближает случайное блуждание. а не градиентный спуск. Это делает модель необучаемой.

На самом деле не только QNN, но и почти все более глубокие алгоритмы VQA имеют эту проблему. В нынешнюю эпоху NISQ это одна из проблем, которую необходимо решить, если необходимо найти больше приложений для различных алгоритмов VQA, включая QNN.

См. также

• Дифференцируемое программирование
• Оптическая нейронная сеть
• Голографическая ассоциативная память
• Квантовое познание
• Квантовое машинное обучение

Внешние ссылки

• Недавний обзор квантовых нейронных сетей М. Шульда, И. Синайского и Ф. Петруччионе.
• Обзор квантовых нейронных сетей Вэя
• Статья П. Гралевича о возможности квантовых вычислений в биологических нейронных сетях
• Обучение нейронной сети распознаванию изображений