Электрохимическое ОЗУ
| памяти компьютера и хранения данных компьютера Типы |
|---|
| Неустойчивый |
| Энергонезависимый |
Электрохимическая память с произвольным доступом (ECRAM) — это тип энергонезависимой памяти (NVM) с несколькими уровнями на ячейку (MLC), предназначенный для глубокого обучения . аналогового ускорения [1] [2] [3] Ячейка ECRAM представляет собой трехполюсное устройство, состоящее из проводящего канала, изолирующего электролита , ионного резервуара и металлических контактов. Сопротивление канала модулируется ионным обменом на границе раздела канал-электролит при приложении электрического поля. Процесс переноса заряда позволяет как сохранять состояние при отсутствии приложенной мощности, так и программировать несколько отдельных уровней, что отличает работу ECRAM от работы полевого транзистора (FET) . Операция записи является детерминированной и может привести к симметричному потенцированию и депрессии, что делает массивы ECRAM привлекательными для использования в качестве искусственных синаптических весов в физических реализациях искусственных нейронных сетей (ИНС) . Технологические проблемы включают потенциал разомкнутой цепи (OCP) и совместимость литейного производства полупроводников, связанную с энергетическими материалами. Университеты, государственные лаборатории и корпоративные исследовательские группы внесли свой вклад в разработку ECRAM для аналоговые вычисления . Примечательно, что Sandia National Laboratories разработала литиевый элемент, вдохновленный материалами твердотельных батарей. [4] Стэнфордский университет создал органическую клетку на основе протонов. [5] и International Business Machines (IBM) продемонстрировали параллельное программирование в памяти без селектора для задачи логистической регрессии в массиве металлоксидной памяти ECRAM, предназначенном для вставки в серверную часть линии (BEOL) . [6] В 2022 году исследователи из Массачусетского технологического института создали неорганическую, совместимую с КМОП протонную технологию, которая достигла почти идеальных характеристик модуляции с помощью быстрых наносекундных импульсов. [7]
Операция
[ редактировать ]
Писать
[ редактировать ]Напряжение к затвору относительно канальных электродов может быть приложено в виде фиксированного тока или смещения, направляя ионы к границе раздела электролит/канал или от нее, где происходит перенос заряда со свободными носителями. При введении в канал ионный заряд нейтрализуется, а атомные частицы интеркалируются или связываются с проводящей матрицей-хозяином, в некоторых случаях приводя к деформации и локализованному фазовому превращению. Такие обратимые процессы эквивалентны анодным/катодным реакциям в аккумуляторных элементах или электрохромных устройствах . Хотя в ECRAM программирование элемента памяти определяется не как изменение емкости или непрозрачности, а как изменение проводимости канала, связанное с вставкой или удалением атомных частиц в результате стрессового сигнала.
Читать
[ редактировать ]Операция чтения отделена от операции записи благодаря наличию трех электродов, что ограничивает помехи при чтении. Между электродами канала прикладывается небольшое смещение, в результате чего результирующий ток считывания пропорционален проводимости канала, что позволяет определить запрограммированное состояние устройства.
Скорость
[ редактировать ]Скорость программирования ячеек ECRAM не ограничивается объемной диффузией ионов. Действительно, им нужно всего лишь пересечь плоскость интерфейса между электролитом и каналом, чтобы вызвать изменение проводимости. Наносекундные импульсы записи действительно могут вызвать программирование. [8] Компромисс между емкостью затвора , электронной проводимостью и т. д. может привести к стабилизации переходных процессов, ограничивая максимальную частоту чтения-записи. [9]
Массивы
[ редактировать ]Массивы ECRAM интегрированы по псевдоперекрестной схеме, при этом линия доступа к воротам является общей для всех устройств в ряду или столбце. Если изменение электрохимического потенциала , движущей силы батареи, происходит при ионном обмене между каналом и электродом затвора, на контакте затвора существует потенциал разомкнутой цепи (OCP) , который будет отличаться от устройства к устройству в зависимости от запрограммированного состояния. Чтобы предотвратить перекрестные помехи между ячейками, совместно использующими одну линию затвора, последовательно с элементом памяти добавляется устройство доступа для изоляции каждой из них. [10] Подавление OCP в конструкции ECRAM минимизирует размер/сложность ячейки, позволяя осуществлять параллельное чтение/программирование массивов устройств без селектора. [6]
Синаптическая функция
[ редактировать ]
Принцип
[ редактировать ]Энергонезависимую память (NVM) можно использовать для вычислений в оперативной памяти , тем самым снижая частоту передачи данных между устройствами хранения и обработки. В конечном итоге это может улучшить время вычислений и повысить энергоэффективность по сравнению с иерархическими системными архитектурами за счет устранения узкого места фон Неймана . Следовательно, при использовании многоуровневых ячеек (MLC) в узлах перекрестных матриц можно выполнять аналоговые операции с данными, закодированными по времени или напряжению, такие как умножение вектора (входной сигнал строки) × матрица (массив памяти). Следуя законам Кирхгофа и Ома , результирующий вектор затем получается путем интегрирования тока, собранного в каждом столбце. Для ячеек ECRAM в каждую строку добавляется дополнительная строка для записи ячеек во время циклов программирования, тем самым создавая псевдоперекрестную архитектуру. В области искусственного интеллекта (ИИ) глубокие нейронные сети (DNN) используются для задач классификации и обучения, опираясь на большое количество операций умножения матриц. Поэтому аналоговые вычисления с технологией NVM для таких задач чрезвычайно привлекательны. Ячейки ECRAM имеют уникальные возможности для использования в аналоговых ускорителях глубокого обучения благодаря присущей им детерминированной и симметричной природе программирования по сравнению с другими устройствами, такими как резистивная ОЗУ (ReRAM или RRAM) и память с фазовым изменением (PCM) .
Требования
[ редактировать ]| Метрика | Единица | NVM-синаптический ячейка-мишень [11] |
|---|---|---|
| Диапазон G | нс | 9-72 |
| соотношение включения/выключения | нет | 8 |
| # штатов | нет | 1000 |
| асимметрия вверх/вниз | % | 5 |
| время записи | нс | 1 |
Физическая реализация искусственных нейронных сетей (ИНС) должна работать с изо-точностью при сравнении с весами точности с плавающей запятой в программном обеспечении. Это устанавливает границы свойств устройства, необходимые для аналоговых ускорителей глубокого обучения . При разработке своего резистивного процессора (RPU) компания IBM Research опубликовала такие требования: [11] часть которых указана здесь. Совместная разработка алгоритмов и аппаратного обеспечения может несколько расслабить их, но не без других компромиссов. [12]
Использование NVM в качестве синаптических весов вместо хранилища предполагает существенно разные требования, когда речь идет о целевом диапазоне сопротивления, количестве уровней, скорости программирования и симметрии. Поскольку вычисления в памяти происходят параллельно через массив, многие устройства обрабатываются одновременно и, следовательно, должны иметь высокое среднее сопротивление для ограничения рассеивания энергии. Для выполнения высокоточных вычислений и устойчивости к шуму ячейке NVM необходимо большое количество различных состояний. Время программирования должно быть быстрым только между уровнями, а не от самого высокого до самого низкого состояния сопротивления. Во время каждого цикла программирования ( обратное распространение ошибки ) обновления весов могут быть отрицательными или положительными, и поэтому трассы вверх/вниз нуждаются в симметрии, чтобы позволить алгоритмам обучения сходиться. Все технологии NVM борются с этими целями. Отдельные ячейки ECRAM могут соответствовать таким строгим показателям, [6] но также необходимо продемонстрировать производительность массива высокой плотности и стохастичность.
Демонстрации с синаптическими массивами ECRAM
[ редактировать ]Сандианские национальные лаборатории
[ редактировать ]Как сообщалось в публикации в журнале Science за 2019 год Эллиотом Дж. Фуллером, Алеком А. Талином и др. от Sandia National Laboratories в сотрудничестве со Стэнфордским университетом и Массачусетским университетом в Амхерсте : [10]
Используя копланарные органические многоуровневые ячейки, изолированные устройствами памяти с проводящим мостом (CBM), команда демонстрирует параллельное программирование и адресацию в массивах размером до 3×3. В частности, двухслойная нейронная сеть сопоставляется с массивом путем передачи весов, необходимых для выполнения задачи вывода, что приводит к операции XOR над двоичным входным вектором.
Показано, что отдельные ячейки обладают следующими свойствами (не все они достигаются в одной и той же конфигурации устройства); скорость = 1 МГц, циклы чтения-записи, количество состояний > 50 (настраиваемое), диапазон сопротивления = 50-100 нС (настраиваемое), ресурс > 10 8 запись операций, размер = 50×50 мкм 2 .
IBM Исследования
[ редактировать ]Как сообщалось в материалах Международного собрания электронных устройств IEEE (IEDM) в 2019 году Сейён Ким, Джон Розен и др. из исследования IBM: [6]
Используя металлооксидные ячейки ECRAM без селекторов, команда демонстрирует параллельное программирование и адресацию в массивах 2×2. В частности, задача логистической регрессии выполняется в памяти с использованием 1000 векторов 2×1 в качестве обучающего набора. Подгонка 2D-кривой достигается за дюжину эпох.
Показано, что отдельные ячейки обладают следующими свойствами (не все они достигаются в одной и той же конфигурации устройства); скорость = 10 нс, импульсы записи, количество состояний > 1000 (настраиваемый), диапазон сопротивления = 0–50 мкс (настраиваемый), ресурс > 10 7 операции записи, размер < 1×1 мкм 2 .
Реализации ячеек
[ редактировать ]Различные учреждения продемонстрировали ячейки ECRAM с совершенно разными материалами, компоновкой и характеристиками.
Пример набора дискретных ячеек приведен в таблице.
| Ион | Канал | Размер устройства | Запись длительности импульса | Ссылка |
|---|---|---|---|---|
| Что + |
ГДЕ 3 |
100 х 100 нм 2 | 5 нс | [8] |
| Что + |
Что 1-х СО 2 |
~ 1 мм 2 | 0,5 с | [4] |
| Что + |
Графен | 36 мкм 2 | 10 мс | [13] |
| Что + |
α-МО 3 |
~ 1 мм 2 | 10 мс | [14] |
| ЧАС + |
ПЕДОТ:PSS | 0,001 мм 2 | 5 мс | [5] |
| ЧАС + |
ГДЕ 3 |
0,05 мм 2 | 5 мс | [15] |
| ЧАС + |
ГДЕ 3 |
0,025 мм 2 | 210 мс | [16] |
| ЧАС + |
ГДЕ 3 |
0,01 мм 2 | 0,1 с | [17] |
| ЧАС + | 2D MXene | 100 мкм 2 | 200 нс | [18] |
Литий-ЭКРАМ
[ редактировать ]Устройства Li-ECRAM, основанные на ионах лития, продемонстрировали повторяемое и контролируемое переключение за счет применения известных материалов из аккумуляторной технологии в конструкции памяти. [4] [13] [14] Следовательно, такие ячейки могут иметь значение OCP, которое варьируется в пределах нескольких вольт в зависимости от запрограммированного состояния.
H-ECRAM
[ редактировать ]Устройства H-ECRAM, основанные на ионах водорода, оказались быстрыми, поэтому для запуска программирования требуются небольшие движущие силы. [5] [15] [16] Высокие коэффициенты диффузии в различных материалах могут сопровождаться отсутствием удержания в ячейке памяти, что влияет на долговечность. В большинстве конструкций H-ECRAM используются жидкие и/или органические электролиты. В исследовании 2022 года исследователи из Массачусетского технологического института продемонстрировали КМОП-совместимую технологию на основе электролита из фосфоросиликатного стекла , которая обеспечивает сверхбыстрые характеристики модуляции с высокой энергоэффективностью. [7] В том же году исследователи из Королевского технологического института KTH продемонстрировали ECRAMS на основе интеркаляции водорода в 2D-материал MXene, что ознаменовало первую демонстрацию высокоскоростных 2D ECRAM. [18]
МО-ЭКРАМ
[ редактировать ]ECRAM на основе оксидов металлов созданы на основе материалов OxRam и технологии high-k/металлических затворов, используемых в коммерческих полупроводниковых устройствах. MO-ECRAM действительно позволяет выполнять незначительные операции записи OCP и менее микросекунды. [6]
СБИС
[ редактировать ]
Для современных полупроводниковых запоминающих устройств или вычислительных приложений технология должна быть совместима с очень крупномасштабной интеграцией (СБИС) . Это накладывает ограничения на используемые материалы и методы изготовления функциональных устройств. Значение для ECRAM описано здесь.
Литейный завод полупроводников
[ редактировать ]Завод по производству полупроводников может работать с несколькими технологиями и имеет строгие правила, когда дело касается материалов, используемых в его дорогостоящем наборе инструментов, чтобы избежать перекрестного загрязнения и потери производительности устройства. В частности, подвижные ионы металлов, если они присутствуют в активных областях, могут вызвать дрейф устройства и повлиять на надежность. Есть еще несколько соображений для литейных заводов; включая безопасность, стоимость, объем и т. д. Следовательно, Li-ECRAM на основе литий-ионных аккумуляторов сталкивается с уникальными проблемами, выходящими за рамки присутствия OCP.
Задний конец линии (BEOL)
[ редактировать ]Массивы памяти требуют логической периферии для работы и взаимодействия с остальной частью вычислительной системы. Такая периферия основана на полевых транзисторах (FET), построенных на поверхности подложек кремниевых пластин с высоким тепловым балансом на переднем конце линии (FEOL) . Ячейки памяти можно вставлять между верхними металлическими уровнями на заднем конце линии (BEOL), но при этом они не должны подвергаться воздействию температур до ~ 400 °C, используемых на последующих этапах. Вместе с проблемами формирования паттернов высокой плотности эти ограничения делают органические устройства непригодными для такой интеграции. ECRAM на основе 2D-материалов MXene [18] показали, что на потенциал не влияет нагрев при температуре 400 ° C, но необходимы дополнительные разработки для интеграции ионных проводников.
Гетерогенная интеграция (HI)
[ редактировать ]Одним из способов внедрения новых материалов для памяти может быть использование гетерогенной интеграции (HI) , при которой массив устройств изготавливается независимо от логических элементов управления, а затем присоединяется к чипу, содержащему полевой транзистор, чтобы обеспечить возможность его использования в качестве памяти с высокой пропускной способностью (HBM) . Однако стоимость и сложность, связанные с такой схемой, отрицательно влияют на ценность предложения по замене существующих технологий памяти.
Ссылки
[ редактировать ]- ^ Ши, Дж.; Ха, СД; Чжоу, Ю.; Шуфс, Ф.; Раманатан, С. (2013). «Коррелированный никелатный синаптический транзистор» . Природные коммуникации . 4 : 2676. Бибкод : 2013NatCo...4.2676S . дои : 10.1038/ncomms3676 . ПМИД 24177330 .
- ^ Тан, Цзяньши; Бишоп, Дуглас; Ким, Сеён; Копел, Мэтт; Гокмен, Тайфун; Тодоров, Теодор; Шин, Сан Хун; Ли, Ко-Тао; Соломон, Пол (01 декабря 2018 г.). «ECRAM как масштабируемая синаптическая ячейка для высокоскоростных нейроморфных вычислений с низким энергопотреблением» . Международная конференция IEEE по электронным устройствам (IEDM) , 2018 г. стр. 13.1.1–4. дои : 10.1109/IEDM.2018.8614551 . ISBN 978-1-7281-1987-8 . S2CID 58674536 . Проверено 16 июля 2020 г.
- ^ "Конечно-элементное моделирование электрохимической оперативной памяти - iis-проекты" . iis-projects.ee.ethz.ch . Цюрих, Швейцария: ETH Zurich . Проверено 16 июля 2020 г.
- ^ Jump up to: а б с ' Э. Дж. Фуллер и др. , Адв. Матер., 29, 1604310 (2017)
- ^ Jump up to: а б с Ю. ван де Бургт и др. , Nature Electronics, 1, 386 (2018).
- ^ Jump up to: а б с д и Ким, С. (2019). «КМОП-совместимая электронная память на основе оксида металла для ускорителя глубокого обучения». Международная конференция IEEE по электронным устройствам (IEDM) 2019 . стр. 35.7.1–4. дои : 10.1109/IEDM19573.2019.8993463 . ISBN 978-1-7281-4032-2 . S2CID 211211273 .
- ^ Jump up to: а б Онен, Мурат; Эмонд, Николас; Ван, Баомин; Чжан, Дифей; Росс, Фрэнсис М.; Ли, Цзюй; Йылдыз, Бильге; дель Аламо, Хесус А. (29 июля 2022 г.). «Наносекундные протонные программируемые резисторы для аналогового глубокого обучения» . Наука . 377 (6605): 539–543. дои : 10.1126/science.abp8064 . ISSN 0036-8075 . ПМИД 35901152 . S2CID 251159631 .
- ^ Jump up to: а б Тан, Дж. (2018). «ECRAM как масштабируемая синаптическая ячейка для высокоскоростных нейроморфных вычислений с низким энергопотреблением». Международная конференция IEEE по электронным устройствам (IEDM) , 2018 г. стр. 13.1.1–4. дои : 10.1109/IEDM.2018.8614551 . ISBN 978-1-7281-1987-8 . S2CID 58674536 .
- ^ Д. Бишоп и др. , материалы международной конференции «Твердотельные устройства и материалы» (SSDM), стр. 23-24 (2018).
- ^ Jump up to: а б Фуллер, Э.Дж.; Кин, Северная Каролина; Мелианас, А.; Ван, З.; Агарвал, С.; Ли, Ю.; Тачман Ю.; Джеймс, компакт-диск; Маринелла, MJ; Ян, Джей-Джей; Саллео, А.; Талин, А.А. (2019). «Параллельное программирование ионной памяти с плавающим затвором для масштабируемых нейроморфных вычислений» . Наука . 364 (6440): 570–4. Бибкод : 2019Sci...364..570F . дои : 10.1126/science.aaw5581 . ПМИД 31023890 . S2CID 133605392 .
- ^ Jump up to: а б Тайфун, Г.; Юрий В. (2016). «Ускорение обучения глубоких нейронных сетей с помощью резистивных перекрестных устройств: соображения проектирования» . Границы в неврологии . 10 : 333. дои : 10.3389/fnins.2016.00333 . ПМЦ 4954855 . ПМИД 27493624 .
- ^ Тайфун, Г.; Хенш, Х. (2020). «Алгоритм обучения нейронных сетей на массивах резистивных устройств» . Границы в неврологии . 14 : 103. дои : 10.3389/fnins.2020.00103 . ПМК 7054461 . ПМИД 32174807 .
- ^ Jump up to: а б Шарбати, Монтана; Ду, Ю.; Торрес, Дж.; Ардолино, Северная Дакота; Юн, М.; Сюн, Ф. (2018). «Искусственные синапсы: маломощные электрохимически настраиваемые графеновые синапсы для нейроморфных вычислений» . Адв. Мэтр . 30 : 1870273. дои : 10.1002/adma.201870273 .
- ^ Jump up to: а б Ян, К.-С.; Шан, Д.-С.; Лю, Н.; Фуллер, Э.Дж.; Агравал, С.; Алек Талин, А.; Ли, Ю.-К.; Шен, Б.-Г.; Сан, Ю. (2018). «Полностью твердотельный синаптический транзистор со сверхнизкой проводимостью для нейроморфных вычислений» . Адв. Функц. Мэтр . 28 (42): 1804170. doi : 10.1002/adfm.201804170 . ОСТИ 1472248 . S2CID 104934211 .
- ^ Jump up to: а б Яо, X.; Клюкин, К.; Лу, В. (2020). «Протонный твердотельный электрохимический синапс для физических нейронных сетей» . Нат Коммун . 11 (1): 3134. Бибкод : 2020NatCo..11.3134Y . дои : 10.1038/s41467-020-16866-6 . ПМК 7371700 . ПМИД 32561717 .
- ^ Jump up to: а б Ян, Ж.-Т.; Ге, К.; Ду, Ж.-Ю.; Хуанг, Х.-Ю.; Он, М.; Ван, К.; Лу, Х.-Б.; Ян, Г.-З.; Джин, К.-Дж. (2018). «Искусственные синапсы, эмулируемые электролитно-оксидным вольфрамовым транзистором». Адв. Мэтр . 30 (34): 1801548. doi : 10.1002/adma.201801548 . ПМИД 29974526 . S2CID 49655665 .
- ^ Дж. Ли и др. , материалы международного семинара IEEE по кремниевой наноэлектронике (SNW), стр. 31-32 (2018).
- ^ Jump up to: а б с Мелианас, Армантас; Канг, Мин-А; Вахид Мохаммади, Армин; Квилл, Тайлер Джеймс; Тянь, Вейцянь; Гогоци, Юрий; Саллео, Альберто; Хамеди, Махьяр Макс (март 2022 г.). «Высокоскоростная ионная синаптическая память на основе 2D карбида титана MXene» . Передовые функциональные материалы . 32 (12): 2109970. doi : 10.1002/adfm.202109970 . ISSN 1616-301X . S2CID 244484634 .
Внешние ссылки
[ редактировать ]- Мур, СК (11 декабря 2018 г.). «В поисках идеального искусственного синапса для ИИ» . IEEE-спектр .
- Амброджио, С.; Адусумилли, П.; Элефтериу, Э. (11 декабря 2019 г.). «Путь к «идеальному» аналоговому материалу и системе: IBM на IEDM и NeurIPS» . Блог исследований IBM .
- Чендлер, ДЛ (19 июня 2020 г.). «Инженеры создают устройство, которое работает как синапс мозга» . Новости МТИ .
- Кубота, Т. (25 апреля 2019 г.). «Искусственный синапс, созданный исследователями из Стэнфорда, быстр, эффективен и долговечен» . Стэнфордские новости .
- «Прорывы Сандиа Пауэрса в нейроморфных вычислениях» . внутри HPC . 1 мая 2019 года.