Синтетическая нервная система

Синтетическая нервная система ( SNS ) — это вычислительная нейробиологическая модель, которая может быть разработана с использованием подхода функциональных подсетей (FSA) для создания биологически правдоподобных моделей цепей в нервной системе. FSA обеспечивает прямую аналитическую настройку динамических сетей, выполняющих определенные операции в нервной системе, без необходимости использования методов глобальной оптимизации, таких как генетические алгоритмы и обучение с подкреплением . Основным вариантом использования SNS является управление системой, где система чаще всего представляет собой смоделированную биомеханическую модель или физическую роботизированную платформу. SNS — это форма нейронной сети, очень похожая на искусственные нейронные сети (ANN), сверточные нейронные сети (CNN) и рекуррентные нейронные сети (RNN). Строительными блоками каждой из этих нейронных сетей является ряд узлов и связей, называемых нейронами и синапсами. Более традиционные искусственные нейронные сети полагаются на этапы обучения , на которых они используют большие наборы данных для формирования корреляций и, таким образом, «обучаются» идентифицировать данный объект или шаблон. При правильном выполнении такое обучение приводит к созданию систем, которые могут дать желаемый результат, иногда с впечатляющей точностью. Однако сами системы обычно представляют собой « черные ящики », что означает, что между структурой и функциями сети нет четкого соответствия. Это затрудняет изменение функции без простого начала или извлечения биологического значения, за исключением особых случаев. Метод SNS отличается использованием деталей как структуры, так и функций биологических нервных систем. Нейроны и синаптические связи проектируются намеренно, а не итеративно изменяются как часть алгоритма обучения .

Пример синтетической нервной системы, состоящей из функциональных подсетей. Эта сеть управляет одним суставом робота, вдохновленного богомолом (рис. 7 Щецинского и др. )

Как и во многих других моделях вычислительной нейробиологии (Рыбак, Элиасмит ), детали нейронной модели везде, где это возможно, основываются на экспериментальных данных. Не каждое исследование может измерить каждый параметр исследуемой сети, что требует от разработчика модели делать предположения относительно правдоподобных значений параметров. Рыбак использует метод выборки, при котором каждый узел состоит из множества нейронов, а параметры каждого конкретного нейрона извлекаются из распределения вероятностей. Элиасмит использует то, что они называют Neural Engineering Framework (NEF), в которой пользователь указывает функции сети, а синаптические и нейронные свойства изучаются с течением времени. SNS использует аналогичный подход через подход функциональных подсетей (FSA). FSA позволяет аналитически проектировать параметры внутри сети (например, мембранную проводимость, синаптическую проводимость) на основе их предполагаемой функции. В результате можно использовать этот подход для непосредственной сборки сетей, выполняющих основные функции, такие как сложение или вычитание, а также динамические операции, такие как дифференцирование и интегрирование.

Предыстория и история синтетических нервных систем

Фон

Детали основных сетей управления многими биологическими системами еще не очень хорошо изучены. Однако недавние достижения в области нейробиологических инструментов и методов прояснили клеточные и биофизические механизмы этих сетей, а также их работу во время поведения в сложных средах. Хотя существует давний интерес к биологическим роботам и роботизированным платформам, в последнее время появился интерес к включению особенностей биомеханики и нейронного контроля, например, биомимикрии . Метод SNS использует данные нейробиологии в системах управления нейромеханическим моделированием и роботами. Разработка механики и контроллера робота для захвата ключевых аспектов конкретного животного может привести к более гибкой функциональности, одновременно предлагая новые гипотезы о том, как работает нервная система животного.

Простота нейронных моделей облегчает анализ, работу в реальном времени и настройку. С этой целью СНС в первую очередь моделируют нейроны как дырявые интеграторы , которые являются разумными аппроксимациями подпороговой пассивной мембранной динамики. Дырявый интегратор также моделирует неспайковые интернейроны, которые способствуют моторному контролю у некоторых беспозвоночных (саранча, палочное насекомое, К. Элеганс ). Если в модель необходимо включить всплески, узлы можно представить с использованием дырявых моделей интеграции и запуска. Кроме того, другие проводимости, например, проводимости модели Ходжкина-Хаксли . в модель могут быть включены Модель может быть инициализирована с использованием простых компонентов (например, негерметичных интеграторов), а затем добавлены детали для включения дополнительных биологических деталей. Разработчик модели может затем увеличить или уменьшить уровень биологической детализации в зависимости от предполагаемого применения. Такое упрощение моделей обеспечивает:

• Способность использовать динамический системный анализ путем балансирования биологических деталей с аналитической управляемостью.
• Быстрое и недорогое в вычислительном отношении динамическое моделирование сети для эффективной работы в роботизированном контроллере. Таким образом, сложные традиционные модели, такие как уравнение кабеля или полная модель потенциала действия Ходжкина-Хаксли, обычно избегаются или упрощаются ради эффективности вычислений.
• Разреженное функционально-зависимое соединение через функциональную подсеть (FSA) вместо полностью подключенных (т. е. подключенных «все ко всем») топологий, распространенных в машинном обучении .

Хотя нейробиологические модели для социальных сетей обычно упрощаются, метод достаточно гибок, чтобы можно было включить больше функций. Следовательно, метод SNS может учитывать сложность, обусловленную спросом, добавляя функции только там, где они необходимы. полуцентрового осциллятора Например, постоянные натриевые каналы можно добавить всего к двум нейронам в нейронной цепи, чтобы создать генератор паттернов без изменения других нейронов в цепи. Хотя эти дополнения могут увеличить вычислительные затраты, они дают системе возможность выполнять более широкий спектр интересных действий.

История

Термин «синтетическая нервная система» (СНС) появился в литературе с 2000 года для описания нескольких различных вычислительных систем, имитирующих функциональность биологических нервных систем.

Синтия Бризил разработала социального робота по имени Кисмет во время учебы в Массачусетском технологическом институте в начале 2000-х годов. Она использовала термин SNS для обозначения своей биологически вдохновленной иерархической модели познания, которая включала системы низкоуровневого извлечения сенсорных функций, внимания, восприятия, мотивации, поведения и двигательной активности. Используя эту структуру, Kismet может реагировать на людей, абстрагируя сенсорную информацию в мотивацию ответного поведения и соответствующую двигательную активность.

В 2005 году Инман Харви использовал этот термин в обзорной статье по своей области «Эволюционная робототехника». В своей статье Харви использует термин SNS для обозначения развитого нейронного контроллера моделируемого агента. Он не дает четкого определения термину SNS; вместо этого он использует этот термин, чтобы отличить развитый нейронный контроллер от контроллера, созданного с помощью альтернативных подходов, например, сетей многослойного перцептрона (MLP) .

В 2008 году Томас Р. Инсел, доктор медицинских наук, директор Национального института психического здоровья, был процитирован в интервью Американской академии неврологии, призывая к «выстрелу на ясную луну… [чтобы мотивировать] десятилетие новых открытий [и] фундаментальных исследования анатомии мозга». В рамках этого интервью доктор Инсел предложил создать «синтетическую нервную систему» ​​в качестве одного из таких мотивационных проектов для стимулирования текущих и будущих исследований. Технические детали того, что повлечет за собой такая SNS, не были описаны.

В статье, опубликованной в рамках Международной рабочей конференции по искусственным нейронным сетям (IWANN), предлагается «синтетическая нервная система» в качестве альтернативы искусственным нейронным сетям (ИНС), основанным на машинном обучении. В частности, социальные сети должны иметь возможность включать или изучать новую информацию, не забывая при этом то, что они уже узнали. Однако авторы не предлагают вычислительную нейробиологическую основу для построения таких сетей. Вместо этого они предлагают гомеостатическую сеть «потребностей» робота, в которой робот предпринимает действия для удовлетворения своих потребностей и возвращения к гомеостазу. Со временем робот учится, какие действия следует предпринимать в ответ на его потребности.

Диссертация, написанная в лаборатории профессора Джозефа Айера в Северо-Восточном университете, использует аналогичный термин в названии, но никогда не дает ему четкого определения. Тема диссертации: «РобоЛобстер – биомиметический робот, управляемый с помощью электронной симуляции нервной системы». В других публикациях профессора Айерса для описания аналогичной работы используется термин «электронная нервная система» (ЭНС). В каждом из этих исследований профессор Айерс использует робота, которым управляет сеть упрощенных динамических нейронных моделей, структура которых имитирует определенные сети модельного организма. Выбор нейронной модели отражает баланс между моделированием динамики нервной системы, что мотивирует математическую сложность, и обеспечением выполнения моделирования в реальном времени, что мотивирует математическую простоту.

В исследовательской статье 2017 года профессора Александра Ханта, доктора Николаса Щецинского и профессора Роджера Куинна используется термин SNS и неявно определяется его как «нейронные [или] нейромеханические модели… состоящие из моделей нейронов-интеграторов с утечкой без всплесков». Подобно работе Ayers et al., Hunt et al. применить термин SNS для обозначения упрощенного динамического моделирования нейронов и синапсов, используемого в замкнутом контуре управления роботизированным оборудованием. Последующие статьи этих авторов представляют подход функциональных подсетей для настройки SNS, построенный на основе этих и других упрощенных динамических нейронных моделей. (т.е. «дырявая интеграция и стрельба»), а также другие модели нервной системы SNS.

Сравнение разнообразия работ, в которых используется термин SNS, дает неявное определение SNS:

• Структура их Сети и поведенческие цели основаны на биологии.
• Их приоритетом является изучение функций нервной системы, а второстепенной целью является создание более эффективной системы управления роботом.
• Обычно они представляют собой альтернативу более абстрактным нейронным сетям с упрощенной (например, «все-всем») сетевой структурой (например, многослойные перцептронные сети, глубокие нейронные сети).
• Это вычислительные модели нервной системы, предназначенные для замкнутого управления поведением моделируемого или роботизированного агента в окружающей среде.

Сравнение с другими нейронными сетями

SNS имеют некоторые общие функции с сетями машинного обучения, такими как искусственные нейронные сети (ANN), сверточные нейронные сети (CNN) и рекуррентные нейронные сети (RNN). Все эти сети состоят из нейронов и синапсов, в некотором роде вдохновленных биологическими нервными системами. Эти компоненты используются для построения нейронных цепей с конкретной целью выполнения конкретной задачи. ИНС просто относится к набору узлов (нейронов), связанных таким образом, что они примерно моделируют биологический мозг. Это довольно широкое определение, и, как следствие, существует множество подкатегорий ИНС, две из которых — CNN и RNN. CNN в основном используются для распознавания и классификации изображений. Их межслойные связи реализуют сверточные ядра на небольших участках изображения, которые отображают входные данные системы (обычно изображение) на набор функций. ANN и CNN лишь слабо связаны с SNS, поскольку они имеют одни и те же общие строительные блоки нейронов и синапсов, хотя методы, используемые для моделирования каждого компонента, различаются в зависимости от сети. Из трех RNN наиболее тесно связаны с SNS. SNS используют те же модели нейронов с дырявым интегратором, что и RNN. Это выгодно, поскольку нейроны по своей сути действуют как фильтры нижних частот , которые полезны для робототехнических приложений, где такая фильтрация часто применяется для уменьшения шума как для целей измерения, так и для целей управления. Обе модели также демонстрируют динамическую реакцию на входные данные. Хотя предсказать реакцию сложной сети может быть сложно, динамика каждого узла относительно проста, поскольку каждый представляет собой систему дифференциальных уравнений первого порядка (в отличие от дробных производных). Ключевым отличием СНС от этих нейронных сетей являются синаптические связи и общая архитектура нейронной цепи.

Структуры RNN обычно представляют собой большие, сильно связанные или даже полностью связанные слои нейронов. Вместо этих слоев SNS полагается на функциональные подсети, которые настроены на выполнение определенных операций, а затем собираются в более крупные сети с объяснимыми функциями. Они значительно более удобны, чем типичная сеть машинного обучения. Недостаток SNS заключается в том, что на проектирование и настройку сети обычно уходит больше времени, но при этом не требуется этап обучения, включающий большие объемы вычислительной мощности и обучающих данных. Другое ключевое отличие заключается в том, что синапсы SNS основаны на проводимости, а не на токе, что делает динамику нелинейной, в отличие от RNN. Это позволяет моделировать модулирующие нейронные пути, поскольку синапсы могут изменять чистую проводимость мембраны постсинаптического нейрона без подачи тока. Это также позволяет подходу функциональной подсети охватывать операции сложения, вычитания, умножения, деления, дифференцирования и интегрирования с использованием одного и того же семейства функций.

Модели нейронов и синапсов

Неспайковый нейрон

Сети SNS состоят в основном из узлов -интеграторов с утечкой без всплесков , к которым при необходимости можно добавить сложность. Такая динамика моделирует неспайковые нейроны, подобные тем, которые широко изучались у беспозвоночных (например, у нематод, саранча, таракан ) или может представлять собой среднюю активность популяции импульсных нейронов. Динамика мембранного напряжения $V$ неспайкового нейрона определяются дифференциальным уравнением

$C_{m}{\dfrac {dV}{dt}}=I_{\text{leak}}+I_{\text{syn}}+I_{\text{app}}$

где $C_{m}$ - емкость мембраны, $I_{\text{app}}$ представляет собой произвольный ток, подаваемый в ячейку, например, через токовые клещи, и $I_{\text{leak}}$ и $I_{\text{syn}}$ – токи утечки и синаптические токи соответственно. Ток утечки

$I_{\text{leak}}=G_{m}*(E_{r}-V)$

где $G_{m}$ проводимость клеточной мембраны и $E_{r}$ – потенциал покоя на клеточной мембране. Синаптический ток

$I_{\text{syn}}=\sum \limits _{i=1}^{n}G_{s,i}*(E_{s,i}-V)$

где $n$ количество синапсов, контактирующих с клеткой, $G_{s,i}$ – мгновенная синаптическая проводимость $i^{th}$ входящий синапс и $E_{s,i}$ представляет собой реверсивный потенциал $i^{th}$ входящий синапс.

Градуированный химический синапс

Визуальное представление одной синаптической связи между двумя нейронами и соответствующей динамики синаптической проводимости (рис. 1А Щецинского и др. )

Неспайковые нейроны общаются посредством градуированных химических синапсов. Обычно синаптическая проводимость моделируется непрерывной функцией, такой как сигмовидная, но в СНС эта проводимость аппроксимируется следующей кусочно-линейной функцией

$G_{s,i}={\begin{cases}0&{\text{if }}V_{pre}<E_{lo}\\g_{s,i}*{\dfrac {V_{pre}-E_{lo}}{E_{hi}-E_{lo}}}&{\text{if }}E_{lo}<V_{pre}<E_{hi}\\g_{s,i}&{\text{if }}V_{pre}>E_{hi}\end{cases}}$

Как показано на соответствующем рисунке, это позволяет проводимости изменяться от 0 до заданного или расчетного максимального значения ( $g_{s,i}$) в зависимости от пресинаптического потенциала ( $V_{pre}$). Кусочный подход используется для обеспечения нулевой проводимости и, следовательно, тока при низких потенциалах активации. Это аппроксимирует особенность пиковой активности нейрона, заключающуюся в том, что никакая информация не передается, когда нейрон не активен или неактивен. Кроме того, это приближение исключает трансцендентные функции, позволяя проводить аналитические расчеты динамических свойств. Хотя это не позволяет дифференцировать сетевую активность, поскольку не на основе градиента используются методы обучения (например, обратное распространение ошибки ), это не является недостатком.

Постоянный натриевый ток

Ранее упоминалось, что дополнительные ионные каналы могут быть включены, чтобы выявить более интересное поведение на моделях нейронов без импульсов. Постоянный натриевый ток является одним из таких дополнений. Постоянный натриевый ток может деполяризовать мембрану в достаточной степени, чтобы вызвать срабатывание потенциала действия при подпороговых мембранных потенциалах, но при этом он медленно инактивируется. В контексте нейробиологических моделей это полезно для таких приложений, как генераторы образов, где желательно, чтобы потенциал нейрона мог быстро увеличиваться и оставаться повышенным до тех пор, пока он не будет подавлен другим нейронным сигналом или приложенным током.

Модель поведения этого канала основана на стробировании m и h, присутствующем в полной модели Ходжкина-Хаксли. Основное отличие состоит в том, что в этой модели используется только один м ворот вместо трех. Уравнения, описывающие такое поведение, можно найти здесь и в этой статье.

Интегрируйте и стреляйте

Если не изучать или не использовать модель Ходжкина-Хаксли для потенциалов действия, спайковые нейроны можно моделировать с помощью метода интеграции и запуска. Это значительно более эффективно в вычислительном отношении, чем метод Ходжкина-Хаксли, что упрощает моделирование гораздо более крупных сетей. В частности, с утечкой интеграции и запуска (LIF). для SNS используются нейроны Как следует из названия, эта модель объясняет поведение утечки мембранного потенциала, представляющее диффузию ионов через мембрану. Эта модель интеграции и запуска очень похожа на описанный выше нейрон без импульсов с ключевым добавлением параметра порога срабатывания. Когда потенциал нейрона деполяризуется до этого порога, нейрон «всплывает», мгновенно возвращаясь к своему потенциалу покоя.

Хотя они не обеспечивают такого же разнообразия динамических реакций, как Ходжкина-Хаксли, их обычно достаточно для приложений SNS, и их можно проанализировать математически, что имеет решающее значение для управляемости сети. Пожалуйста, обратитесь к связанной статье и статье в Википедии, чтобы узнать об уравнениях, связанных с моделью нейрона LIF.

Izhikevich Model

Спайковые нейроны также можно моделировать эффективным вычислительным способом, не жертвуя богатым поведением, проявляемым в биологической нейронной активности. Модель Ижикевича может обеспечить пиковое поведение, примерно такое же правдоподобное, как Ходжкина-Хаксли, но с вычислительной эффективностью, сравнимой с методом интегрирования и запуска. Для этого Ижикевич с помощью методов бифуркации сводит модель Ходжкина-Хаксли к двумерной системе обыкновенных дифференциальных уравнений . Их можно увидеть здесь:

$v'=0.04v^{2}+5v+140-u+I$

$u'=a*(bv-u)$

Когда мембранный потенциал сбрасывается после введения, как описано:

${\text{if }}v\geq 30mV,{\text{then }}{\begin{cases}v\longleftarrow c\\u\longleftarrow u+d\\\end{cases}}$

$v$ — безразмерная переменная, представляющая мембранный потенциал. $u$ представляет собой безразмерную переменную, представляющую восстановление мембраны, которая учитывает поведение ионного тока, в частности поведение $Na^{+}$ и $K^{+}$. $a$, $b$, $c$, и $d$ представляют собой безразмерные параметры, которые можно изменять, чтобы придать сигналу различные паттерны реакции нейронов. Это обеспечивает вибрацию, взрывы и непрерывные всплески с частотной адаптацией, которые представляют собой более богатый набор поведений, чем может создать базовый метод «интеграция и запуск».

Коэффициенты в $v'$ Уравнение было получено путем подгонки данных к импульсным паттернам конкретного нейрона (в данном случае коркового нейрона) для получения потенциалов в диапазоне мВ и времени в масштабе мс. Можно использовать другие нейроны, чтобы соответствовать динамике инициации спайков, они просто будут выдавать другие коэффициенты.

Для получения дополнительной информации о модели Ижикевича и методах бифуркации, использованных для ее разработки, прочтите следующее.

Карта Рулькова

Карта Рулкова отказывается от сложных моделей на основе ионных каналов, состоящих из множества нелинейных дифференциальных уравнений, в пользу двумерной карты. Эта карта отражает медленную и быструю динамику, что жизненно важно для представления как медленных колебаний, так и быстрых всплесков и всплесков. Модель показана ниже:

$x_{n+1}=f(x_{n},y_{n}+\beta _{n})$

$y_{n+1}=y_{n}-\mu (x_{n}+1)+\mu \sigma _{n}$

$x$ является быстрой динамической переменной и представляет мембранный потенциал, в то время как $y$ является медленной динамической переменной и не имеет явного биологического смысла. $\beta$ и $\sigma$ используются для описания внешних воздействий и помогают моделировать динамику стимулов, таких как инжектированные/синаптические токи и тоники/смещения. Малые значения $\mu$ приводят к медленным изменениям в $y$ это объясняет его более медленное поведение. Предполагая постоянное внешнее воздействие ( $\beta _{n}=\beta$) функция $f$ можно записать в виде следующей разрывной функции:

$f(x,y)={\begin{cases}{\dfrac {\alpha }{1-x}}+y&x\leq 0\\\alpha +y&0<x<\alpha +y\\-1&x\geq \alpha +y\end{cases}}$

В этом случае $\alpha$ является параметром управления картой и может использоваться вместе с $\sigma$, чтобы сформировать выходное поведение нейрона.

Подробнее о карте Рулькова можно прочитать на странице Википедии по гиперссылке здесь и в.

Функциональный подсетевой подход (FSA)

Функциональные подсети являются строительными блоками социальных сетей. Они состоят из нейронов и синапсов, смоделированных на основе описанных выше уравнений, а также других нейробиологических моделей. При правильной настройке, как показано в следующем разделе, они способны выполнять математические вычисления, а также динамические операции. Этот процесс отличается от других искусственных нейронных сетей тем, что при настройке используется структура сети. Упомянутые ранее искусственные нейронные сети используют сквозную связь между уровнями, но в SNS нет отдельных уровней. Скорее, синаптические связи методически проектируются с учетом экспресс-функции. Это приводит к меньшему количеству синаптических соединений без ущерба для эффективности сети. Настроенные подсети могут быть объединены в более крупные сети, образуя саму SNS. Сборка может выполняться последовательно или параллельно, подобно добавлению компонентов в электрическую цепь. Полученная нейронная сеть напоминает периферическую нервную систему , а не мозгоподобную сеть (ИНС).

Настройка с помощью подхода функциональных подсетей (FSA)

Приведенную выше модель вытекающего интегратора можно преобразовать в уравнение, удобное для настройки, путем нормализации мембранного потенциала до значения 0 в состоянии покоя ( $U=V-E_{r}$) и вводя $R$ параметр. $R$ представляет собой потенциальный рабочий диапазон градуированного химического синапса и равен $E_{hi}-E_{lo}$. Внесение этих изменений, а затем поиск решения для стационарной активации ( $U^{*}$) нейрона (когда ${\tfrac {dU}{dt}}=0$) дает следующее уравнение:

$U^{*}={\dfrac {\sum \limits _{i=1}^{n}{\dfrac {g_{s,i}}{R}}*U_{pre,i}*\Delta E_{s,i}+I_{\text{app}}}{1+\sum \limits _{i=1}^{n}{\dfrac {g_{s,i}}{R}}U_{pre,i}}}$

$\Delta E_{s}$ определяется разницей потенциалов покоя клеток ( $E_{r}$) и синаптический реверсивный потенциал ( $E_{s}$). Это уравнение можно использовать для настройки проводимости синапсов для определенных точек работы сети, где нейроны находятся в устойчивом состоянии или имеют известный/расчетный мембранный потенциал ( $U_{pre}$). Таким образом, можно намеренно и напрямую задавать состояние сети в ключевые моменты последовательности ее работы, чтобы она вызывала желаемое действие или поведение.

Настройка подсети требует использования путей передачи и/или модуляции сигнала. Пути передачи сигнала делают потенциал постсинаптического нейрона пропорциональным потенциалу пресинаптического нейрона(ов). Коэффициент синаптической пропорциональности называется $k_{syn}$. Это можно использовать для расчета максимального значения проводимости синапса ( $g_{s}$) через уравнение:

$g_{s}={\dfrac {k_{syn}R}{\Delta E_{s}-k_{syn}R}}$

$g_{s}$ используется в модели градуированного химического синапса, обсуждавшейся ранее. Настройка синапса с помощью $k_{syn}$ вместо уравнения активации в устойчивом состоянии практично, когда желательны определенные отношения между небольшим подмножеством нейронов. Например, если сеть требует, чтобы мембранный потенциал постсинаптического нейрона был вдвое меньше, чем у пресинаптического нейрона, $k_{syn}$ можно установить на ${\tfrac {1}{2}}$ и подключаем к уравнению.

Путь модуляции сигнала используется для модуляции чувствительности нейронов. Это позволяет адаптивно реагировать на различные входные сигналы. На этом пути $c_{syn}$ используется вместо $k_{syn}$. Технически оба определяются как постсинаптический потенциал устойчивого состояния ( $U_{post}^{*}$) разделенный на пресинаптический потенциал ( $U_{pre}$), упомянутое выше соотношение для данного приложенного тока. Письмо $c$ используется для модуляции, чтобы указать, что чувствительность нейрона меняется и, следовательно, не совпадает с $k$ который представляет статические отношения. Для пути модуляции $g_{s}$ можно рассчитать как:

$g_{s}={\dfrac {c_{syn}R-R}{\Delta E_{s}-c_{syn}R}}$

Чтобы минимизировать гиперполяризацию постсинаптического нейрона $\Delta E_{s}$ должно оставаться отрицательным и как можно ближе к 0 (или полностью обнуляться).

Арифметические сети

Арифметические подсети для сложения (А), вычитания (Б), деления (С) и умножения (D) и соответствующие им контурные графики для визуального представления их поведения (рис. 2 Щецинского и др. )

Все методы настройки арифметической подсети взяты из .

Добавление

Дополнительные подсети состоят из одного постсинаптического нейрона, соединенного с пресинаптическими нейронами посредством путей передачи возбуждения. Цель сети — обеспечить приближение линейного сложения входящих пресинаптических сигналов. Подсеть можно настроить, используя любой из методов, описанных ранее. Поведение сложения можно взвесить с помощью $k_{syn}$. Этот тип сети может представлять собой механизмы положительной обратной связи в биологии. Чтобы правильно зафиксировать дополнение $g_{s}$ должно быть небольшим, но не может быть равным 0, иначе синапс будет фактически разорван. Вместо, $\Delta E_{s}$ максимизируется, что приводит к малым значениям $g_{s}$.

Вычитание

Подсети вычитания аналогичны сетям сложения, за исключением того, что вычитаемые пресинаптические потенциалы перемещаются в постсинаптическую клетку по тормозным путям передачи . Это может приближаться к механизмам отрицательной обратной связи в нервной системе. В отличие от деполяризующих ионов, потенциалы гиперполяризующих ионов имеют тенденцию быть намного ближе к потенциалу покоя мембраны. Это приводит к уменьшению $\Delta E_{s}$ значения, поэтому трудно минимизировать $g_{syn}$ как в дополнительной подсети. Самый простой способ правильно настроить сеть вычитания — разработать параметры, соответствующие конкретному сценарию. Этот процесс уже был описан с помощью уравнения активации стационарного состояния. $k_{syn}$ также может использоваться как в дополнительной подсети, но поскольку $g_{syn}$ не может быть сведено к минимуму в той же степени, что и эффект не столь точен. Уравнение для решения тормозного пути таким образом выглядит следующим образом:

$g_{s,2}={\dfrac {\Delta E_{s,1}}{\Delta E_{s,2}}}*{\dfrac {-k_{syn}R}{\Delta E_{s,1}-k_{syn}R}}$

Синаптическая разность потенциалов пути возбуждения ( $\Delta E_{s,1}$) необходимо сначала определить. Очень важно, чтобы $\Delta E_{s,2}$ тормозной путь будет отрицательным, иначе решение уравнения приведет к отрицательной проводимости, что биологически невозможно.

Разделение

Физическая структура подсети деления такая же, как и подсети вычитания, за исключением того, что тормозной синапс является модулирующим, а не передающим. Деление, выполняемое в этой сети, соответствует форме, приведенной ниже, где передаваемый сигнал $U_{pre,1}$ делится на модулирующий сигнал $U_{pre,2}$:

$U_{post}^{*}={\dfrac {U_{pre,1}}{1+{\dfrac {1-c_{syn}}{c_{syn}R}}*U_{pre,2}}}$

Синапс возбуждающей передачи настраивается, как описано ранее. Модулирующий реверсивный потенциал близок к 0, поэтому $\Delta E_{s,2}$ ранее отменяется (устанавливается на 0). Параметр $\Delta E_{s,1}$ равный $R$ и применение их к уравнению активации в устойчивом состоянии дает упрощенное уравнение деления, приведенное выше. Отсюда уравнение можно использовать, как и раньше, и $c_{syn}$ можно настроить так, чтобы сеть обеспечивала желаемое поведение деления. Например, если бы было желательно, чтобы $U_{post}^{*}=1$ когда $U_{pre,2}=R$ затем $c_{syn}$ может быть установлено на ${\tfrac {1}{R}}$ (пример из ). $c_{syn}$ значения ближе к 0 сильнее снижают чувствительность постсинаптического нейрона к входным сигналам.

Умножение

Сети умножения в чем-то похожи на сети деления, но вместо модуляторной синаптической связи непосредственно между пресинаптическим и постсинаптическим нейроном имеется промежуточный нейрон на пути . Пресинаптический нейрон соединяется с интернейроном посредством модуляторного пути, а интернейрон соединяется с постсинаптическим нейроном с помощью другого модуляторного синапса (для пояснения см. рисунок в этом разделе). Эта последовательная модуляция приводит к созданию сети, которая по существу делится на обратное, что оказывается умножением. $c_{syn}$ параметр между интернейроном и постсинаптическим нейроном равен 0. Это гарантирует, что при его потенциале ( $U_{inter}$) имеет максимально допустимое значение ( $R$) постсинаптический потенциал нейрона ( $U_{post}$) равен 0 независимо от приложенного тока. Это имеет смысл, поскольку деление на максимально допустимое число для системы должно привести к минимально возможному результату. Подстановка этого значения в уравнение стационарной активации дает следующее решение для синаптической проводимости:

$g_{s,2}={\dfrac {-R}{\Delta E_{syn,2}}}$

$\Delta E_{syn,2}$ Здесь не может быть больше или равно 0, поскольку деление на ноль не определено , а деление на положительное число дает отрицательную проводимость, что невозможно. Чем меньше негатива $\Delta E_{syn,2}$ есть, чем больше $g_{s,2}$ является. Это означает $g_{s,2}$ должен определить $\Delta E_{syn,2}$ чтобы оставаться в пределах биологического правдоподобия. Спроектировав этот синапс, остальное можно определить, используя методы, изложенные в разделе . Этот процесс довольно сложен и лучше подходит для углубленного чтения.

Динамические сети

Все методы динамической настройки подсети взяты из .

Дифференциация

Подсеть дифференциатора и соответствующий примерный график ее поведения во временной области. (Рисунок 3A,B Щецинского и др. )

Сети дифференциации почти такие же, как сети вычитания с добавленным динамическим компонентом. Пресинаптический нейрон, который ингибирует постсинаптический нейрон, моделируется как физически более крупный нейрон, что означает, что он имеет большую емкость , чем возбуждающий синаптический нейрон. Эта увеличенная емкость приводит к тому, что нейрон медленнее достигает своего полностью возбужденного состояния (т. $\tau _{2}>\tau _{1}$). Вычитание медленно реагирующего нейронного сигнала (с тормозным синапсом) из быстрореагирующего сигнала представляет собой, по сути, биологическую версию числовой дифференциации , при которой предыдущий временной «шаг» вычитается из текущего временного «шага». Эта сеть хороша для выявления изменений приложенного тока к сети или приложенного стимула к сенсорному нейрону. Уравнения, подробно описывающие это поведение, представлены в .

Интеграция

Подсеть интегратора и соответствующий пример графика ее поведения во временной области. (Рисунок 5A,B Щецинского и др. )

Модель нейрона, используемая для SNS, имеет динамику утечки, что означает, что ток всегда утекает из нейрона, чтобы вернуть его к потенциалу покоя. Это означает, что один нейрон, смоделированный таким образом, не способен хранить данные. Однако система из двух нейронов способна на это, если она связана через взаимно тормозящие передающие синапсы с предельно устойчивой кривой равновесия. Взаимное торможение означает, что уровни активации поддерживаются, а не утекают, и состояние системы непрерывно меняется в течение всего времени действия приложенного стимула ( интеграция ). Интеграционные подсети, хотя и не обязательно сложны по структуре, сложнее всего определить и доказать. Таким образом, вывод и доказательство предельной устойчивости заслуживают подробного прочтения здесь. поскольку беглого обзора будет недостаточно.

Приложения

Роботизированное управление ногами

Как упоминалось ранее, основным применением метода синтетической нервной системы является управление роботами. В этой области SNS в основном использовались для управления передвижением роботов с ногами. В литературе существует множество примеров как смоделированных, так и физических роботов, включающих SNS:

РобоЛобстер

• Айерс и др. сконструировали и настроили контроллеры SNS, структура и функции которых включали результаты многих экспериментальных исследований по управлению движениями робота RoboLobster, вдохновленного лобстером. Эта работа выделяется как ранний пример типичного управления роботами через SNS из-за глубины детализации нейронных цепей (например, командных сетей, координационных сетей и сетей генерации паттернов) и широты биоинспирации (например, нейросистемной организации контроллеров, животных). -подобный план тела, нейроморфные сенсоры и стратегии кодирования, а также миоморфные актуаторы).
• Последующая работа лаборатории Айерса увеличила биологическую детализацию нейронных и синаптических моделей, используемых в их контроллерах СНС. После ручной настройки SNS выдает скоординированные выходные данные для управления RoboLobster. Как следствие, эта работа демонстрирует надежность нейронных цепей, которые координируют движения ног ракообразных.

Нейронный контроллер для ходьбы задней ноги робота-собаки на основе схемы спинного мозга мыши

• В этом исследовании предложен новый систематический автономный метод настройки значений параметров в SNS. Метод настройки был систематическим в том, что программы оптимизации без производных выбирали значения параметров, которые минимизировали функции потерь , связанные с производительностью сети, например, фазировку между движением ног и активностью сети, генерирующей шаблоны, без вмешательства человека. Это позволило избежать трудоемкой ручной настройки параметров. Метод настройки был автономным, поскольку выбор всех параметров происходил до начала работы робота, что устраняло сложный процесс управления роботом для выбора значений параметров.

Процесс и инструменты проектирования динамических нейромеханических моделей и контроллеров роботов

• В этом исследовании количественно оценена стабильность и фазовый отклик модели полуцентрового осциллятора, использованной в предыдущих и последующих исследованиях SNS. Величина «дельта», то есть равновесное напряжение заторможенного полуцентра относительно порога его синаптической проводимости. $E_{lo}$, был введен как средство прогнозирования стабильности и фазовых характеристик модели генератора. Это исследование связывает «дельту» с синаптической проводимостью и реверсивным потенциалом внутри сети.
• Был идентифицирован механизм, лежащий в основе посттормозного отскока (PIR) в модели полуцентрового осциллятора. Количественная оценка этого механизма облегчила разработку последующих сетей, в которых сенсорная обратная связь с изменением фазы должна вызывать PIR (например, активация сетей качания после прекращения обратной связи, сигнализирующей о фазе позиции). ) или не следует индуцировать PIR (например, обратная связь нагрузки с одной ноги, препятствующая маховым сетям передней ноги ).
• Описаны расчетные программы настройки параметров СНС для достижения определенных частот колебаний или фазовых характеристик. Эти программы были применены для управления двухсуставной моделируемой ногой.

Направленное пошаговое нейронное управление ногами робота-богомола, известного как MantisBot.

• Это исследование было первым, в котором подход функциональных подсетей (FSA) был применен к разработке SNS, которая управляла движением робота. СНС, состоящая из более чем 400 нейронов и более 800 синапсов, контролировала шаг ноги робота и адаптировала его на основе визуальных сигналов робота. Для настройки параметров сети не требовалось никакого метода проб и ошибок, т. е. ручной настройки, оптимизации или машинного обучения. Более того, поскольку настройка основывалась на структуре и функциональности схемы, этот подход экономил время по сравнению с предыдущими исследованиями, в которых для настройки значений использовалась оптимизация без производных. Структура сети и ее настройка со стороны FSA позволили роботу вести себя заданным образом.

Управление локомоцией имитации таракана

• В этом исследовании была представлена ​​самая крупная СНС, настраиваемая с помощью FSA, СНС с более чем 3500 нейронами и более чем 6500 синапсами, структура которых основана на грудной схеме, контролирующей передвижение насекомых. SNS контролировала ходьбу симуляции таракана по имени SimRoach2. SimRoach2 шел по прямой траектории с минимальным наклоном тела и креном со скоростью 20 см/с, что является обычной скоростью ходьбы для модельного организма Blaberus Discoidalis . Как и в учебе, для настройки параметров сети не требовалось метода проб и ошибок.

Нейромеханическая модель ходьбы задней конечности крысы, включающая генераторы центральных нейронных паттернов

• В этом исследовании FSA применили к SNS от и расширил его, включив в него дополнительные иерархические уровни сети управления локомоцией позвоночника. Это исследование продемонстрировало, что методы FSA могут быть применены к моделям локомоции позвоночных и не специфичны для насекомых.

Мозговые сети

Синтетические нервные системы также использовались для моделирования более высоких функций нервной системы, чем периферические сети, отвечающие за передвижение. Некоторые примеры таких социальных сетей перечислены здесь:

Визуальная нейросетевая модель омара для рефлексов оптического потока

• В результате этого исследования была создана SNS, которая рассчитывала оптический поток визуальной сцены омара и формулировала нисходящие команды в зависимости от направления для сетей передвижения, чтобы управлять поведением. Это ранняя модель мозговой сети SNS.

Визуальная нейросетевая модель плодовой мухи для распознавания движений

• FSA использовался для построения модели сетей SNS, которые обрабатывают широкоугольное зрение у насекомых, т.е. 12 столбцов оптической доли насекомых, включая сетчатку, пластинку, мозговое вещество и тангенциальные клетки пластинки дольки (LPTC). Это исследование является первым, в котором FSA применяется для проектирования экстероцептивных сетей, то есть сетей визуальных элементарных детекторов движения (EMD).

Модель оптомоторной реакции зрительной системы робота, вдохновленной богомолом

• Авторы расширяют модель включить 64 столбца зрительной доли. Сеть была реализована как часть системы управления роботом. Нейронная обратная связь от LPTC вызывала оптомоторный рефлекс, аналогичный описанному у насекомых.

Моделирование сенсорного интегратора в центральном комплексе мозга насекомых

• СНС, основанная на связности и функциях центрального комплекса насекомых (CX), была разработана и настроена с использованием FSA и протестирована в моделировании. Модель CX воспроизводила реакции на возмущения, зарегистрированные у плодовых мух, и интегрированный антенный вход, как предполагалось у тараканов. Анализ, проведенный FSA, позволил предположить механизм, который может лежать в основе поведения CX, напоминающего память.