Хеббийская теория

Теория ивбии - это нейропсихологическая теория, утверждающая, что увеличение синаптической эффективности возникает из -за повторной и постоянной стимуляции постсинаптической клетки пресинаптической клетки . Это попытка объяснить синаптическую пластичность , адаптация нейронов мозга во время учебного процесса. Он был представлен Дональдом Хеббом в его книге 1949 года «Организация поведения» . Теория также называется правлением Хебба , постулат Хебба и теорией сборки клеток . HEBB утверждает это следующим образом:

Давайте предположим, что устойчивость или повторение реверберационной активности (или «след») имеют тенденцию вызывать длительные клеточные изменения, которые добавляют к ее стабильности. ... когда аксон ячейки А достаточно близок, чтобы возбудить клетку B и многократно или постоянно принимает участие в ее стрельбе, некоторые процессы роста или метаболические изменения происходят в одной или обеих клетках, такая из эффективность A, как один Клетки, стреляющие B , повышаются.

Теория часто обобщена как « нейроны, которые стреляют вместе, вместе проводится ». Тем не менее, HEBB подчеркнул, что ячейка A должна «принять участие в стрельбе» клетки B , и такая причинность может возникнуть только в том случае, если ячейка стреляет непосредственно, а не в то же время, что и клетка B. A Этот аспект причинно-следственной связи в работе Хебба предвещал то, что в настоящее время известно о пластичности, зависящей от Spike-timing , которая требует временного приоритета.

Теория пытается объяснить ассоциативное или ежедневное обучение , в котором одновременная активация клеток приводит к выраженному увеличению синаптической силы между этими клетками. Он также обеспечивает биологическую основу для бесшехожденных методов обучения для образования и реабилитации памяти. При изучении нейронных сетей в когнитивной функции это часто рассматривается как нейрональная основа неконтролируемого обучения .

Хеббийские инграммы и теория сборки клеток

Теория и евббийская теория касается того, как нейроны могут соединиться, чтобы стать инграммами . Теории Хебба о форме и функции клеточных сборок можно понять из следующего:

Общая идея - это старая, что любые две клетки или системы клеток, которые неоднократно активны одновременно, будут иметь тенденцию стать «связанной», чтобы активность в одной активности облегчала активность в другом.

Также написали:

Когда одна ячейка неоднократно помогает в стрельбе в другую, аксон первой ячейки развивает синаптические ручки (или увеличивает их, если они уже существуют) в контакте с сомой второй ячейки.

Д. Алан Олпорт] предполагает дополнительные идеи, касающиеся теории сбора клеток и его роли в формировании инграмм, в соответствии с концепцией аутооседания, описанной следующим образом:

Если входные данные в систему вызывают неоднократно такую ​​же схему активности, набор активных элементов, составляющих эту схему, становится все более сильно взаимосвязанным. То есть каждый элемент будет стремиться включать каждый другой элемент и (с отрицательными весами), чтобы отключить элементы, которые не образуют часть шаблона. Иными словами, шаблон в целом станет «автоматическим ассоциированным». Мы можем назвать изученную (автоматически ассоциированную) шаблон инграммой.

Работа в лаборатории Эрика Канделя предоставила доказательства участия механизмов обучения в Хеббиян в синапсах в морской гастропод Aplysia Californica . Эксперименты по механизмам модификации синапса в Хеббияне в центральной нервной системе синапсов позвоночных гораздо сложнее контролировать, чем эксперименты с относительно простыми синапсами периферической нервной системы, изученными у морских беспозвоночных. Большая часть работы по длительным синаптическим изменениям между нейронами позвоночных (такими как длительное потенцирование ) включает использование нефизиологической экспериментальной стимуляции клеток мозга. Тем не менее, некоторые из физиологически значимых механизмов модификации синапса, которые были изучены в мозге позвоночных, по -видимому, являются примерами хеббийских процессов. Одно из таких исследований Обзоры результатов экспериментов, которые указывают на то, что длительные изменения синаптических сильных сторон могут быть вызваны физиологически значимой синаптической активностью, работая как с помощью и еббиянских, так и не-хеббийских механизмов.

Принципы

С точки зрения искусственных нейронов и искусственных нейронных сетей , принцип Хебба может быть описан как метод определения того, как изменить веса между нейронами модели. Вес между двумя нейронами увеличивается, если два нейрона активируются одновременно и уменьшаются, если они активируются отдельно. Узлы, которые, как правило, являются как положительными, либо оба отрицательными в одно и то же время, имеют сильные положительные веса, в то время как те, которые, как правило, противоположны, имеют сильные отрицательные веса.

Ниже приведено формальное описание обучения иерогации: (возможны многие другие описания)

$\,w_{ij}=x_{i}x_{j}$

где $w_{ij}$ Вес соединения от нейрона $j$ к нейрону $i$ и $x_{i}$ Вход для нейрона $i$Полем Обратите внимание, что это обучение шаблона (веса обновляются после каждого примера обучения). В сети Хопфилда соединения $w_{ij}$ устанавливаются на ноль, если $i=j$ (Рефлексивные соединения не допускаются). С бинарными нейронами (активациями 0 или 1) соединения будут установлены на 1, если бы подключенные нейроны имеют одинаковую активацию для картины.

Когда используется несколько схем обучения, выражение становится средним из отдельных:

$w_{ij}={\frac {1}{p}}\sum _{k=1}^{p}x_{i}^{k}x_{j}^{k}$

где $w_{ij}$ Вес соединения от нейрона $j$ к нейрону $i$, $p$ это количество учебных моделей и $x_{i}^{k}$ а $k$-Т -вход для нейрона $i$Полем Это обучение по эпохе (вес, обновленные после того, как представлены все примеры обучения), будучи последним членом, применимым как к дискретным, так и к непрерывным учебным наборам. Опять же, в сети Hopfield, соединения $w_{ij}$ устанавливаются на ноль, если $i=j$ (Нет рефлексивных соединений).

Вариант обучения в хеббиян, который учитывает такие явления, как блокировка и многие другие явления нейронного обучения, является математической моделью Гарри Клопфа . Модель Клопфа воспроизводит очень много биологических явлений, а также проста в реализации.

Взаимосвязь с неконтролируемым обучением, стабильностью и обобщением

Из-за простой природы обучения в иернице, основанной только на совпадении до и пост-синаптической деятельности, не может быть интуитивно ясно, почему эта форма пластичности приводит к значимому обучению. Тем не менее, можно показать, что еврбийская пластичность поднимает статистические свойства ввода таким образом, который можно классифицировать как неконтролируемое обучение.

Это может быть математически показано в упрощенном примере. Давайте будем работать по упрощенному предположению об одном нейроне на основе скорости скорости $y(t)$, чьи входные данные имеют ставки $x_{1}(t)...x_{N}(t)$Полем Реакция нейрона $y(t)$ обычно описывается как линейная комбинация его входа, $\sum _{i}w_{i}x_{i}$, затем функция ответа $f$:

$y=f\left(\sum _{i=1}^{N}w_{i}x_{i}\right).$

Как определено в предыдущих разделах, хеббийская пластичность описывает эволюцию во время синаптического веса $w$:

${\frac {dw_{i}}{dt}}=\eta x_{i}y.$

Предполагая, для простоты функцию отклика идентификации $f(a)=a$, мы можем написать

${\frac {dw_{i}}{dt}}=\eta x_{i}\sum _{j=1}^{N}w_{j}x_{j}$

или в матрицы форме :

${\frac {d\mathbf {w} }{dt}}=\eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} .$

Как и в предыдущей главе, если обучение по эпохе выполняется в среднем $\langle \dots \rangle$ чрезмерно дискретный или непрерывный (время) обучающий набор $\mathbf {x}$ можно сделать: $${\frac {d\mathbf {w} }{dt}}=\langle \eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} \rangle =\eta \langle \mathbf {x} \mathbf {x} ^{T}\rangle \mathbf {w} =\eta C\mathbf {w} .$$где $C=\langle \,\mathbf {x} \mathbf {x} ^{T}\rangle$ это корреляционная матрица ввода в дополнительном предположении, что $\langle \mathbf {x} \rangle =0$ (т. Е. Среднее значение входов равно нулю). Это система $N$ связанные линейные дифференциальные уравнения. С $C$ симметрично , и , он также диагонализируется решение можно найти, работая на основе собственных векторов, чтобы иметь форму

$\mathbf {w} (t)=k_{1}e^{\eta \alpha _{1}t}\mathbf {c} _{1}+k_{2}e^{\eta \alpha _{2}t}\mathbf {c} _{2}+...+k_{N}e^{\eta \alpha _{N}t}\mathbf {c} _{N}$

где $k_{i}$ произвольные постоянные, $\mathbf {c} _{i}$ собственные векторы $C$ и $\alpha _{i}$ их соответствующие собственные значения. Поскольку корреляционная матрица всегда является матрицей с положительным определением , собственные значения являются положительными, и можно легко увидеть, как вышеуказанное решение всегда экспоненциально дивергентно во времени. Это внутренняя проблема из -за нестабильной этой версии правила Хебба, как и в любой сети с доминирующим сигналом, синаптические веса будут увеличиваться или уменьшаться в геометрической прогрессии. Интуитивно, это связано с тем, что всякий раз, когда пресинаптический нейрон возбуждает постсинаптический нейрон, вес между ними усиливается, вызывая еще более сильное возбуждение в будущем и т. Д. Можно подумать, что решение состоит в том, чтобы ограничить скорость стрельбы постсинаптического нейрона, добавив нелинейную функцию насыщения ответа $f$, но на самом деле можно показать, что для любой модели нейронов правило Хебба нестабильно. Следовательно, сетевые модели нейронов обычно используют другие теории обучения, такие как теория BCM , правило OJA , или генерализованный алгоритм Хеббиян .

Независимо от того, даже для нестабильного решения выше можно увидеть, что, когда пройдет достаточное время, один из терминов доминирует над другими, и

$\mathbf {w} (t)\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}$

где $\alpha ^{*}$ является крупнейшим собственным знаком $C$Полем В настоящее время постсинаптический нейрон выполняет следующую операцию:

$y\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}\mathbf {x}$

Потому что снова, $\mathbf {c} ^{*}$ Собственное вектор, соответствующий наибольшему собственному знанию матрицы корреляции между $x_{i}$S, это точно соответствует вычислению первого основного компонента ввода.

Этот механизм может быть расширен на выполнение полного PCA (анализ основных компонентов) ввода путем добавления дополнительных постсинаптических нейронов, при условии, что постсинаптические нейроны предотвращаются от всех, кто поднимает один и тот же основной компонент, например, путем добавления бокового ингибирования в постсинаптическом слое. Таким образом, мы соединили обучение Hebbian с PCA, которая является элементарной формой неконтролируемого обучения, в том смысле, что сеть может поднять полезные статистические аспекты ввода и «описать» их дистиллированным образом в его результатах.

Ограничения

Несмотря на общее использование ежедневных моделей для долгосрочного потенцирования, принцип Хебба не покрывает все формы синаптической долгосрочной пластичности. HEBB не постулировал каких-либо правил для ингибирующих синапсов, и при этом он не делал прогнозы для последовательностей против коаузальных всплесков (пресинаптические огни нейронов после постсинаптического нейрона). Синаптическая модификация может происходить не только между активированными нейронами A и B, но и при соседних синапсах. Таким образом, все формы гетеро-синаптической и гомеостатической пластичности считаются негиббийскими. Примером является ретроградная сигнализация на пресинаптические терминалы. Соединение, наиболее часто идентифицируемое как выполнение этой ретроградной роли передатчика, представляет собой оксид азота , который из -за его высокой растворимости и диффузии часто оказывает влияние на близлежащие нейроны. Этот тип диффузной синаптической модификации, известный как обучение объемом, не включен в традиционную модель Еврбии.

Учебный счет и евббиянки зеркальных нейронов

Обучение и иефцев и зависимая от всплеска пластичности использовались в влиятельной теории того, как появляются зеркальные нейроны . Зеркальные нейроны - это нейроны, которые стреляют как, когда человек выполняет действие, и когда человек видит или слышит Другой выполняет аналогичное действие. Обнаружение этих нейронов оказало очень влияние на объяснение того, как люди понимают действия других, показывая, что, когда человек воспринимает действия других, человек активирует моторные программы, которые они будут использовать для выполнения аналогичных действий. Активация этих моторных программ затем добавляет информацию к восприятию и помогает предсказать, что человек сделает дальше на основе собственной моторной программы воспринимателя. Задача состояла в том, чтобы объяснить, как люди приходят к нейронам, которые реагируют как при выполнении действия, так и во время слуха или видя, как другой выполняет подобные действия.

Кристиан Кейзерс и Дэвид Перретт предположили, что, будучи человеком, выполняет определенное действие, человек увидит, услышит и почувствует выполнение действия. Эти сенсорные сигналы повторного аффира вызовут активность в нейронах, отвечающих на вид, звук и ощущение действия. Поскольку активность этих сенсорных нейронов будет постоянно перекрываться во времени с активностью моторных нейронов, которые вызывали действие, и иевое обучение предсказывает, что синапсы, соединяющие нейроны, реагирующие на вид, звук и ощущение действия и активности нейронов, запускающих Действие должно быть потенцировано. То же самое верно, в то время как люди смотрят на себя в зеркале, слышат, как сами болтают или подражают другими. После повторного опыта этой повторности синапсы, соединяющие сенсорные и моторные представления действия, настолько сильны, что моторные нейроны начинают стрелять в звук или видение действия, и создается зеркальный нейрон.

Доказательства этой точки зрения получены из многих экспериментов, которые показывают, что моторные программы могут быть вызваны новыми слуховыми или визуальными стимулами после повторного сочетания стимула с выполнением моторной программы (обзор доказательств см. В Jiudice et al., 2009 ) Например, люди, которые никогда не играли на пианино, не активируют области мозга, участвующие в игре на пианино при прослушивании фортепианной музыки. Пять часов уроков на фортепиано, в которых участник подвергается воздействию звука пианино каждый раз, когда они нажимают на ключ, оказалось достаточным, чтобы вызвать активность в моторных областях мозга при прослушивании фортепианной музыки, когда услышано в более позднее время. В соответствии с тем фактом, что зависимая от шипа пластичности возникает только в том случае, если стрельба пресинаптического нейрона предсказывает стрельбу после синаптического нейрона, Связь между сенсорными стимулами и моторными программами также, по -видимому, потенцирована только в том случае, если стимул зависит от моторной программы.

Смотрите также

• Принцип Дейла
• Обнаружение совпадения в нейробиологии
• Либра
• Метапластичность
• Тетаническая стимуляция
• Синапторопная гипотеза
• Нейропластичность
• Бихевиоризм

Дальнейшее чтение

• Hebb, Do (1961). «Отличительные особенности обучения в высшем животном». В JF Delafresnaye (ed.). Мозговые механизмы и обучение . Лондон: издательство Оксфордского университета.
• Hebb, Do (1940). «Человеческое поведение после обширного двустороннего удаления из лобных долей». Архивы неврологии и психиатрии . 44 (2): 421–438. doi : 10.1001/archneurpsyc.1940.02280080181011 .
• Бишоп, CM (1995). Нейронные сети для распознавания образцов . Оксфорд: издательство Оксфордского университета. ISBN  978-0-19-853849-3 .
• Paulsen, O.; Sejnowski, TJ (2000). «Естественные закономерности активности и долгосрочная синаптическая пластичность» . Современное мнение о нейробиологии . 10 (2): 172–179. doi : 10.1016/s0959-4388 (00) 00076-3 . PMC   2900254 . PMID   10753798 .

Внешние ссылки

• Обзор архив 2017-05-02 на машине Wayback
• Учебное пособие по обучению Хеббиян ( часть 1: Фильтрация новинок , часть 2: PCA )