Синаптический вес

В нейробиологии и информатике . синаптический вес относится к силе или амплитуде связи между двумя узлами, что в биологии соответствует величине влияния срабатывания одного нейрона на другой Этот термин обычно используется в искусственных и биологических нейронных сетей . исследованиях

Вычисление

В вычислительной нейронной сети вектор или набор входных данных ${\textbf {x}}$ и результаты ${\textbf {y}}$, или пре- и постсинаптические нейроны соответственно, связаны между собой синаптическими весами, представленными матрицей $w$, где для линейного нейрона

$y_{j}=\sum _{i}w_{ij}x_{i}~~{\textrm {or}}~~{\textbf {y}}=w{\textbf {x}}$.

где строки синаптической матрицы представляют собой вектор синаптических весов для выходных данных, индексированных $j$.

Синаптический вес изменяется с помощью правила обучения, самым основным из которых является правило Хебба , которое в биологических терминах обычно формулируется как

Нейроны, которые срабатывают вместе, соединяются вместе.

С вычислительной точки зрения это означает, что если сильный сигнал от одного из входных нейронов приводит к сильному сигналу от одного из выходных нейронов, то синаптический вес между этими двумя нейронами увеличится. Однако это правило нестабильно и обычно модифицируется с использованием таких вариаций, как правило Оджи , радиальные базисные функции или алгоритм обратного распространения ошибки .

Биология

Для биологических сетей эффект синаптических весов не так прост, как для линейных нейронов или обучения Хебба . Однако биофизические модели, такие как теория BCM, добились определенного успеха в математическом описании этих сетей.

В центральной нервной системе млекопитающих передача сигналов осуществляется взаимосвязанными сетями нервных клеток или нейронов. Для основного пирамидного нейрона входной сигнал переносится аксоном , который высвобождает химические вещества нейромедиаторов в синапс , который улавливается дендритами следующего нейрона, который затем может генерировать потенциал действия , аналогичный выходному сигналу в вычислительный случай.

Синаптический вес в этом процессе определяется несколькими переменными факторами:

• Насколько хорошо входной сигнал распространяется по аксону (см. миелинизация ),
• Количество нейромедиатора, высвободившегося в синапс, и количество, которое может быть поглощено следующей клеткой (определяется количеством АМРА- и NMDA-рецепторов на клеточной мембране и количеством внутриклеточного кальция и других ионов),
• Число таких связей аксона с дендритами,
• Насколько хорошо сигнал распространяется и интегрируется в постсинаптической клетке.

Происходящие изменения синаптической массы известны как синаптическая пластичность , а процесс, лежащий в основе долгосрочных изменений ( долговременная потенциация и депрессия ), до сих пор плохо изучен. Первоначальное правило обучения Хебба первоначально применялось к биологическим системам, но ему пришлось претерпеть множество модификаций, поскольку выявился ряд теоретических и экспериментальных проблем.

См. также

• Нейронная сеть
• Синаптическая пластичность
• Теория Хебба