Нейронная сеть общей регрессии

Нейронная сеть обобщенной регрессии (GRNN) представляет собой разновидность с радиальным базисом нейронных сетей . GRNN был предложен Д.Ф. Шпехтом в 1991 году. ^[1]

GRNN можно использовать для регрессии , прогнозирования и классификации . GRNN также может быть хорошим решением для онлайновых динамических систем .

GRNN представляет собой улучшенную технику нейронных сетей, основанную на непараметрической регрессии . Идея состоит в том, что каждая обучающая выборка будет представлять собой среднее значение для радиального базисного нейрона . ^[2]

Математическое представление

Y(x)={\frac {\sum _{k=1}^{N}y_{k}K(x,x_{k})}{\sum _{k=1}^{N}K(x,x_{k})}}

где:

$Y(x)$ это прогнозируемое значение входных данных $x$
$y_{k}$ вес активации для нейрона слоя шаблонов в точке $k$
$K(x,x_{k})$ — это ядро радиальной базисной функции (ядро Гаусса), сформулированное ниже.

Гауссово ядро

$K(x,x_{k})=e^{-d_{k}/2\sigma ^{2}},\qquad d_{k}=(x-x_{k})^{T}(x-x_{k})$

где $d_{k}$ - квадрат евклидова расстояния между обучающими выборками $x_{k}$ и ввод $x.$

Выполнение

GRNN реализована во многих компьютерных языках, включая MATLAB , ^[3] R-язык программирования , Python (язык программирования и Node.js. )

Нейронные сети (в частности, многослойный персептрон) могут определять нелинейные закономерности в данных путем объединения с обобщенными линейными моделями с учетом распределения результатов (значительно отличающегося от оригинальной GRNN). Было несколько успешных разработок, в том числе регрессия Пуассона, порядковая логистическая регрессия, квантильная регрессия и полиномиальная логистическая регрессия , описанные Фаллахом в 2009 году. ^[4]

Преимущества и недостатки

Подобно RBFNN, GRNN имеет следующие преимущества:

Обучение за один проход, поэтому обратное распространение ошибки не требуется.
Высокая точность оценки, поскольку используются функции Гаусса .
Он может обрабатывать шумы на входах.
Для обучения требуется относительно мало данных.

Основными недостатками GRNN являются:

Его размер может быть огромным, что сделает его вычислительно дорогостоящим.
Не существует оптимального метода его улучшения.

Ссылки

^ Шпехт, Д.Ф. (1 ноября 1991 г.). «Нейронная сеть общей регрессии». Транзакции IEEE в нейронных сетях . 2 (6): 568–576. дои : 10.1109/72.97934 . ПМИД 18282872 . S2CID 6266210 .
^ https://minds.wisconsin.edu/bitstream/handle/1793/7779/ch2.pdf?sequence=14 ^{[ только URL-адрес PDF ]}
^ «Нейронные сети с обобщенной регрессией — MATLAB и Simulink — MathWorks Australia» .
^ Фаллах, Надер; Гу, Хун; Мохаммед, Казем; Сейедсалехи, Сейед Али; Нуриджеляни, Керамат; Эшрагян, Мохаммад Реза (2009). «Нелинейная регрессия Пуассона с использованием нейронных сетей: моделирование». Нейронные вычисления и их приложения . 18 (8): 939–943. дои : 10.1007/s00521-009-0277-8 . S2CID 18980875 .

[1] Шпехт, Д.Ф. (1 ноября 1991 г.). «Нейронная сеть общей регрессии». Транзакции IEEE в нейронных сетях . 2 (6): 568–576. дои : 10.1109/72.97934 . ПМИД 18282872 . S2CID 6266210 .

[2] ttps://minds.wisconsin.edu/bitstream/handle/1793/7779/ch2.pdf?sequence=14 ^{[ только URL-адрес PDF ]}

[3] «Нейронные сети с обобщенной регрессией — MATLAB и Simulink — MathWorks Australia» .

[4] Фаллах, Надер; Гу, Хун; Мохаммед, Казем; Сейедсалехи, Сейед Али; Нуриджеляни, Керамат; Эшрагян, Мохаммад Реза (2009). «Нелинейная регрессия Пуассона с использованием нейронных сетей: моделирование». Нейронные вычисления и их приложения . 18 (8): 939–943. дои : 10.1007/s00521-009-0277-8 . S2CID 18980875 .

[1]

[2]

[3]

[4]