Вероятностная нейронная сеть

Вероятностная нейронная сеть (ПНС) ^[1] — это нейронная сеть прямого распространения , которая широко используется в задачах классификации и распознавания образов. В алгоритме PNN родительская функция распределения вероятностей (PDF) каждого класса аппроксимируется окном Парцена и непараметрической функцией. Затем, используя PDF каждого класса, оценивается вероятность класса новых входных данных, а затем используется правило Байеса для выделения класса с наибольшей апостериорной вероятностью для новых входных данных. Благодаря этому методу вероятность ошибочной классификации сведена к минимуму. ^[2] Этот тип искусственной нейронной сети (ИНС) был получен из байесовской сети. ^[3] и статистический алгоритм, называемый дискриминантным анализом Кернела Фишера . ^[4] Он был представлен Д.Ф. Шпехтом в 1966 году. ^[5]^[6] В PNN операции организованы в многоуровневую сеть прямого распространения с четырьмя уровнями:

Входной слой
Слой узора
Слой суммирования
Выходной слой

Слои

PNN часто используется в задачах классификации. ^[7] Когда входные данные присутствуют, первый слой вычисляет расстояние от входного вектора до обучающих входных векторов. В результате создается вектор, элементы которого указывают, насколько близки входные данные к обучающим входным данным. Второй уровень суммирует вклад каждого класса входных данных и выдает чистый результат в виде вектора вероятностей. Наконец, конкурирующая передаточная функция на выходе второго уровня выбирает максимум из этих вероятностей и выдает 1 (положительная идентификация) для этого класса и 0 (отрицательная идентификация) для нецелевых классов.

Входной слой

Каждый нейрон во входном слое представляет переменную-предиктор. В категориальных переменных нейроны N-1 используются при наличии N категорий. Он стандартизирует диапазон значений путем вычитания медианы и деления на межквартильный размах . Затем входные нейроны передают значения каждому нейрону скрытого слоя.

Слой узора

Этот слой содержит по одному нейрону для каждого случая в наборе обучающих данных. Он сохраняет значения переменных-предикторов для случая вместе с целевым значением. Скрытый нейрон вычисляет евклидово расстояние тестового примера от центральной точки нейрона, а затем применяет ядро радиальной базисной функции, используя значения сигмы.

Слой суммирования

Для PNN существует один нейрон шаблона для каждой категории целевой переменной. Фактическая целевая категория каждого обучающего случая сохраняется в каждом скрытом нейроне; взвешенное значение, выходящее из скрытого нейрона, передается только нейрону шаблона, который соответствует категории скрытого нейрона. Нейроны шаблонов добавляют значения для класса, который они представляют.

Выходной слой

Выходной уровень сравнивает взвешенные голоса для каждой целевой категории, накопленные в слое шаблонов, и использует наибольшее количество голосов для прогнозирования целевой категории.

Преимущества

Использование PNN вместо многослойного персептрона имеет несколько преимуществ и недостатков . ^[8]

PNN намного быстрее, чем многослойные сети перцептрона.
PNN могут быть более точными, чем многослойные сети перцептронов.
Сети PNN относительно нечувствительны к выбросам.
Сети PNN генерируют точные прогнозируемые показатели целевой вероятности.
PNN приближаются к оптимальной классификации Байеса.

Недостатки

PNN медленнее, чем многослойные сети перцептрона, классифицируют новые случаи.
PNN требует больше места в памяти для хранения модели.

Приложения на базе PNN

вероятностные нейронные сети в моделировании структурного разрушения ливневых труб. ^[9]
метод вероятностных нейронных сетей для диагностики образцов желудочного эндоскопа на основе FTIR-спектроскопии. ^[10]
Применение вероятностных нейронных сетей к популяционной фармакокинетике. ^[11]
Вероятностные нейронные сети для прогнозирования классов лейкемии и эмбриональных опухолей центральной нервной системы. ^[12]
Идентификация корабля с использованием вероятностных нейронных сетей. ^[13]
Вероятностное управление конфигурацией датчиков на основе нейронной сети в беспроводной одноранговой сети. ^[14]
Вероятностная нейронная сеть в распознавании символов.
Классификация изображений дистанционного зондирования. ^[15]

Ссылки

^ Мохебали, Бехшад; Тахмассеби, Амирхессам; Мейер-Безе, Анке; Гандоми, Амир Х. (2020). Вероятностные нейронные сети: краткий обзор теории, реализации и применения . Эльзевир. стр. 347–367. дои : 10.1016/B978-0-12-816514-0.00014-X . S2CID 208119250 .
^ Зейнали, Яша; История, Бретт А. (2017). «Конкурентно-вероятностная нейронная сеть» . Комплексное компьютерное проектирование . 24 (2): 105–118. дои : 10.3233/ICA-170540 .
^ «Вероятностные нейронные сети» . Архивировано из оригинала 18 декабря 2010 г. Проверено 22 марта 2012 г.
^ «Архивная копия» (PDF) . Архивировано из оригинала (PDF) 31 января 2012 г. Проверено 22 марта 2012 г. {{cite web}}: CS1 maint: архивная копия в заголовке ( ссылка )
^ Шпехт, Д.Ф. (1 июня 1967 г.). «Генерация полиномиальных дискриминантных функций для распознавания образов». Транзакции IEEE на электронных компьютерах . EC-16 (3): 308–319. дои : 10.1109/PGEC.1967.264667 . ISSN 0367-7508 .
^ Шпехт, Д.Ф. (1990). «Вероятностные нейронные сети». Нейронные сети . 3 : 109–118. дои : 10.1016/0893-6080(90)90049-Q .
^ «Вероятностные нейронные сети :: Сети с радиальным базисом (Neural Network Toolbox™)» . www.mathworks.in . Архивировано из оригинала 4 августа 2012 года . Проверено 6 июня 2022 г.
^ «Вероятностные и общие регрессионные нейронные сети» . Архивировано из оригинала 2 марта 2012 г. Проверено 22 марта 2012 г.
^ Тран, Д.Х.; Нг, АВМ; Перера, БЕК; Берн, С.; Дэвис, П. (сентябрь 2006 г.). «Применение вероятностных нейронных сетей для моделирования структурного разрушения ливневых труб» (PDF) . Городской водный журнал . 3 (3): 175–184. дои : 10.1080/15730620600961684 . S2CID 15220500 . Архивировано из оригинала (PDF) 8 августа 2017 года . Проверено 27 февраля 2023 г.
^ Ли, QB; Ли, Х.; Чжан, Дж.Дж.; Сюй, YZ; Ву, Дж. Г.; Сан, XJ (2009). «[Применение метода вероятностных нейронных сетей для диагностики образцов желудочного эндоскопа на основе FTIR-спектроскопии]». Гуан Пу Сюэ Юй Гуан Пу Фэнь Си . 29 (6): 1553–7. ПМИД 19810529 .
^ Берно, Э.; Брамбилла, Л.; Канапаро, Р.; Казале, Ф.; Коста, М.; Делла Пепа, К.; Эанди, М.; Пасеро, Э. (2003). «Применение вероятностных нейронных сетей к популяционной фармакокинетике». Материалы Международной совместной конференции по нейронным сетям, 2003 г. стр. 2637–2642. дои : 10.1109/IJCNN.2003.1223983 . ISBN 0-7803-7898-9 . S2CID 60477107 .
^ Хуанг, Ченн-Юнг; Ляо, Вэй-Чен (2004). «Применение вероятностных нейронных сетей для прогнозирования классов лейкемии и эмбриональных опухолей центральной нервной системы» . Нейронная обработка писем . 19 (3): 211–226. дои : 10.1023/B:NEPL.0000035613.51734.48 . S2CID 5651402 .
^ Араги, Лейла Фаллах; д Халузаде, Хами; Арван, Мохаммад Реза (19 марта 2009 г.). «Идентификация корабля с использованием вероятностных нейронных сетей (PNN)» (PDF) . Материалы Международной мультиконференции инженеров и компьютерщиков . 2 . Гонконг , Китай . Проверено 27 февраля 2023 г.
^ «Архивная копия» (PDF) . Архивировано из оригинала (PDF) 14 июня 2010 г. Проверено 22 марта 2012 г. {{cite web}}: CS1 maint: архивная копия в заголовке ( ссылка )
^ Чжан, Ю. (2009). «Классификация изображений дистанционного зондирования на основе улучшенной вероятностной нейронной сети» . Датчики . 9 (9): 7516–7539. Бибкод : 2009Senso...9.7516Z . дои : 10.3390/s90907516 . ПМК 3290485 . ПМИД 22400006 .

[pnn-book-1] Мохебали, Бехшад; Тахмассеби, Амирхессам; Мейер-Безе, Анке; Гандоми, Амир Х. (2020). Вероятностные нейронные сети: краткий обзор теории, реализации и применения . Эльзевир. стр. 347–367. дои : 10.1016/B978-0-12-816514-0.00014-X . S2CID 208119250 .

[2] Зейнали, Яша; История, Бретт А. (2017). «Конкурентно-вероятностная нейронная сеть» . Комплексное компьютерное проектирование . 24 (2): 105–118. дои : 10.3233/ICA-170540 .

[3] «Вероятностные нейронные сети» . Архивировано из оригинала 18 декабря 2010 г. Проверено 22 марта 2012 г.

[4] «Архивная копия» (PDF) . Архивировано из оригинала (PDF) 31 января 2012 г. Проверено 22 марта 2012 г. {{cite web}}: CS1 maint: архивная копия в заголовке ( ссылка )

[5] Шпехт, Д.Ф. (1 июня 1967 г.). «Генерация полиномиальных дискриминантных функций для распознавания образов». Транзакции IEEE на электронных компьютерах . EC-16 (3): 308–319. дои : 10.1109/PGEC.1967.264667 . ISSN 0367-7508 .

[Specht1990-6] Шпехт, Д.Ф. (1990). «Вероятностные нейронные сети». Нейронные сети . 3 : 109–118. дои : 10.1016/0893-6080(90)90049-Q .

[7] «Вероятностные нейронные сети :: Сети с радиальным базисом (Neural Network Toolbox™)» . www.mathworks.in . Архивировано из оригинала 4 августа 2012 года . Проверено 6 июня 2022 г.

[8] «Вероятностные и общие регрессионные нейронные сети» . Архивировано из оригинала 2 марта 2012 г. Проверено 22 марта 2012 г.

[9] Тран, Д.Х.; Нг, АВМ; Перера, БЕК; Берн, С.; Дэвис, П. (сентябрь 2006 г.). «Применение вероятностных нейронных сетей для моделирования структурного разрушения ливневых труб» (PDF) . Городской водный журнал . 3 (3): 175–184. дои : 10.1080/15730620600961684 . S2CID 15220500 . Архивировано из оригинала (PDF) 8 августа 2017 года . Проверено 27 февраля 2023 г.

[10] Ли, QB; Ли, Х.; Чжан, Дж.Дж.; Сюй, YZ; Ву, Дж. Г.; Сан, XJ (2009). «[Применение метода вероятностных нейронных сетей для диагностики образцов желудочного эндоскопа на основе FTIR-спектроскопии]». Гуан Пу Сюэ Юй Гуан Пу Фэнь Си . 29 (6): 1553–7. ПМИД 19810529 .

[11] Берно, Э.; Брамбилла, Л.; Канапаро, Р.; Казале, Ф.; Коста, М.; Делла Пепа, К.; Эанди, М.; Пасеро, Э. (2003). «Применение вероятностных нейронных сетей к популяционной фармакокинетике». Материалы Международной совместной конференции по нейронным сетям, 2003 г. стр. 2637–2642. дои : 10.1109/IJCNN.2003.1223983 . ISBN 0-7803-7898-9 . S2CID 60477107 .

[12] Хуанг, Ченн-Юнг; Ляо, Вэй-Чен (2004). «Применение вероятностных нейронных сетей для прогнозирования классов лейкемии и эмбриональных опухолей центральной нервной системы» . Нейронная обработка писем . 19 (3): 211–226. дои : 10.1023/B:NEPL.0000035613.51734.48 . S2CID 5651402 .

[13] Араги, Лейла Фаллах; д Халузаде, Хами; Арван, Мохаммад Реза (19 марта 2009 г.). «Идентификация корабля с использованием вероятностных нейронных сетей (PNN)» (PDF) . Материалы Международной мультиконференции инженеров и компьютерщиков . 2 . Гонконг , Китай . Проверено 27 февраля 2023 г.

[14] «Архивная копия» (PDF) . Архивировано из оригинала (PDF) 14 июня 2010 г. Проверено 22 марта 2012 г. {{cite web}}: CS1 maint: архивная копия в заголовке ( ссылка )

[15] Чжан, Ю. (2009). «Классификация изображений дистанционного зондирования на основе улучшенной вероятностной нейронной сети» . Датчики . 9 (9): 7516–7539. Бибкод : 2009Senso...9.7516Z . дои : 10.3390/s90907516 . ПМК 3290485 . ПМИД 22400006 .

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]