Развивающаяся интеллектуальная система
В этой статье есть несколько проблем. Пожалуйста, помогите улучшить его или обсудите эти проблемы на странице обсуждения . ( Узнайте, как и когда удалять эти шаблонные сообщения )
|
В информатике развивающаяся интеллектуальная система — это система нечеткой логики , которая улучшает собственную производительность за счет развития правил. [1] Этот метод известен из машинного обучения, при котором внешние шаблоны изучаются с помощью алгоритма. Машинное обучение на основе нечеткой логики работает с нейро-нечеткими системами. [2]
Интеллектуальные системы должны иметь возможность постоянно развиваться , саморазвиваться и самообучаться, чтобы отражать динамично развивающуюся среду. Концепция развивающихся интеллектуальных систем (EIS) была задумана на рубеже веков. [3] [4] [5] [6] [7] [8] [9] с самой фразой EIS, впервые придуманной Ангеловым и Касабовым в информационном бюллетене IEEE 2006 года. [8] и расширен в тексте 2010 года. [9] EIS развивают свою структуру, функциональность и внутреннее представление знаний посредством автономного обучения на основе потоков данных, генерируемых возможно неизвестной средой, и на основе самоконтроля системы. [10] EIS учитывают постепенное развитие базовой (нечеткой или нейро-нечеткой) структуры системы и отличаются от эволюционных и генетических алгоритмов , которые учитывают такие явления, как скрещивание хромосом, мутация, отбор и размножение , родители и потомки. Эволюционные нечеткие и нервные системы иногда также называют «развивающимися». [11] [12] [13] что приводит к некоторой путанице. Это было более характерно для первых работ на эту тему в конце 1990-х годов.
Реализации
[ редактировать ]EIS можно реализовать, например, с использованием нейронных сетей или нечетких моделей, основанных на правилах. Были опубликованы первые нейронные сети, учитывающие развивающуюся структуру. [14] [15] [16] [17] [18] Позже они были расширены Н. Касабовым. [5] and P. Angelov [3] [4] [6] [19] для нейро-нечетких моделей. П. Ангелов [3] [4] [6] [7] представил развивающиеся нечеткие системы, основанные на правилах (EFS), как первую математическую самообучающуюся модель, которая может динамически развивать свою внутреннюю структуру и интерпретируемую человеком, и придумал фразу EFS. В то же время автономный поэтапный подход к обучению EIS, а именно EFuNN, был предложен Н. Касабовым. [20] [21] П. Ангелов, Д. Филев, Н. Касабов и О. Кордон организовали первый симпозиум IEEE по EFS в 2006 г. (с материалами конференции можно ознакомиться в [22] ). EFS включают в себя формальный (и математически обоснованный) механизм обучения для извлечения данных из потоковых данных. Одно из первых и наиболее широко цитируемых комплексных исследований EFS было проведено в 2008 году. [23] Более поздние комплексные исследования методов EFS с реальным применением были проведены в 2011 году. [24] и 2016 год [25] Э. Люгхофер.
Другие работы, которые в последующие годы внесли дальнейший вклад в эту область, расширили ее до развития совместного обучения. [26] развивающаяся грамматика, [27] развивающиеся деревья решений, [28] развивающееся моделирование человеческого поведения, [29] самокалибровающиеся (развивающиеся) датчики (eSensors), [30] развитие нечетких классификаторов на основе правил, [31] [32] [33] [34] [35] развивающиеся нечеткие контроллеры, [36] [37] автономные детекторы неисправностей. [38] В последнее время стабильность развивающихся нечетких систем, основанных на правилах, которые состоят из структурного обучения и нечетко взвешенного рекурсивного метода наименьших квадратов [7] Метод обновления параметров был проверен Ронгом. [39] Обобщенная EFS, которая позволяет произвольно вращать правила в пространстве признаков и, таким образом, улучшать представимость их данных, была предложена в [40] со значительным расширением в [41] к «умности» баз правил (таким образом, называемой «Обобщенным интеллектуальным EFS»), что обеспечивает большую интерпретируемость и уменьшает проклятие размерности. Обобщенная структура правил также успешно использовалась в контексте развития нейронечетких систем. Некоторые аспекты и проблемы достижения более прозрачных и понятных баз правил в EFS обсуждались Э. Люгхофером. [42]
EIS составляют теоретическую и методологическую основу для автономных обучающихся машин (ALMA). [43] и автономные многомодельные системы (АЛММо) [44] а также автономных систем обучения. [10] Развитие классификаторов на основе нечетких правил, [31] [32] [33] [34] [35] в частности, это очень мощная новая концепция, которая предлагает гораздо больше, чем просто инкрементальные или онлайн-классификаторы – она может справиться с добавлением новых классов или объединением существующих классов. Это гораздо больше, чем просто адаптация к добавляемым новым образцам данных или развитию поверхностей классификации. Классификаторы на основе нечетких правил [34] являются методологической основой нового подхода к глубокому обучению, которое до сих пор рассматривалось как форма многослойных нейронных сетей. [45] Глубокое обучение предлагает высокий уровень точности, превосходящий уровень человеческих способностей, и захватило воображение исследователей, промышленности и широкой общественности. Однако он имеет ряд внутренних ограничений и ограничений. К ним относятся:
- «Черный ящик», непрозрачная внутренняя структура, имеющая миллионы параметров и требующая специальных решений относительно количества слоев и параметров алгоритма.
- Требование огромного количества выборок обучающих данных, вычислительных ресурсов (обычно требующих графических процессоров и/или HPC) и времени (обычно требующих многих часов обучения).
- Итеративный поиск.
- Требует переподготовки к новым ситуациям (не развивается).
- Не имеет доказанной сходимости и стабильности.
Большинства, если не всех, из вышеперечисленных ограничений можно избежать с помощью глубоких (нечетких) классификаторов, основанных на правилах. [46] [47] которые были недавно представлены на базе ALMMo, при этом достигая аналогичных или даже лучших показателей. Получающиеся в результате модели IF...THEN... на основе прототипов полностью интерпретируются и динамически развиваются (они могут быстро и автоматически адаптироваться к новым шаблонам данных или даже новым классам). Они непараметрические, и, следовательно, их обучение является неитеративным и быстрым (это может занять несколько миллисекунд на образец данных/изображение на обычном ноутбуке, что контрастирует с несколькими часами, которые современные методы глубокого обучения требуют для обучения, даже если они используют графические процессоры и HPC). Более того, их можно обучать постепенно, онлайн или в режиме реального времени. Другой аспект развития классификаторов на основе нечетких правил был предложен в: [48] что в случае проблем с многоклассовой классификацией позволяет уменьшить дисбаланс классов за счет каскадности в подпространства классов, а также повысить гибкость и производительность для добавления новых классов «на лету» из потоковых выборок. [49]
Ссылки
[ редактировать ]- ^ Никола К. Касабов (23 августа 2007 г.). Развивающиеся коннекционистские системы: подход инженерии знаний . Springer Science & Business Media. п. 9. ISBN 978-1-84628-347-5 .
- ^ Пламен П. Ангелов; Сяовэй Гу (17 октября 2018 г.). Эмпирический подход к машинному обучению . Спрингер. стр. 51–. ISBN 978-3-030-02384-3 .
- ^ Перейти обратно: а б с П. Ангелов и Р. Басвелл, « Развитие моделей, основанных на правилах: инструмент для интеллектуальной адаптации », на всемирном конгрессе IFSA и 20-й международной конференции NAFIPS, 2001 г., стр. 1062–1067.
- ^ Перейти обратно: а б с П. П. Ангелов, Развивающиеся модели, основанные на правилах: инструмент проектирования гибких адаптивных систем . Шпрингер Берлин Гейдельберг, 2002.
- ^ Перейти обратно: а б Н.К. Касабов и К. Сонг, « DENFIS: Динамически развивающаяся нейронно-нечеткая система вывода и ее применение для прогнозирования временных рядов », IEEE Trans. Нечеткая система., вып. 10, нет. 2, стр. 144–154, 2002.
- ^ Перейти обратно: а б с Ангелов П., Филев Д., « Онлайн-проектирование моделей Такаги-Сугено ». В: Билгич Т., Де Баец Б., Кайнак О. (ред.) Нечеткие множества и системы — IFSA 2003. IFSA 2003. Конспекты лекций по информатике (Конспекты лекций по искусственному интеллекту), том 2715. Springer, Berlin, Heidelberg.
- ^ Перейти обратно: а б с Ангелов П. П., Филев Д. П. Подход к онлайн-идентификации нечетких моделей Такаги-Сугено // IEEE Trans. Сист. Мужик, Киберн. - Часть Б Киберн., вып. 34, нет. 1, стр. 484–498, 2004.
- ^ Перейти обратно: а б П. Ангелов, Н. Касабов, eIS: Развивающиеся интеллектуальные системы , 2006, В: IEEE SMC eNewsLetter, Vol. 15, 2006, с. 1-13.
- ^ Перейти обратно: а б П. Ангелов, Д. Филев, Н. Касабов, Развивающиеся интеллектуальные системы: методология и приложения , Wiley-IEEE Press, 2010.
- ^ Перейти обратно: а б Ангелов П. А. «Автономные обучающиеся системы: от потоков данных к знаниям в реальном времени» . Джон Вили и сыновья, ООО, 2012 г.
- ^ Б. Карс, Т. К. Фогарти и А. Манро, « Развитие контроллеров на основе нечетких правил с использованием генетических алгоритмов ». Нечеткие множества и системы, 80 (3), стр. 273–293, 1996.
- ^ Н. Касабов, « Развитие нечетких нейронных сетей — алгоритмы, приложения и биологическая мотивация », в «Методологиях концепции, проектирования и применения мягких вычислений», World Scientific, стр. 271–274, 1998.
- ^ П. П. Ангелов, « Развитие нечетких моделей, основанных на правилах », Proc. 8-й Всемирный конгресс IFSA, Тайвань, том 1, стр. 19–23, 1999 г.
- ^ Т. Мартинец и К. Шультен. «Сеть «нейронного газа» изучает топологии» Искусственные нейронные сети. Эльзевир. стр. 397–402, 1991.
- ^ Б. Фрицке, « Растущая сеть нейронных газов изучает топологии ». Достижения в области нейронных систем обработки информации. 1995.
- ^ CF Juang и CT Lin, « Самоконструирующаяся онлайн-сеть нейронного нечеткого вывода и ее приложения ». в транзакциях IEEE на нечетких системах, том 6, вып. 1, стр. 12-32, 1998.
- ^ С. Ву и М.Дж. Эр, « Динамические нечеткие нейронные сети — новый подход к аппроксимации функций ». в «Транзакциях IEEE по системам, человеку и кибернетике», часть B (кибернетика), том. 30, нет. 2, стр. 358–364, 2000.
- ^ С. Ву, М. Дж. Эр и Ю. Гао, « Быстрый подход к автоматической генерации нечетких правил с помощью обобщенных динамических нечетких нейронных сетей ». в IEEE Transactions on Fuzzy Systems, vol. 9, нет. 4, стр. 578–594, 2001.
- ↑ П. П. Ангелов, Д. П. Филев, « Гибкие модели с развивающейся структурой ». в: Учеб. Первый международный симпозиум IEEE «Интеллектуальные системы», т. II, стр. 28-33, IEEE Press, ISBN 0-7803-7134-8 /02, 2002 г.
- ^ Н. Касабов, « Развитие нечетких нейронных сетей-алгоритмов, приложений и биологической мотивации ». в «Методологиях концепции, проектирования и применения мягких вычислений», World Scientific, стр. 271–274, 1998 г.
- ^ Н. Касабов, « Развитие нечетких нейронных сетей для контролируемого/неконтролируемого онлайн-обучения, основанного на знаниях ». в «Транзакциях IEEE по системам, человеку и кибернетике», часть B (кибернетика), том. 31, №6, стр. 902-918, 2001.
- ^ Материалы Международного симпозиума по развитию нечетких систем 2006 г. , ISBN 0-7803-9718-5 , номер по каталогу IEEE 06EX1440.
- ^ П. П. Ангелов, « Эволюционирующие нечеткие системы », http://www.scholarpedia.org/article/Evolving_fuzzy_systems , 2008.
- ^ Э. Люгхофер, Развитие нечетких систем: методологии, передовые концепции и приложения . Исследования в области нечетких и мягких вычислений, Springer, 2011.
- ^ Э. Люгхофер, Развивающиеся нечеткие системы --- Основы, надежность, интерпретируемость и удобство использования . Справочник по вычислительному интеллекту, редактор. П. П. Ангелов, World Scientific, стр. 67-135, 2016.
- ^ Э. Лима, Ф. Гомид и Р. Баллини, « Совместное развивающееся нечеткое моделирование », на Международном симпозиуме IEEE по развитию нечетких систем, 2006, стр. 36-41.
- ^ Н. М. Шареф, Т. Мартин и Ю. Шен, « Упорядоченный инкрементально развивающийся обучающийся фрагмент нечеткой грамматики », на Международной конференции IEEE по проектированию и приложениям интеллектуальных систем, 2009, стр. 1221–1226.
- ^ А. Шейкер, Р. Сенге и Э. Хюллермейер, « Развитие нечетких деревьев шаблонов для двоичной классификации потоков данных », Inf. наук. (Нью-Йорк)., вып. 220, стр. 34–45, 2013.
- ^ Дж. А. Иглесиас, П. Ангелов, А. Ледезма и А. Санчис, « Автоматическое создание развивающихся профилей поведения пользователей », в IEEE Transactions on Knowledge and Data Engineering, vol. 24, нет. 5, стр. 854-867, 2012.
- ^ П. Ангелов и А. Кордон, « Адаптивные логические датчики, основанные на развивающихся нечетких моделях », в IEEE Transactions on Systems, Man и Cybernetics, Part B (Cybernetics), vol. 40, нет. 2, стр. 529–539, 2010.
- ^ Перейти обратно: а б К. Ксидеас, П. Ангелов, С. Чиао и М. Реуллас, « Достижения в классификации сигналов ЭЭГ с помощью развития нечетких классификаторов и зависимых множественных HMM ». в «Компьютерах в биологии и медицине», том. 3, № 10, стр. 1064-1083, 2006.
- ^ Перейти обратно: а б П. Ангелов, К. Чжоу и Ф. Клавонн, « Развитие классификаторов на основе нечетких правил », на симпозиуме IEEE по вычислительному интеллекту в обработке изображений и сигналов, 2007 г., стр. 220–225.
- ^ Перейти обратно: а б П. Ангелов, Э. Лугхофер и К. Чжоу « Развитие нечетких классификаторов с использованием различных архитектур моделей », в журнале «Нечеткие множества и системы», том. 159, нет. 23, стр. 3160-3182, 2008.
- ^ Перейти обратно: а б с П. П. Ангелов и X. Чжоу, « Развитие классификаторов, основанных на нечетких правилах, на основе потоков данных », в журнале IEEE Transactions on Fuzzy Systems, vol. 16, нет. 6, стр. 1462–1475, 2008.
- ^ Перейти обратно: а б П. Ангелов, X. Чжоу, Д. Филев и Э. Люгхофер, « Архитектуры для развития нечетких классификаторов, основанных на правилах », на Международной конференции IEEE по системам, человеку и кибернетике, 2007, стр. 2050-2055.
- ^ Д. Довжан, В. Логар и И. Шкрянц, « Реализация развивающейся нечеткой модели (eFuMo) в системе мониторинга процесса очистки сточных вод », в IEEE Transactions on Fuzzy Systems, vol. 23, нет. 5, стр. 1761-1776, 2015.
- ^ П. Ангелов, И. Шкрянц и С. Блажич, « Надежный развивающийся облачный контроллер для гидравлической установки », на конференции IEEE по развивающимся и адаптивным интеллектуальным системам (EAIS), Сингапур, 2013, стр. 1-8.
- ^ BSJ Costa, PP Angelov и LA Guedes, « Обнаружение неисправностей в реальном времени с использованием рекурсивной оценки плотности » J Control Autom Electr Syst, vol. 25, нет. 4, стр. 428–437, 2014.
- ^ Х. Ронг, П. Ангелов, С. Гу и Дж. Бай, « Стабильность развивающихся нечетких систем на основе облаков данных, транзакции IEEE в нечетких системах » DOI: 10.1109/TFUZZ.2018.2793258, 2018.
- ^ А. Лемос, В. Каминьяс и Ф. Гомид, « Многомерная гауссовская развивающаяся система нечеткого моделирования, транзакции IEEE в нечетких системах », том. 19 (1), стр. 91–104, 2011.
- ^ Э. Люгхофер, К. Чернуда, С. Киндерманн и М. Пратама, « Обобщенные интеллектуальные развивающиеся нечеткие системы, развивающиеся системы », том. 6 (4), стр. 269–292, 2015.
- ^ Э. Люгхофер, « Онлайн-гарантия критериев интерпретируемости в развивающихся нечетких системах --- Достижения, новые концепции и открытые проблемы» , Информационные науки, том 251, стр. 22-46, 2013.
- ^ П. П. Ангелов, «Автономное машинное обучение (ALMA): генерация правил из потоков данных» на Специальной международной конференции по сложным системам, 2011, стр. 249-256.
- ^ П. П. Ангелов, X Гу, Дж. Принсипи, « Автономное обучение многомодельных систем на основе потоков данных », в IEEE Transactions on Fuzzy Systems, DOI: 10.1109/TFUZZ.2017.2769039, 2017.
- ^ И. Гудфеллоу, Ю. Бенджио и А. Курвиль, Глубокое обучение . Крамбридж, Массачусетс: MIT Press, 2016.
- ^ П. Ангелов, X. Гу, « MICE: ансамбль классификаторов многоуровневых многомодельных изображений », на Международной конференции IEEE по кибернетике (CYBCONF), 2017, стр. 1-8.
- ^ П. Ангелов, X. Гу, « Каскад глубокого обучения, классификатор изображений на основе нечетких правил и SVM », на Международной конференции IEEE по системам, человеку и кибернетике (SMC2017), 2017, стр. 746-751.
- ^ Э. Люгхофер, О. Бухтала, « Надежные развивающиеся нечеткие классификаторы для всех пар », в IEEE Transactions on Fuzzy Systems, vol. 21 (4), стр. 625–641, 2013.
- ^ Э. Люгхофер, Э. Вейгль, В. Хайдль, К. Эйтцингер и Т. Радауэр, « Интеграция новых классов на лету в развитии конструкций нечетких классификаторов и ее применение в визуальном контроле », в журнале Applied Soft Computing, vol. 35, стр. 558-582, 2015 г.