Логическая обучающая машина

Логическая обучающая машина ( LLM ) — метод машинного обучения, основанный на генерации понятных правил. LLM — это эффективная реализация парадигмы коммутируемой нейронной сети (SNN), ^[1] Разработан Марко Муселли, старшим научным сотрудником Итальянского национального исследовательского совета CNR-IEIIT в Генуе .

LLM используется во многих различных секторах, включая область медицины (классификация ортопедических пациентов, ^[2] Микроматричный анализ ДНК ^[3] и системы поддержки клинических решений ^[4]), финансовые услуги и управление цепочками поставок.

История

Подход с коммутируемой нейронной сетью был разработан в 1990-х годах для преодоления недостатков наиболее часто используемых методов машинного обучения. В частности, методы «черного ящика», такие как многослойный перцептрон и машина опорных векторов , обладали хорошей точностью, но не могли обеспечить глубокого понимания изучаемого явления. С другой стороны, деревья решений могли описать это явление, но зачастую им не хватало точности. Коммутационные нейронные сети использовали булевую алгебру для создания наборов понятных правил, способных обеспечить очень хорошую производительность. В 2014 году была разработана и реализована эффективная версия коммутируемой нейронной сети в пакете Rulex под названием Logic Learning Machine. ^[5] Также была разработана версия LLM, посвященная проблемам регрессии.

Общий

Как и другие методы машинного обучения, LLM использует данные для построения модели, способной дать хороший прогноз будущего поведения. LLM начинается с таблицы, включающей целевую переменную (выходную) и некоторые входные данные, и генерирует набор правил, которые возвращают выходное значение. $y$ соответствующий заданной конфигурации входов. Правило записывается в виде:

{\textbf {if}}{\text{  }}premise{\text{  }}{\textbf {then}}{\text{  }}consequence

где следствие содержит выходное значение, тогда как предпосылка включает одно или несколько условий на входах. В зависимости от типа ввода условия могут иметь различную форму:

для категориальных переменных входное значение должно находиться в заданном подмножестве: $x_{1}\in \{A,B,C,...\}$ .
для упорядоченных переменных условие записывается в виде неравенства или интервала: $x_{2}\leq \alpha$ или $\beta \leq x_{3}\leq \gamma$

Таким образом, возможное правило имеет вид

{\textbf {if}}{\text{  }}x_{1}\in \{A,B,C,...\}{\text{  AND  }}x_{2}\leq \alpha {\text{  AND  }}\beta \leq x_{3}\leq \gamma {\text{  }}{\textbf {then}}{\text{  }}y={\bar {y}}

Типы

В зависимости от типа вывода были разработаны различные версии Логической обучающей машины:

Логическая обучающая машина для классификации, когда выходными данными является категориальная переменная , которая может принимать значения в конечном наборе.
Логическая обучающая машина для регрессии, когда выходной сигнал представляет собой целое или действительное число .

Ссылки

^ Муселли, Марко (2006). «Переключение нейронных сетей: новая коннекционистская модель классификации» (PDF) . WIRN 2005 и NAIS 2005, Конспекты лекций по информатике . 3931 : 23–30.
^ Морденти, М.; Феррари, Э.; Педрини, Э.; Фаббри, Н.; Кампаначчи, Л.; Муселли, М.; Санджорджи, Л. (2013). «Подтверждение новой классификации множественных остеохондром посредством переключения нейронных сетей». Американский журнал медицинской генетики, часть A. 161 (3): 556–560. дои : 10.1002/ajmg.a.35819 . ПМИД 23401177 . S2CID 23983960 .
^ Кангелози, Д.; Муселли, М.; Бленджио, Ф.; Бечерини, П.; Верстег, Р.; Конте, М.; Варесио, Л. (2013). «Использование машины дополнительной дискретизации и логического обучения, управляемой атрибутами, для создания прогностического классификатора для пациентов с нейробластомой» . Битс2013 . 15 (Дополнение 5): S4. дои : 10.1186/1471-2105-15-S5-S4 . ПМК 4095004 . ПМИД 25078098 .
^ Пароди, С.; Филиберти, Р.; Маррони, П.; Монтани, Э.; Муселли, М. (2014). «Дифференциальная диагностика мезотелиомы плевры с использованием логической обучающей машины» . Битс2014 . 16 (Приложение 9): S3. дои : 10.1186/1471-2105-16-S9-S3 . ПМК 4464205 . ПМИД 26051106 .
^ «Рулекс: программа для извлечения знаний из данных» . Итальянский национальный исследовательский совет . Проверено 7 марта 2015 г.

Внешние ссылки

[1] Муселли, Марко (2006). «Переключение нейронных сетей: новая коннекционистская модель классификации» (PDF) . WIRN 2005 и NAIS 2005, Конспекты лекций по информатике . 3931 : 23–30.

[2] Морденти, М.; Феррари, Э.; Педрини, Э.; Фаббри, Н.; Кампаначчи, Л.; Муселли, М.; Санджорджи, Л. (2013). «Подтверждение новой классификации множественных остеохондром посредством переключения нейронных сетей». Американский журнал медицинской генетики, часть A. 161 (3): 556–560. дои : 10.1002/ajmg.a.35819 . ПМИД 23401177 . S2CID 23983960 .

[3] Кангелози, Д.; Муселли, М.; Бленджио, Ф.; Бечерини, П.; Верстег, Р.; Конте, М.; Варесио, Л. (2013). «Использование машины дополнительной дискретизации и логического обучения, управляемой атрибутами, для создания прогностического классификатора для пациентов с нейробластомой» . Битс2013 . 15 (Дополнение 5): S4. дои : 10.1186/1471-2105-15-S5-S4 . ПМК 4095004 . ПМИД 25078098 .

[4] Пароди, С.; Филиберти, Р.; Маррони, П.; Монтани, Э.; Муселли, М. (2014). «Дифференциальная диагностика мезотелиомы плевры с использованием логической обучающей машины» . Битс2014 . 16 (Приложение 9): S3. дои : 10.1186/1471-2105-16-S9-S3 . ПМК 4464205 . ПМИД 26051106 .

[5] «Рулекс: программа для извлечения знаний из данных» . Итальянский национальный исследовательский совет . Проверено 7 марта 2015 г.

[1]

[2]

[3]

[4]

[5]