Индуктивное логическое программирование

Индуктивное логическое программирование ( ILP ) — это подобласть символического искусственного интеллекта , которая использует логическое программирование в качестве единообразного представления примеров, базовых знаний и гипотез. Термин « индуктивный » здесь относится к философской (т. е. предлагающей теорию для объяснения наблюдаемых фактов), а не к математической (т. е. доказывающей свойство для всех членов хорошо упорядоченного множества) индукции. Учитывая кодирование известных базовых знаний и набора примеров, представленных в виде логической базы данных фактов, система ПДОДИ выводит гипотетическую логическую программу, которая влечет за собой все положительные и ни одного отрицательного примера.

Схема: положительные примеры + отрицательные примеры + фоновые знания ⇒ гипотеза .

Индуктивное логическое программирование особенно полезно в биоинформатике и обработке естественного языка .

История

Опираясь на более раннюю работу по индуктивному выводу , Гордон Плоткин был первым, кто формализовал индукцию в клаузальной обстановке примерно в 1970 году, приняв подход обобщения на примерах. ^[1]^[2] В 1981 году Эхуд Шапиро представил несколько идей, которые сформировали область его нового подхода к выводу моделей - алгоритма, использующего уточнение и обратную трассировку для поиска полной аксиоматизации данных примеров. ^[1]^[3] Его первой реализацией была система модельного вывода в 1981 году: ^[4]^[5] программа на Прологе , которая индуктивно выводила логические программы предложений Хорна на основе положительных и отрицательных примеров. ^[1] Термин «индуктивное логическое программирование» был впервые введен в статье Стивена Магглтона в 1990 году и определялся как пересечение машинного обучения и логического программирования. ^[1] Магглтон и Рэй Бантин представили изобретение предикатов и обратное разрешение в 1988 году. ^[1]^[6]

В начале 1990-х годов появилось несколько систем индуктивного логического программирования, которые оказались влиятельными. ФОЛЬГА , представленная Россом Куинланом в 1990 году. ^[7] был основан на обновлении пропозиционального алгоритмов обучения AQ и ID3 . ^[8] Голем , представленный Магглтоном и Фэном в 1990 году, вернулся к ограниченной форме алгоритма наименьшего обобщения Плоткина. ^[8]^[9] Система Прогол , представленная Магглтоном в 1995 году, впервые реализовала обратный вывод и вдохновила многие более поздние системы. ^[8]^[10]^[11] Алеф , потомок Прогола, представленный Ашвином Шринивасаном в 2001 году, по состоянию на 2022 год по-прежнему остается одной из наиболее широко используемых систем. ^[update]. ^[10]

Примерно в то же время появились первые практические применения, особенно в биоинформатике , где к 2000 году индуктивное логическое программирование было успешно применено для разработки лекарств, прогнозирования канцерогенности и мутагенности, а также выяснения структуры и функции белков. ^[12] В отличие от акцента на автоматическое программирование, присущее ранним работам, в этих областях использовались методы индуктивного логического программирования с точки зрения реляционного анализа данных . Успех этих первоначальных приложений и отсутствие прогресса в восстановлении более крупных традиционных логических программ сформировали фокус этой области. ^[13]

В последнее время классические задачи автоматизированного программирования снова оказались в центре внимания, поскольку введение метаинтерпретативного обучения делает изобретение предикатов и обучение рекурсивным программам более осуществимыми. Эта техника была впервые использована в системе Метагол , представленной Магглетоном, Дианхуаном Линем, Нильсом Пехлеви и Алирезой Тамаддони-Нежадом в 2014 году. ^[14] Это позволяет системам ILP работать с меньшим количеством примеров и приносит успехи в изучении программ преобразования строк, грамматик наборов ответов и общих алгоритмов. ^[15]

Параметр

Индуктивное логическое программирование использует несколько различных настроек обучения, наиболее распространенными из которых являются обучение на основе следствий и обучение на основе интерпретаций. ^[16] В обоих случаях входные данные предоставляются в виде базовых знаний $B$ , логической теории (обычно в форме предложений, используемых в логическом программировании ), а также положительных и отрицательных примеров, обозначаемых ${\textstyle E^{+}}$ и ${\textstyle E^{-}}$ соответственно. Результатом является гипотеза $H$ , которая сама по себе является логической теорией, которая обычно состоит из одного или нескольких предложений.

Эти две настройки отличаются форматом представленных примеров.

Обучение на основе следствия

По состоянию на 2022 год ^[update]Обучение на основе следствия на сегодняшний день является наиболее популярным методом индуктивного логического программирования. ^[16] В этой ситуации положительные и отрицательные примеры даются как конечные множества. ${\textstyle E^{+}}$ и ${\textstyle E^{-}}$ положительных и отрицательных основных литералов соответственно. Правильная гипотеза $H$ — это набор предложений, удовлетворяющих следующим требованиям, где символ турникета $\models$ означает логическое следствие : ^[16]^[17]^[18] ${\begin{array}{llll}{\text{Completeness:}}&B\cup H&\models &E^{+}\\{\text{Consistency: }}&B\cup H\cup E^{-}&\not \models &{\textit {false}}\end{array}}$ Полнота требует, чтобы любая сгенерированная гипотеза $h$ объясняла все положительные примеры. ${\textstyle E^{+}}$ , а непротиворечивость запрещает создание любой гипотезы $h$ , несовместимой с отрицательными примерами ${\textstyle E^{-}}$ , оба с учетом базовых знаний $B$ .

В рамках концепции концептуального обучения Магглтона ^[19] «полнота» называется «достаточностью», а «согласованность» — «сильной согласованностью». Добавляются еще два условия: « Необходимость », постулирующая, что $B$ не влечет за собой ${\textstyle E^{+}}$ , не накладывает ограничений на $h$ , но запрещает любую постановку гипотезы до тех пор, пока положительные факты объяснимы без нее. . «Слабая непротиворечивость», которая утверждает, что из ${\textstyle B\land H}$ , запрещает генерирование любой гипотезы $h$ , которая противоречит базовым знаниям $B$ . Слабая последовательность подразумевается сильной последовательность; если отрицательные примеры не приведены, то оба требования совпадают. Слабая согласованность особенно важна в случае зашумленных данных, где невозможно гарантировать полноту и сильную согласованность. ^[19]

Обучение на интерпретациях

При обучении на интерпретациях положительные и отрицательные примеры задаются как набор полных или частичных структур Эрбрана , каждая из которых сама по себе является конечным набором основных литералов. Такая структура $e$ называется моделью множества предложений. ${\textstyle B\cup H}$ если для какой-либо замены ${\textstyle \theta }$ и любой пункт ${\textstyle \mathrm {head} \leftarrow \mathrm {body} }$ в ${\textstyle B\cup H}$ такой, что ${\textstyle \mathrm {body} \theta \subseteq e}$ , $\mathrm {head} \theta \subseteq e$ тоже держит. Цель состоит в том, чтобы вывести полную гипотезу , означающую, что каждый положительный пример является моделью ${\textstyle B\cup H}$ и последовательным, что означает, что ни один отрицательный пример не является моделью ${\textstyle B\cup H}$ . ^[16]

Подходы к ПДОДИ

Система индуктивного логического программирования — это программа, которая принимает в качестве входных данных логические теории. $B,E^{+},E^{-}$ и выводит правильную гипотезу $H$ относительно теорий $B,E^{+},E^{-}$ . Система является полной тогда и только тогда, когда для любых теорий входной логики $B,E^{+},E^{-}$ любую правильную гипотезу $H$ относительно этих входных теорий можно найти с помощью процедуры поиска гипотезы. Системы индуктивного логического программирования можно грубо разделить на два класса: системы, основанные на поиске, и системы метаинтерпретации.

Системы, основанные на поиске, используют тот факт, что пространство возможных предложений образует полную решетку в соответствии с отношением включения , где одно предложение ${\textstyle C_{1}}$ включает в себя еще один пункт ${\textstyle C_{2}}$ если есть замена ${\textstyle \theta }$ такой, что ${\textstyle C_{1}\theta }$ , результат применения ${\textstyle \theta }$ к ${\textstyle C_{1}}$ , является подмножеством ${\textstyle C_{2}}$ . Эту решетку можно перемещать как снизу вверх, так и сверху вниз.

Поиск снизу вверх

Восходящие методы поиска в решетке включений исследуются со времени первой работы Плоткина по формализации индукции в клаузальной логике в 1970 году. ^[1]^[20] Используемые методы включают наименее общее обобщение, основанное на антиунификации , и обратное разрешение, основанное на инвертировании правила вывода разрешения .

Наименее общее обобщение

Наименее общий алгоритм обобщения принимает на вход два предложения. ${\textstyle C_{1}}$ и ${\textstyle C_{2}}$ и выводит наименее общее обобщение ${\textstyle C_{1}}$ и ${\textstyle C_{2}}$ , то есть оговорка ${\textstyle C}$ это включает в себя ${\textstyle C_{1}}$ и ${\textstyle C_{2}}$ , и это включается в состав любого другого предложения, которое включает в себя ${\textstyle C_{1}}$ и ${\textstyle C_{2}}$ . Наименее общее обобщение можно вычислить, сначала вычислив все выборки из ${\textstyle C}$ и ${\textstyle D}$ , которые являются парами литералов $(L,M)\in (C_{1},C_{2})$ использование одного и того же символа предиката и отрицательного/неотрицаемого статуса. Тогда наименее общее обобщение получается как дизъюнкция наименее общих обобщений отдельных выборок, которые можно получить путем синтаксического антиунификации первого порядка . ^[21]

Чтобы учесть базовые знания, системы индуктивного логического программирования используют относительно наименее общие обобщения , которые определяются в терминах обобщения относительно базовой теории. В общем, существование таких относительно наименее общих обобщений не гарантируется; однако, если базовая теория $B$ представляет собой конечный набор основных литералов , то отрицание $B$ само по себе является условием. В этом случае относительное наименьшее общее обобщение можно вычислить, отделив отрицание $B$ от обоих ${\textstyle C_{1}}$ и ${\textstyle C_{2}}$ а затем, как и раньше, вычисляем их наименьшее общее обобщение. ^[22]

Относительные наименее общие обобщения составляют основу восходящей системы Голема . ^[8]^[9]

Инверсное разрешение

Обратное разрешение — это метод индуктивного рассуждения , который включает в себя обращение оператора разрешения .

Обратное разрешение использует информацию о резольвенте шага разрешения для вычисления возможных разрешающих предложений. В индуктивном логическом программировании используются два типа операторов обратного разрешения: V-операторы и W-операторы. V-оператор принимает предложения ${\textstyle R}$ и ${\textstyle C_{1}}$ в качестве входных данных и возвращает предложение ${\textstyle C_{2}}$ такой, что ${\textstyle R}$ является резольвентой ${\textstyle C_{1}}$ и ${\textstyle C_{2}}$ . W-оператор принимает два предложения ${\textstyle R_{1}}$ и ${\textstyle R_{2}}$ и возвращает три предложения ${\textstyle C_{1}}$ , ${\textstyle C_{2}}$ и ${\textstyle C_{3}}$ такой, что ${\textstyle R_{1}}$ является резольвентой ${\textstyle C_{1}}$ и ${\textstyle C_{2}}$ и ${\textstyle R_{2}}$ является резольвентой ${\textstyle C_{2}}$ и ${\textstyle C_{3}}$ . ^[23]

Обратное разрешение было впервые введено Стивеном Магглтоном и Рэем Бантином в 1988 году для использования в системе индуктивного логического программирования Cigol. ^[6] К 1993 году это вызвало волну исследований операторов обратного разрешения и их свойств. ^[23]

Поиск сверху вниз

Системы ИЛП Прогол, ^[11] Град ^[24] и я учусь ^[25] найти гипотезу $H,$ используя принцип обратного следования ^[11] для теорий $B$ , $E$ , $H$ : $B\land H\models E\iff B\land \neg E\models \neg H$ . Сначала они строят промежуточную теорию $F,$ называемую теорией моста, удовлетворяющую условиям $B\land \neg E\models F$ и $F\models \neg H$ . Тогда как $H\models \neg F$ , они обобщают отрицание теории моста $F$ с анти-следствием. ^[26] Однако операция анти-влечения требует больше вычислительных затрат, поскольку она в высшей степени недетерминирована. Следовательно, поиск альтернативной гипотезы может быть проведен с использованием вместо этого операции обратного включения (анти-суммирования), которая менее недетерминирована, чем операция анти-выведения.

Возникают вопросы полноты процедуры поиска гипотез конкретной системы индуктивного логического программирования. Например, процедура поиска гипотезы Прогола, основанная на правиле вывода обратного следования, не является полной по примеру Ямамото . ^[27] С другой стороны, Imparo завершает как процедуру предотвращения ^[28] и его расширенное обратное обобщение ^[29] процедура.

Метаинтерпретативное обучение

Вместо явного поиска по графу гипотез метаинтерпретационные или метауровневые системы кодируют программу индуктивного логического программирования как логическую программу метауровня, которая затем решается для получения оптимальной гипотезы. Формализмы, используемые для выражения спецификации проблемы, включают Пролог и программирование множества ответов , при этом существующие системы Пролога и решатели множества ответов используются для решения ограничений. ^[30]

Примером системы на основе Пролога является Metagol , который основан на метаинтерпретаторе Пролога , в то время как ASPAL и ILASP основаны на кодировании задачи индуктивного логического программирования при программировании набора ответов. ^[30]

Список реализаций

1BC и 1BC2: наивные байесовские классификаторы первого порядка:
ACE (комбинированный двигатель)
Алеф
Atom. Архивировано 26 марта 2014 г. в Wayback Machine.
Клодиен ^{[ постоянная мертвая ссылка ]}
DL-Learner. Архивировано 15 августа 2019 г. в Wayback Machine.
ДМакс
FastLAS (быстрое обучение на основе наборов ответов)
FOIL (Индуктивное обучение первого порядка)
Голем
ILASP (Индуктивное обучение программам набора ответов)
я учусь ^[28]
Inthelex (INcremental THEory Learning from Examples). Архивировано 28 ноября 2011 г. в Wayback Machine.
Лайм
Метагол
Мой
MIS (система вывода моделей) Эхуда Шапиро
Поппер
PROGOL
ОСД
Warmr (теперь включен в ACE)
ProGolem ^[31]^[32]

Вероятностное индуктивно-логическое программирование

Вероятностное индуктивное логическое программирование адаптирует настройки индуктивного логического программирования к изучению программ вероятностной логики . Его можно рассматривать как форму статистического реляционного обучения в рамках формализма вероятностно-логического программирования. ^[33]^[34]

Данный

фоновые знания в виде вероятностной логической программы $B$ и
набор положительных и отрицательных примеров ${\textstyle E^{+}}$ и ${\textstyle E^{-}}$

цель вероятностного индуктивно-логического программирования — найти вероятностно-логическую программу. ${\textstyle H}$ такая, что вероятность положительных примеров согласно ${\textstyle {H\cup B}}$ максимизируется, а вероятность отрицательных примеров минимизируется. ^[34]

У этой проблемы есть два варианта: изучение параметров и изучение структуры. В первом случае дается структура (предложения) $H$ , и цель состоит в том, чтобы вывести аннотации вероятностей данных предложений, в то время как во втором цель состоит в том, чтобы вывести как структуру, так и параметры вероятности $H$ . Как и в классическом индуктивном логическом программировании, примеры могут быть даны как примеры или как (частичные) интерпретации. ^[34]

Изучение параметров

Изучение параметров для языков, следующих семантике распределения, выполнялось с использованием алгоритма максимизации ожидания или градиентного спуска .Алгоритм максимизации ожидания состоит из цикла, в котором неоднократно выполняются этапы ожидания и максимизации. На этапе ожидания распределение скрытых переменных вычисляется в соответствии с текущими значениями параметров вероятности, а на этапе максимизации вычисляются новые значения параметров. Методы градиентного спуска вычисляют градиент целевой функции и итеративно изменяют параметры, перемещаясь в направлении градиента. ^[34]

Структурное обучение

Структурное обучение было впервые предложено Дафной Коллер и Ави Пфеффер в 1997 году. ^[35] где авторы изучают структуру правил первого порядка с соответствующими параметрами вероятностной неопределенности. Их подход предполагает создание базовой графической модели на предварительном этапе, а затем применение максимизации ожиданий. ^[34]

В 2008 году Де Рэдт и др. представил алгоритм для выполнения теоретического сжатия в программах ProbLog , где сжатие теории относится к процессу удаления как можно большего количества предложений из теории, чтобы максимизировать вероятность данного набора положительных и отрицательных примеров. Никакое новое положение не может быть добавлено к теории. ^[34]^[36]

В том же году Меерт В. и др. представил метод обучения параметров и структуры основных вероятностно-логических программ путем рассмотрения эквивалентных им байесовских сетей и применения методов обучения байесовских сетей. ^[37]^[34]

ProbFOIL, представленный Де Раедтом и Инго Тоном в 2010 году, объединил систему индуктивного логического программирования FOIL с ProbLog . Логические правила изучаются на основе вероятностных данных в том смысле, что как сами примеры, так и их классификации могут быть вероятностными. Набор правил должен позволять прогнозировать вероятность примеров на основе их описания. В этом случае параметры (значения вероятности) фиксированы, и структуру необходимо изучить. ^[38]^[34]

В 2011 году Елена Беллоди и Фабрицио Ригуцци представили SLIPCASE, который выполняет поиск лучей среди программ вероятностной логики путем итеративного уточнения вероятностных теорий и оптимизации параметров каждой теории с использованием максимизации ожидания. ^[39] Его расширение SLIPCOVER, предложенное в 2014 году, использует нижние предложения, созданные как в Проголе , для управления процессом уточнения, тем самым уменьшая количество ревизий и более эффективно исследуя пространство поиска. Более того, SLIPCOVER отделяет поиск перспективных предложений от поиска теории: пространство предложений исследуется лучевым поиском , а пространство теорий ищется жадно . ^[40]^[34]

См. также

Ссылки

^ Jump up to: ^а ^б ^с ^д ^и ^ж Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. стр. 174–177. ISBN 978-3-540-62927-6 .
^ Плоткин, Г.Д. (1970). Автоматические методы индуктивного вывода (PDF) (доктор философии). Эдинбургский университет. hdl : 1842/6656 .
^ Шапиро, Эхуд Ю. (1981). Индуктивный вывод теорий из фактов (PDF) (Технический отчет). Департамент компьютерных наук Йельского университета. 192. Перепечатано в Лассес, Ж.-Л.; Плоткин Г., ред. (1991). Вычислительная логика: эссе в честь Алана Робинсона . МТИ Пресс. стр. 199–254. ISBN 978-0-262-12156-9 .
^ Шапиро, Эхуд Ю. (1981). «Система вывода модели» (PDF) . Материалы 7-й международной совместной конференции по искусственному интеллекту . Том. 2. Морган Кауфманн. п. 1064.
^ Шапиро, Эхуд Ю. (1983). Алгоритмическая отладка программы . МТИ Пресс. ISBN 0-262-19218-7 .
^ Jump up to: ^а ^б Магглтон, Шотландия; Бунтин, В. (1988). «Машинное изобретение предиката первого порядка путем инвертирования разрешения». Материалы 5-й Международной конференции по машинному обучению . стр. 339–352. дои : 10.1016/B978-0-934613-64-4.50040-2 . ISBN 978-0-934613-64-4 .
^ Куинлан, младший (август 1990 г.). «Изучение логических определений из отношений» . Машинное обучение . 5 (3): 239–266. дои : 10.1007/bf00117105 . ISSN 0885-6125 .
^ Jump up to: ^а ^б ^с ^д Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. стр. 354–358. ISBN 978-3-540-62927-6 .
^ Jump up to: ^а ^б Магглтон, Стивен Х.; Фэн, Цао (1990). Арикава, Сэцуо; Гото, Сигэки; Осуга, Сэцуо; Ёкомори, Такаси (ред.). «Эффективная индукция логических программ» . Теория алгоритмического обучения, Первый международный семинар, ALT '90, Токио, Япония, 8–10 октября 1990 г., Труды . Спрингер/Омша: 368–381.
^ Jump up to: ^а ^б Кроппер, Эндрю; Думанчич, Себастьян (15 июня 2022 г.). «Индуктивное логическое программирование в 30 лет: новое введение» . Журнал исследований искусственного интеллекта . 74 : 808. arXiv : 2008.07912 . дои : 10.1613/jair.1.13507 . ISSN 1076-9757 .
^ Jump up to: ^а ^б ^с Магглтон, Ш. (1995). «Инвертирование следствия и Прогол». Компьютеры нового поколения . 13 (3–4): 245–286. CiteSeerX 10.1.1.31.1630 . дои : 10.1007/bf03037227 . S2CID 12643399 .
^ Джероски, Сашо (2001), Джероски, Сашо; Лаврач, Нада (ред.), «Приложения реляционного интеллектуального анализа данных: обзор» , Реляционный интеллектуальный анализ данных , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 339–364, doi : 10.1007/978-3-662-04599-2_14 , ISBN 978-3-642-07604-6 , получено 27 ноября 2023 г.
^ Де Раедт, Люк (2008), Логическое и реляционное обучение , Когнитивные технологии, Берлин, Гейдельберг: Springer, стр. 14, Бибкод : 2008lrl..book.....D , doi : 10.1007/978-3-540-68856-3 , ISBN 978-3-540-20040-6
^ Магглтон, Стивен Х.; Линь, Дяньхуань; Пехлеви, Нильс; Тамаддони-Нежад, Алиреза (01 мая 2013 г.). «Метаинтерпретативное обучение: применение к грамматическому выводу» . Машинное обучение . 94 (1): 25–49. дои : 10.1007/s10994-013-5358-3 . ISSN 0885-6125 . S2CID 254738603 .
^ Кроппер, Эндрю; Думанчич, Себастьян; Эванс, Ричард; Магглтон, Стивен (2022). «Индуктивное логическое программирование в 30 лет» . Машинное обучение . 111 (1): 147–172. дои : 10.1007/s10994-021-06089-1 . ISSN 0885-6125 .
^ Jump up to: ^а ^б ^с ^д Кроппер, Эндрю; Думанчич, Себастьян (15 июня 2022 г.). «Индуктивное логическое программирование в 30 лет: новое введение» . Журнал исследований искусственного интеллекта . 74 : 779–782. arXiv : 2008.07912 . дои : 10.1613/jair.1.13507 . ISSN 1076-9757 .
^ Джероски, Сашо (1996). «Индуктивное логическое программирование и обнаружение знаний в базах данных» (PDF) . В Файяде, UM; Пятецкий-Шапиро, Г.; Смит, П.; Утурусами, Р. (ред.). Достижения в области обнаружения знаний и интеллектуального анализа данных . МТИ Пресс. стр. 117–152 См. §5.2.4. Архивировано из оригинала (PDF) 27 сентября 2021 г. Проверено 27 сентября 2021 г.
^ Де Рэдт, Люк (1997). «Логические настройки концептуального обучения» . Искусственный интеллект . 95 (1): 187–201. дои : 10.1016/S0004-3702(97)00041-6 .
^ Jump up to: ^а ^б Магглтон, Стивен (1999). «Индуктивное логическое программирование: проблемы, результаты и проблемы изучения языка в логике». Искусственный интеллект . 114 (1–2): 283–296. дои : 10.1016/s0004-3702(99)00067-3 . ; здесь: Раздел 2.1
^ Плоткин, Г.Д. (1970). Автоматические методы индуктивного вывода (PDF) (доктор философии). Эдинбургский университет. hdl : 1842/6656 .
^ Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. п. 255. ИСБН 978-3-540-62927-6 .
^ Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. п. 286. ИСБН 978-3-540-62927-6 .
^ Jump up to: ^а ^б Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. п. 197. ИСБН 978-3-540-62927-6 .
^ Рэй, О.; Брода, К.; Руссо, AM (2003). «Гибридное абдуктивно-индуктивное обучение» . Материалы 13-й международной конференции по индуктивному логическому программированию . ЛНКС. Том. 2835. Спрингер. стр. 311–328. CiteSeerX 10.1.1.212.6602 . дои : 10.1007/978-3-540-39917-9_21 . ISBN 978-3-540-39917-9 .
^ Кимбер, Т.; Брода, К.; Руссо, А. (2009). «Индукция неудачи: изучение связанных теорий Хорна» . Материалы 10-й международной конференции по логическому программированию и немонотонным рассуждениям . ЛНКС. Том. 575. Спрингер. стр. 169–181. дои : 10.1007/978-3-642-04238-6_16 . ISBN 978-3-642-04238-6 .
^ Ямамото, Ёситака; Иноуэ, Кацуми; Иванума, Кодзи (2012). «Обратное суммирование для полной объяснительной индукции» (PDF) . Машинное обучение . 86 : 115–139. дои : 10.1007/s10994-011-5250-y . S2CID 11347607 .
^ Ямамото, Акихиро (1997). «Какие гипотезы можно найти с помощью обратного следствия?» . Международная конференция по индуктивному логическому программированию . Конспекты лекций по информатике. Том. 1297. Спрингер. стр. 296–308. CiteSeerX 10.1.1.54.2975 . дои : 10.1007/3540635149_58 . ISBN 978-3-540-69587-5 .
^ Jump up to: ^а ^б Кимбер, Тимоти (2012). Обучение определенным и нормальным логическим программам путем наведения на неудачу (доктор философии). Имперский колледж Лондона. ethos 560694. Архивировано из оригинала 21 октября 2022 г. Проверено 21 октября 2022 г.
^ Тот, Дэвид (2014). «Импаро завершается обратным включением». arXiv : 1407.3836 [ cs.AI ].
^ Jump up to: ^а ^б Кроппер, Эндрю; Думанчич, Себастьян (15 июня 2022 г.). «Индуктивное логическое программирование в 30 лет: новое введение» . Журнал исследований искусственного интеллекта . 74 : 795. arXiv : 2008.07912 . дои : 10.1613/jair.1.13507 . ISSN 1076-9757 .
^ Магглтон, Стивен; Сантос, Хосе; Тамаддони-Нежад, Алиреза (2009). «ПроГолем: система, основанная на относительном минимальном обобщении» . Международная конференция по индуктивному логическому программированию . Спрингер. стр. 131–148. CiteSeerX 10.1.1.297.7992 . дои : 10.1007/978-3-642-13840-9_13 . ISBN 978-3-642-13840-9 .
^ Сантос, Хосе; Насиф, Хусам; Пейдж, Дэвид; Магглтон, Стивен; Штернберг, Майк (2012). «Автоматическая идентификация особенностей белок-лигандных взаимодействий с использованием индуктивного логического программирования: пример связывания гексозы» . БМК Биоинформатика . 13 :162. дои : 10.1186/1471-2105-13-162 . ПМЦ 3458898 . ПМИД 22783946 .
^ Де Рэдт, Люк; Керстинг, Кристиан (2008), Вероятностное индуктивно-логическое программирование , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 1–27, doi : 10.1007/978-3-540-78652-8_1 , ISBN 978-3-540-78651-1 , получено 9 декабря 2023 г.
^ Jump up to: ^а ^б ^с ^д ^и ^ж ^г ^час ^я Ригуцци, Фабрицио; Беллоди, Елена; Зезе, Риккардо (18 сентября 2014 г.). «История вероятностного индуктивно-логического программирования» . Границы робототехники и искусственного интеллекта . 1 . дои : 10.3389/frobt.2014.00006 . ISSN 2296-9144 .
^ Коллер, Дафна; Пфеффер, Ави (август 1997 г.). Вероятности обучения для зашумленных правил первого порядка (PDF) . ИДЖКАИ .
^ Де Рэдт, Л.; Керстинг, К.; Киммиг, А.; Реворедо, К.; Тойвонен, Х. (март 2008 г.). «Сжатие вероятностных программ на Прологе» . Машинное обучение . 70 (2–3): 151–168. дои : 10.1007/s10994-007-5030-x . ISSN 0885-6125 .
^ Блокил, Хендрик; Меерт, Ваннес (2007), «На пути к изучению нерекурсивных LPAD путем преобразования их в байесовские сети» , Индуктивное логическое программирование , Конспекты лекций по информатике, том. 4455, Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 94–108, doi : 10.1007/978-3-540-73847-3_16 , ISBN 978-3-540-73846-6 , получено 9 декабря 2023 г.
^ Де Рэдт, Люк; Тон, Инго (2011), Фраскони, Паоло; Лиси, Франческа А. (ред.), «Изучение вероятностных правил» , Индуктивное логическое программирование , том. 6489, Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 47–58, doi : 10.1007/978-3-642-21295-6_9 , ISBN 978-3-642-21294-9 , S2CID 11727522 , получено 9 декабря 2023 г.
^ Беллоди, Елена; Ригуцци, Фабрицио (2012), «Изучение структуры программ вероятностной логики» , Индуктивное логическое программирование , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 61–75, doi : 10.1007/978-3-642-31951-8_10 , ISBN 978-3-642-31950-1 , получено 9 декабря 2023 г.
^ Беллоди, Елена; Ригуцци, Фабрицио (15 января 2014 г.). «Изучение структуры программ вероятностной логики путем поиска в пространстве предложений» . Теория и практика логического программирования . 15 (2): 169–212. arXiv : 1309.2080 . дои : 10.1017/s1471068413000689 . ISSN 1471-0684 . S2CID 17669522 .

В эту статью включен текст из бесплатного контента . Лицензия CC-BY 4.0 ( лицензионное заявление/разрешение ). Текст взят из «Истории вероятностного индуктивно-логического программирования» , Фабрицио Ригуцци, Елены Беллоди и Риккардо Зезе, Frontiers Media .

Дальнейшее чтение

Магглтон, С.; Де Рэдт, Л. (1994). «Индуктивно-логическое программирование: теория и методы» . Журнал логического программирования . 19–20: 629–679. дои : 10.1016/0743-1066(94)90035-3 .
Лаврак, Н.; Дзероски, С. (1994). Индуктивное логическое программирование: методы и приложения . Нью-Йорк: Эллис Хорвуд. ISBN 978-0-13-457870-5 . Архивировано из оригинала 6 сентября 2004 г. Проверено 22 сентября 2004 г.
Наглядный пример установления связи дедушки и бабушки с помощью системы Atom . http://john-ahlgren.blogspot.com/2014/03/inductive-reasoning-visualized.html Архивировано 26 марта 2014 г. в Wayback Machine.

[:02-1] Jump up to: ^а ^б ^с ^д ^и ^ж Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. стр. 174–177. ISBN 978-3-540-62927-6 .

[2] Плоткин, Г.Д. (1970). Автоматические методы индуктивного вывода (PDF) (доктор философии). Эдинбургский университет. hdl : 1842/6656 .

[3] Шапиро, Эхуд Ю. (1981). Индуктивный вывод теорий из фактов (PDF) (Технический отчет). Департамент компьютерных наук Йельского университета. 192. Перепечатано в Лассес, Ж.-Л.; Плоткин Г., ред. (1991). Вычислительная логика: эссе в честь Алана Робинсона . МТИ Пресс. стр. 199–254. ISBN 978-0-262-12156-9 .

[4] Шапиро, Эхуд Ю. (1981). «Система вывода модели» (PDF) . Материалы 7-й международной совместной конференции по искусственному интеллекту . Том. 2. Морган Кауфманн. п. 1064.

[5] Шапиро, Эхуд Ю. (1983). Алгоритмическая отладка программы . МТИ Пресс. ISBN 0-262-19218-7 .

[Proceedings_of_the_5th_Internationa-6] Jump up to: ^а ^б Магглтон, Шотландия; Бунтин, В. (1988). «Машинное изобретение предиката первого порядка путем инвертирования разрешения». Материалы 5-й Международной конференции по машинному обучению . стр. 339–352. дои : 10.1016/B978-0-934613-64-4.50040-2 . ISBN 978-0-934613-64-4 .

[7] Куинлан, младший (август 1990 г.). «Изучение логических определений из отношений» . Машинное обучение . 5 (3): 239–266. дои : 10.1007/bf00117105 . ISSN 0885-6125 .

[:12-8] Jump up to: ^а ^б ^с ^д Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. стр. 354–358. ISBN 978-3-540-62927-6 .

[Springer/Ohmsha-9] Jump up to: ^а ^б Магглтон, Стивен Х.; Фэн, Цао (1990). Арикава, Сэцуо; Гото, Сигэки; Осуга, Сэцуо; Ёкомори, Такаси (ред.). «Эффективная индукция логических программ» . Теория алгоритмического обучения, Первый международный семинар, ALT '90, Токио, Япония, 8–10 октября 1990 г., Труды . Спрингер/Омша: 368–381.

[:3-10] Jump up to: ^а ^б Кроппер, Эндрю; Думанчич, Себастьян (15 июня 2022 г.). «Индуктивное логическое программирование в 30 лет: новое введение» . Журнал исследований искусственного интеллекта . 74 : 808. arXiv : 2008.07912 . дои : 10.1613/jair.1.13507 . ISSN 1076-9757 .

[:2-11] Jump up to: ^а ^б ^с Магглтон, Ш. (1995). «Инвертирование следствия и Прогол». Компьютеры нового поколения . 13 (3–4): 245–286. CiteSeerX 10.1.1.31.1630 . дои : 10.1007/bf03037227 . S2CID 12643399 .

[12] Джероски, Сашо (2001), Джероски, Сашо; Лаврач, Нада (ред.), «Приложения реляционного интеллектуального анализа данных: обзор» , Реляционный интеллектуальный анализ данных , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 339–364, doi : 10.1007/978-3-662-04599-2_14 , ISBN 978-3-642-07604-6 , получено 27 ноября 2023 г.

[13] Де Раедт, Люк (2008), Логическое и реляционное обучение , Когнитивные технологии, Берлин, Гейдельберг: Springer, стр. 14, Бибкод : 2008lrl..book.....D , doi : 10.1007/978-3-540-68856-3 , ISBN 978-3-540-20040-6

[14] Магглтон, Стивен Х.; Линь, Дяньхуань; Пехлеви, Нильс; Тамаддони-Нежад, Алиреза (01 мая 2013 г.). «Метаинтерпретативное обучение: применение к грамматическому выводу» . Машинное обучение . 94 (1): 25–49. дои : 10.1007/s10994-013-5358-3 . ISSN 0885-6125 . S2CID 254738603 .

[15] Кроппер, Эндрю; Думанчич, Себастьян; Эванс, Ричард; Магглтон, Стивен (2022). «Индуктивное логическое программирование в 30 лет» . Машинное обучение . 111 (1): 147–172. дои : 10.1007/s10994-021-06089-1 . ISSN 0885-6125 .

[setting-16] Jump up to: ^а ^б ^с ^д Кроппер, Эндрю; Думанчич, Себастьян (15 июня 2022 г.). «Индуктивное логическое программирование в 30 лет: новое введение» . Журнал исследований искусственного интеллекта . 74 : 779–782. arXiv : 2008.07912 . дои : 10.1613/jair.1.13507 . ISSN 1076-9757 .

[17] Джероски, Сашо (1996). «Индуктивное логическое программирование и обнаружение знаний в базах данных» (PDF) . В Файяде, UM; Пятецкий-Шапиро, Г.; Смит, П.; Утурусами, Р. (ред.). Достижения в области обнаружения знаний и интеллектуального анализа данных . МТИ Пресс. стр. 117–152 См. §5.2.4. Архивировано из оригинала (PDF) 27 сентября 2021 г. Проверено 27 сентября 2021 г.

[18] Де Рэдт, Люк (1997). «Логические настройки концептуального обучения» . Искусственный интеллект . 95 (1): 187–201. дои : 10.1016/S0004-3702(97)00041-6 .

[setting2-19] Jump up to: ^а ^б Магглтон, Стивен (1999). «Индуктивное логическое программирование: проблемы, результаты и проблемы изучения языка в логике». Искусственный интеллект . 114 (1–2): 283–296. дои : 10.1016/s0004-3702(99)00067-3 . ; здесь: Раздел 2.1

[20] Плоткин, Г.Д. (1970). Автоматические методы индуктивного вывода (PDF) (доктор философии). Эдинбургский университет. hdl : 1842/6656 .

[21] Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. п. 255. ИСБН 978-3-540-62927-6 .

[22] Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. п. 286. ИСБН 978-3-540-62927-6 .

[invres-23] Jump up to: ^а ^б Ниенхуйс-Чэн, Шань-хвэй; Вольф, Рональд де (1997). Основы индуктивного логического программирования . Конспекты лекций по информатике Конспекты лекций по искусственному интеллекту. Берлин Гейдельберг: Шпингер. п. 197. ИСБН 978-3-540-62927-6 .

[24] Рэй, О.; Брода, К.; Руссо, AM (2003). «Гибридное абдуктивно-индуктивное обучение» . Материалы 13-й международной конференции по индуктивному логическому программированию . ЛНКС. Том. 2835. Спрингер. стр. 311–328. CiteSeerX 10.1.1.212.6602 . дои : 10.1007/978-3-540-39917-9_21 . ISBN 978-3-540-39917-9 .

[25] Кимбер, Т.; Брода, К.; Руссо, А. (2009). «Индукция неудачи: изучение связанных теорий Хорна» . Материалы 10-й международной конференции по логическому программированию и немонотонным рассуждениям . ЛНКС. Том. 575. Спрингер. стр. 169–181. дои : 10.1007/978-3-642-04238-6_16 . ISBN 978-3-642-04238-6 .

[26] Ямамото, Ёситака; Иноуэ, Кацуми; Иванума, Кодзи (2012). «Обратное суммирование для полной объяснительной индукции» (PDF) . Машинное обучение . 86 : 115–139. дои : 10.1007/s10994-011-5250-y . S2CID 11347607 .

[27] Ямамото, Акихиро (1997). «Какие гипотезы можно найти с помощью обратного следствия?» . Международная конференция по индуктивному логическому программированию . Конспекты лекций по информатике. Том. 1297. Спрингер. стр. 296–308. CiteSeerX 10.1.1.54.2975 . дои : 10.1007/3540635149_58 . ISBN 978-3-540-69587-5 .

[kimber2009induction-28] Jump up to: ^а ^б Кимбер, Тимоти (2012). Обучение определенным и нормальным логическим программам путем наведения на неудачу (доктор философии). Имперский колледж Лондона. ethos 560694. Архивировано из оригинала 21 октября 2022 г. Проверено 21 октября 2022 г.

[29] Тот, Дэвид (2014). «Импаро завершается обратным включением». arXiv : 1407.3836 [ cs.AI ].

[:0-30] Jump up to: ^а ^б Кроппер, Эндрю; Думанчич, Себастьян (15 июня 2022 г.). «Индуктивное логическое программирование в 30 лет: новое введение» . Журнал исследований искусственного интеллекта . 74 : 795. arXiv : 2008.07912 . дои : 10.1613/jair.1.13507 . ISSN 1076-9757 .

[31] Магглтон, Стивен; Сантос, Хосе; Тамаддони-Нежад, Алиреза (2009). «ПроГолем: система, основанная на относительном минимальном обобщении» . Международная конференция по индуктивному логическому программированию . Спрингер. стр. 131–148. CiteSeerX 10.1.1.297.7992 . дои : 10.1007/978-3-642-13840-9_13 . ISBN 978-3-642-13840-9 .

[32] Сантос, Хосе; Насиф, Хусам; Пейдж, Дэвид; Магглтон, Стивен; Штернберг, Майк (2012). «Автоматическая идентификация особенностей белок-лигандных взаимодействий с использованием индуктивного логического программирования: пример связывания гексозы» . БМК Биоинформатика . 13 :162. дои : 10.1186/1471-2105-13-162 . ПМЦ 3458898 . ПМИД 22783946 .

[33] Де Рэдт, Люк; Керстинг, Кристиан (2008), Вероятностное индуктивно-логическое программирование , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 1–27, doi : 10.1007/978-3-540-78652-8_1 , ISBN 978-3-540-78651-1 , получено 9 декабря 2023 г.

[pilp-34] Jump up to: ^а ^б ^с ^д ^и ^ж ^г ^час ^я Ригуцци, Фабрицио; Беллоди, Елена; Зезе, Риккардо (18 сентября 2014 г.). «История вероятностного индуктивно-логического программирования» . Границы робототехники и искусственного интеллекта . 1 . дои : 10.3389/frobt.2014.00006 . ISSN 2296-9144 .

[35] Коллер, Дафна; Пфеффер, Ави (август 1997 г.). Вероятности обучения для зашумленных правил первого порядка (PDF) . ИДЖКАИ .

[36] Де Рэдт, Л.; Керстинг, К.; Киммиг, А.; Реворедо, К.; Тойвонен, Х. (март 2008 г.). «Сжатие вероятностных программ на Прологе» . Машинное обучение . 70 (2–3): 151–168. дои : 10.1007/s10994-007-5030-x . ISSN 0885-6125 .

[37] Блокил, Хендрик; Меерт, Ваннес (2007), «На пути к изучению нерекурсивных LPAD путем преобразования их в байесовские сети» , Индуктивное логическое программирование , Конспекты лекций по информатике, том. 4455, Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 94–108, doi : 10.1007/978-3-540-73847-3_16 , ISBN 978-3-540-73846-6 , получено 9 декабря 2023 г.

[38] Де Рэдт, Люк; Тон, Инго (2011), Фраскони, Паоло; Лиси, Франческа А. (ред.), «Изучение вероятностных правил» , Индуктивное логическое программирование , том. 6489, Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 47–58, doi : 10.1007/978-3-642-21295-6_9 , ISBN 978-3-642-21294-9 , S2CID 11727522 , получено 9 декабря 2023 г.

[39] Беллоди, Елена; Ригуцци, Фабрицио (2012), «Изучение структуры программ вероятностной логики» , Индуктивное логическое программирование , Берлин, Гейдельберг: Springer Berlin Heidelberg, стр. 61–75, doi : 10.1007/978-3-642-31951-8_10 , ISBN 978-3-642-31950-1 , получено 9 декабря 2023 г.

[40] Беллоди, Елена; Ригуцци, Фабрицио (15 января 2014 г.). «Изучение структуры программ вероятностной логики путем поиска в пространстве предложений» . Теория и практика логического программирования . 15 (2): 169–212. arXiv : 1309.2080 . дои : 10.1017/s1471068413000689 . ISSN 1471-0684 . S2CID 17669522 .

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]

[17]

[18]

[19]

[20]

[21]

[22]

[23]

[24]

[25]

[26]

[27]

[28]

[29]

[30]

[31]

[32]

[33]

[34]

[35]

[36]

[37]

[38]

[39]

[40]