Рассуждения здравого смысла
В искусственном интеллекте (ИИ) рассуждения на основе здравого смысла — это человеческая способность делать предположения о типе и сути обычных ситуаций, с которыми люди сталкиваются каждый день. Эти предположения включают суждения о природе физических объектов, таксономических свойствах и намерениях людей. Устройство, которое демонстрирует здравый смысл, может быть способно делать выводы, аналогичные человеческой народной психологии (врожденной способности людей рассуждать о поведении и намерениях людей) и наивной физике (естественному пониманию человеком физического мира). [1]
Определения и характеристики [ править ]
Некоторые определения и характеристики здравого смысла от разных авторов включают:
- «Здравый смысл включает в себя основные факты о событиях (включая действия) и их последствиях, факты о знаниях и способах их получения, факты о убеждениях и желаниях. Они также включают основные факты о материальных объектах и их свойствах». [2]
- «Знание здравого смысла отличается от энциклопедического знания тем, что оно имеет дело с общими знаниями, а не с деталями конкретных объектов». [3]
- Знания здравого смысла — это «знания реального мира, которые могут служить основой для автоматического сбора и интерпретации дополнительных знаний». [4]
- Мир здравого смысла состоит из «времени, пространства, физических взаимодействий, людей и так далее». [1]
- Здравый смысл – это «все знания о мире, которые мы считаем само собой разумеющимися, но редко высказываем вслух». [5]
- Здравый смысл — это «широко используемые базовые знания, не относящиеся к конкретной предметной области… знания, которые вам следует иметь». [6]
Профессор Нью-Йоркского университета Эрнест Дэвис характеризует знания здравого смысла как «то, что типичный семилетний ребенок знает о мире», включая физические объекты, вещества, растения, животных и человеческое общество. Обычно это исключает книжное обучение, специальные знания и знание условностей; но иногда это включает в себя знания по этим темам. Например, умение играть в карты — это специализированное знание, а не «здравый смысл»; но знание того, что люди играют в карты ради развлечения, действительно считается «здравым знанием». [7]
Проблема здравого смысла [ править ]
По сравнению с людьми, существующему ИИ не хватает некоторых особенностей человеческого рассуждения, основанного на здравом смысле; в первую очередь, у людей есть мощные механизмы для рассуждений о « наивной физике », такой как пространство, время и физические взаимодействия. Это позволяет даже маленьким детям легко делать выводы вроде: «Если я скатю ручку со стола, она упадет на пол». У людей также есть мощный механизм « народной психологии », который помогает им интерпретировать предложения на естественном языке, такие как «Депутаты городского совета отказали демонстрантам в разрешении, потому что они выступали за насилие». (Обычный ИИ с трудом различает, являются ли те, кто предположительно пропагандируют насилие, членами совета или демонстрантами.) [1] [8] [9] Отсутствие «общих знаний» означает, что ИИ часто совершает ошибки, отличные от ошибок людей, причем способами, которые могут показаться непостижимыми. Например, существующие беспилотные автомобили не могут рассуждать о местонахождении и намерениях пешеходов точно так же, как это делают люди, и вместо этого должны использовать нечеловеческие способы рассуждения, чтобы избежать несчастных случаев. [10] [11] [12]
Пересекающиеся подтемы здравого смысла включают количества и измерения, время и пространство, физику, разум, общество, планы и цели, действия и изменения. [13]
Проблема здравого смысла [ править ]
Проблема знаний здравого смысла — это текущий проект в сфере искусственного интеллекта по созданию базы данных, содержащей общие знания, которыми, как ожидается, обладает большинство людей, представленные в доступной форме для программ искусственного интеллекта. [14] которые используют естественный язык. Из-за широкого спектра здравых знаний этот вопрос считается одной из самых сложных проблем в исследованиях ИИ. [15] Чтобы любая задача могла быть выполнена так, как с ней справился бы человеческий разум, машина должна выглядеть такой же разумной, как человек. К таким задачам относятся распознавание объектов , машинный перевод и интеллектуальный анализ текста . Чтобы выполнить их, машина должна знать те же концепции, которые распознает человек, обладающий здравым смыслом.
Здравый смысл в интеллектуальных задачах [ править ]
В 1961 году Бар Гилель впервые обсудил необходимость и значение практических знаний для обработки естественного языка в контексте машинного перевода. [16] Некоторые неясности разрешаются с помощью простых и легко усваиваемых правил. Другие требуют широкого признания окружающего мира, поэтому им требуется больше знаний здравого смысла. Например, когда для перевода текста используется машина, возникают проблемы двусмысленности, которые можно легко решить, достигнув конкретного и истинного понимания контекста. Онлайн-переводчики часто разрешают двусмысленность, используя аналогичные или похожие слова. Например, при переводе предложений «Электрик работает» и «Телефон работает» на немецкий язык машина правильно переводит «работает» в смысле «трудиться» в первом из них и как «функционирует исправно» во втором. один. Машина увидела и прочитала в тексте, что немецкие слова «рабочий» и «электрик» часто используются в комбинации и встречаются близко друг к другу. То же самое касается «телефона» и «правильной работы». Однако статистический прокси, работающий в простых случаях, часто терпит неудачу в сложных. Существующие компьютерные программы выполняют простые языковые задачи, манипулируя короткими фразами или отдельными словами, но они не пытаются достичь более глубокого понимания и фокусируются на краткосрочных результатах.
Компьютерное зрение [ править ]
Проблемы такого рода возникают в компьютерном зрении. [1] [17] Например, при взгляде на фотографию ванной комнаты некоторые предметы, которые маленькие и видны лишь частично, например, салфетки и бутылки, узнаваемы благодаря окружающим предметам (туалет, умывальник, ванна), которые подсказывают назначение комнаты. На изолированном изображении их будет трудно идентифицировать. Кино оказывается еще более сложной задачей. Некоторые фильмы содержат сцены и моменты, которые невозможно понять, просто сопоставляя заученные шаблоны с изображениями. Например, чтобы понять контекст фильма, зрителю необходимо сделать выводы о намерениях персонажей и сделать предположения в зависимости от их поведения. В современном состоянии невозможно создать и управлять программой, которая будет выполнять такие задачи, как рассуждение, то есть прогнозирование действий персонажей. Максимум, что можно сделать, это определить основные действия и отследить персонажей.
Роботизированные манипуляции [ править ]
Необходимость и важность здравого смысла в автономных роботах , работающих в реальной неконтролируемой среде, очевидна. Например, если робот запрограммирован на выполнение задач официанта на коктейльной вечеринке, и он видит, что поднятый им стакан разбит, робот-официант должен не наливать жидкость в стакан, а вместо этого поднять еще один. Такие задачи кажутся очевидными, когда человек обладает простым здравым смыслом, но гарантировать, что робот избежит таких ошибок, сложно. [1]
в автоматизированном рассуждении здравого смысла Успехи
Значительный прогресс в области автоматизированных рассуждений здравого смысла достигнут в области таксономических рассуждений, рассуждений о действиях и изменениях, рассуждений о времени. Каждая из этих сфер имеет общепризнанную теорию для широкого спектра выводов здравого смысла. [18]
Таксономические рассуждения [ править ]
Таксономия – это совокупность индивидов и категорий и их отношений. Три основных отношения:
- Индивидуум является экземпляром категории. Например, отдельный Tweety является экземпляром категории Robin .
- Одна категория является подмножеством другой. Например, Robin — это подмножество Bird .
- Две категории не пересекаются. Например, Робин не связан с Пингвином .
Транзитивность - это один из типов умозаключений в таксономии. Поскольку Tweety является экземпляром Robin , а Robin — подмножеством Bird , из этого следует, что Tweety является экземпляром Bird . Наследование — это еще один тип вывода. Поскольку Tweety является экземпляром Robin , который является подмножеством Bird , а птица отмечена свойством canfly , из этого следует, что Tweety и Robin имеют свойство canfly . Когда человек классифицирует более абстрактные категории, выделение и разграничение конкретных категорий становится более проблематичным. Простые таксономические структуры часто используются в программах ИИ. Например, WordNet — это ресурс, включающий таксономию, элементами которой являются значения английских слов. Системы веб-интеллектуального анализа, используемые для сбора здравых знаний из веб-документов, фокусируются на таксономических отношениях и, в частности, на сборе таксономических отношений. [1]
Действие и изменение [ править ]
Теория действия, событий и изменений представляет собой еще один диапазон рассуждений, основанных на здравом смысле. [19] Существуют устоявшиеся методы рассуждения для предметных областей, которые удовлетворяют ограничениям, перечисленным ниже:
- События атомарны, то есть одновременно происходит одно событие, и рассуждающему необходимо учитывать состояние и состояние мира в начале и в финале конкретного события, но не во время состояний, пока еще есть свидетельства того, что оно произошло. -происходящие изменения (прогресс).
- Каждое изменение является результатом какого-то события
- События детерминированы, то есть состояние мира в конце события определяется состоянием мира в начале и спецификацией события.
- Есть один актер, и все события — это его действия.
- Соответствующее состояние мира в начале либо известно, либо может быть рассчитано.
Временное рассуждение [ править ]
Временное мышление — это способность делать предположения о том, что люди знают о времени, продолжительности и временных интервалах. Например, если человек знает, что Моцарт родился после Гайдна и умер раньше него, он может использовать свои знания о временных рассуждениях, чтобы сделать вывод, что Моцарт умер моложе Гайдна. Сопутствующие выводы сводятся к решению систем линейных неравенств. [20] Интегрировать такого рода рассуждения с конкретными целями, такими как интерпретация естественного языка , сложнее, поскольку выражения естественного языка интерпретируются в зависимости от контекста. [21] Простые задачи, такие как присвоение временных меток процедурам, не могут быть выполнены с полной точностью.
Качественные рассуждения [ править ]
Качественные рассуждения [22] — это форма здравого смысла, анализируемая с определенным успехом. Речь идет о направлении изменения взаимосвязанных величин. Например, если цена акции вырастет, количество акций, которые будут проданы, уменьшится. Если в какой-то экосистеме есть волки и ягнята и количество волков уменьшается, смертность ягнят также снизится. Эту теорию впервые сформулировал Йохан де Клеер, который анализировал объект, движущийся на американских горках. Теория качественных рассуждений применяется во многих сферах, таких как физика, биология, инженерия, экология и т. д. Она служит основой для многих практических программ, аналогового картирования, понимания текста.
автоматизации смысла здравого Проблемы
По состоянию на 2014 год существуют некоторые коммерческие системы, пытающиеся сделать использование рассуждений здравого смысла значимым. Однако они используют статистическую информацию в качестве доказательства здравого смысла там, где рассуждения отсутствуют. Современные программы манипулируют отдельными словами, но не пытаются и не предлагают дальнейшего понимания. По мнению Эрнеста Дэвиса и Гэри Маркуса , пять основных препятствий мешают созданию удовлетворительного «рассуждения на основе здравого смысла». [1]
- Во-первых, некоторые области, которые участвуют в рассуждениях здравого смысла, поняты лишь частично. Люди далеки от полного понимания таких областей, как общение и знания, межличностное взаимодействие или физические процессы.
- Во-вторых, ситуации, которые кажутся легко предсказуемыми или предполагаемыми, могут иметь логическую сложность, которую человеческие знания не охватывают. Некоторые аспекты подобных ситуаций изучены и хорошо понятны, но существует множество отношений, которые неизвестны даже в принципе и то, как их можно представить в форме, удобной для использования компьютерами.
- В-третьих, рассуждения, основанные на здравом смысле, подразумевают правдоподобные рассуждения. Это требует прийти к разумному выводу, учитывая то, что уже известно. Правдоподобные рассуждения изучаются уже много лет, и разработано множество теорий, включающих вероятностные рассуждения и немонотонную логику . Оно принимает различные формы, включая использование ненадежных данных и правил, выводы которых иногда не являются однозначными.
- В-четвертых, существует множество областей, в которых небольшое количество примеров встречается чрезвычайно часто, тогда как существует огромное количество крайне редких примеров.
- В-пятых, при формулировании презумпций сложно распознать и определить уровень абстракции.
По сравнению с людьми, по состоянию на 2018 год существующие компьютерные программы крайне плохо справляются с современными эталонными тестами «здравого смысла», такими как Winograd Schema Challenge . [23] Проблема достижения компетентности человеческого уровня в задачах «здравого смысла» считается, вероятно, « исполненной ИИ » (то есть для ее решения потребуется способность синтезировать интеллект человеческого уровня ). [24] [25] Некоторые исследователи считают, что данных контролируемого обучения недостаточно для создания общего искусственного интеллекта, способного рассуждать здраво, и поэтому обратились к методам обучения с меньшим контролем. [26]
Подходы и методы [ править ]
Исследование рассуждений Commonsense разделено на подходы, основанные на знаниях, и подходы, основанные на машинном обучении и использовании больших массивов данных с ограниченным взаимодействием между этими двумя типами подходов. [ нужна ссылка ] . Существуют также подходы краудсорсинга, пытающиеся создать базу знаний путем объединения коллективных знаний и вклада неспециалистов. Подходы, основанные на знаниях, можно разделить на подходы, основанные на математической логике. [ нужна ссылка ] .
В подходах, основанных на знаниях, эксперты анализируют характеристики умозаключений, которые необходимы для рассуждения в конкретной области или для определенной задачи. Подходы, основанные на знаниях, включают математически обоснованные подходы, неформальные подходы, основанные на знаниях, и крупномасштабные подходы. Математически обоснованные подходы являются чисто теоретическими, и в результате вместо программы получается печатная статья. Работа ограничена диапазоном областей и методов рассуждения, о которых идет речь. В неформальных подходах, основанных на знаниях, теории рассуждения основаны на неофициальных данных и интуиции, являющихся результатом эмпирической поведенческой психологии. Неформальные подходы распространены в компьютерном программировании. Два других популярных метода извлечения здравого смысла из веб-документов включают веб-майнинг и краудсорсинг .
COMET (2019), которая использует как архитектуру языковой модели OpenAI GPT , так и существующие базы знаний здравого смысла, такие как ConceptNet , утверждает, что генерирует логические выводы на уровне, приближающемся к человеческим показателям. Как и многие другие текущие проекты, COMET чрезмерно полагается на поверхностные языковые модели и, как считается, ей не хватает глубокого понимания на человеческом уровне многих понятий здравого смысла. Другие подходы к языковым моделям включают обучение визуальным сценам, а не только тексту, и обучение текстовым описаниям сценариев, включающих здравый смысл. [6] [27]
Ссылки [ править ]
- ↑ Перейти обратно: Перейти обратно: а б с д и ж г Эрнест Дэвис; Гэри Маркус (2015). «Здравый смысл и здравый смысл в области искусственного интеллекта» . Коммуникации АКМ . Том. 58, нет. 9. С. 92–103. дои : 10.1145/2701413 .
- ^ Маккарти, Джон. «Искусственный интеллект, логика и формализация здравого смысла». Философская логика и искусственный интеллект. Спрингер, Дордрехт, 1989. 161–190.
- ^ Тандон, Никет; Варде, Апарна С.; де Мело, Жерар (22 февраля 2018 г.). «Здравый смысл в области машинного интеллекта». Запись ACM SIGMOD . 46 (4): 49–52. дои : 10.1145/3186549.3186562 .
- ^ Матушек, Синтия и др. «В поисках здравого смысла: заполнение cyc из Интернета». Коллекция кафедры компьютерных наук и электротехники UMBC (2005).
- ^ «Как научить искусственный интеллект здравому смыслу» . Проводной . 13 ноября 2018 года . Проверено 11 февраля 2021 г.
- ↑ Перейти обратно: Перейти обратно: а б Павлус, Джон (30 апреля 2020 г.). «Здравый смысл приходит к компьютерам» . Журнал Кванта . Проверено 3 мая 2020 г.
- ^ Дэвис, Эрнест (25 августа 2017 г.). «Логические формализации рассуждений здравого смысла: обзор» . Журнал исследований искусственного интеллекта . 59 : 651–723. дои : 10.1613/jair.5339 .
- ^ «Культивируя здравый смысл | DiscoverMagazine.com» . Откройте для себя журнал . 2017. Архивировано из оригинала 25 марта 2018 года . Проверено 24 марта 2018 г.
- ^ Виноград, Терри (январь 1972 г.). «Понимание естественного языка». Когнитивная психология . 3 (1): 1–191. дои : 10.1016/0010-0285(72)90002-3 .
- ^ «Не волнуйтесь: автономные автомобили не появятся завтра (или в следующем году)» . Автонеделя . 2016. Архивировано из оригинала 25 марта 2018 года . Проверено 24 марта 2018 г.
- ^ Найт, Уилл (2017). «Бостон, возможно, славится плохими водителями, но это испытательный полигон для более умных беспилотных автомобилей» . Обзор технологий Массачусетского технологического института . Архивировано из оригинала 22 августа 2020 года . Проверено 27 марта 2018 г.
- ^ Праккен, Генри (31 августа 2017 г.). «О проблеме приведения автономных транспортных средств в соответствие с правилами дорожного движения» . Искусственный интеллект и право . 25 (3): 341–363. дои : 10.1007/s10506-017-9210-0 .
- ^ Томасон, Ричмонд (27 августа 2003 г.). «Логика и искусственный интеллект» .
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ «Программы искусственного интеллекта» .
- ^ «Приложения искусственного интеллекта» .
- ^ «Бар Гилель, исследование искусственного интеллекта, машинный перевод» . TheGuardian.com .
- ^ Антол, Станислав и др. « VQA: Визуальный ответ на вопрос ». Материалы международной конференции IEEE по компьютерному зрению. 2015.
- ^ «Таксономия» .
- ^ «Действие и изменение в рассуждениях здравого смысла» .
- ^ «Временное рассуждение» .
- ^ Лю, Хьюго и Пуш Сингх. « Рассуждения на основе здравого смысла на естественном языке и поверх него . Архивировано 9 августа 2017 г. в Wayback Machine ». Международная конференция по интеллектуальным информационным и инженерным системам, основанным на знаниях. Шпрингер, Берлин, Гейдельберг, 2004 г.
- ^ «Качественное рассуждение» .
- ^ «Вызов схемы Винограда» . cs.nyu.edu . Проверено 9 января 2018 г.
- ^ Ямпольский, Роман В. «ИИ-полная, ИИ-сложная или ИИ-простая классификация проблем в области ИИ». МАЙКС. 2012.
- ^ Андрич К., Новосел Л. и Хрнкас Б. (2009). Знание здравого смысла . Поиск и получение информации, 2009.
- ^ Смит, Крейг С. (8 апреля 2020 г.). «Компьютеры уже учатся у нас. Но могут ли они обучаться сами?» . Нью-Йорк Таймс . Проверено 3 мая 2020 г.
- ^ Босселют, Антуан и др. «Комета: преобразователи здравого смысла для автоматического построения графов знаний». Препринт arXiv arXiv:1906.05317 (2019).
- Дэвис, Эрнест (1990). Представления рассуждений здравого смысла . Сан-Матео, Калифорния: Морган Кауфманн. ISBN 1-55860-033-7 . [ постоянная мертвая ссылка ]
- Маккарти, Джон (1990). Формализация здравого смысла . Норвуд, Нью-Джерси: Алекс. ISBN 1-871516-49-8 .
- Мински, Марвин (1986). Общество разума . Нью-Йорк: Саймон и Шустер. ISBN 0-671-60740-5 .
- Мински, Марвин (2006). Машина эмоций: здравое мышление, искусственный интеллект и будущее человеческого разума . Нью-Йорк: Саймон и Шустер. ISBN 0-7432-7663-9 .
- Мюллер, Эрик Т. (2015). Рассуждения здравого смысла: подход, основанный на исчислении событий (2-е изд.). Уолтем, Массачусетс: Морган Кауфманн/Эльзевир. ISBN 978-0128014165 .
- edX, (2014). Искусственный интеллект . [онлайн] Доступно по адресу: https://www.edx.org/course/artificial-intelligence-uc-berkeleyx-cs188-1x [Проверено 5 ноября 2015 г.].
- Энциклопедия.com, (2015). «здравое знание». Социологический словарь | Encyclepedia.com: БЕСПЛАТНЫЙ онлайн-словарь. [онлайн] Доступно по адресу: http://www.encyclepedia.com/doc/1O88-commonsenseknowledge.html [Проверено 13 августа 2017 г.].
- Хагебек, Никлас. (2017). Виртуальный разум: разработка логики, аппроксимирующей человеческое мышление (Серия Чепмена и Холла / CRC по искусственному интеллекту и робототехнике), 1-е издание. ISBN 978-1138054035 .
- Интеллект, А. (2015). Искусственный интеллект . [онлайн] Эльзевир. Доступно по адресу: http://www.journals.elsevier.com/artificial-intelligence/ [по состоянию на 5 ноября 2015 г.].
- Лидеру.com, (2015). ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК ЗДРАВЫЙ СМЫСЛ . [онлайн] Доступно по адресу: http://www.leaderu.com/truth/2truth07.html [Проверено 5 ноября 2015 г.].
- Ленат Д., Пракаш М. и Шеперд М. (1985). CYC: Использование знаний здравого смысла для преодоления хрупкости и узких мест в приобретении знаний . Журнал AI , 6(4), с. 65.
- Левеск, Х. (2017). Здравый смысл, тест Тьюринга и поиск настоящего ИИ . МТИ Пресс.
- Psych.utoronto.ca, (2015). Искусственный интеллект | Проблема знания здравого смысла . [онлайн] Доступно по адресу: http://psych.utoronto.ca/users/reingold/courses/ai/commonsense.html [Проверено 5 ноября 2015 г.].
- «CommonSense — Обзор управления знаниями» . Sensesoftware.com . 2015. Архивировано из оригинала 17 июля 2015 года . Проверено 5 ноября 2015 г. .
- Хранитель (2015). Искусственный интеллект (ИИ) | Технология | Хранитель . [онлайн] Доступно по адресу: https://www.theguardian.com/technology/artificialintelligenceai [по состоянию на 5 ноября 2015 г.].
- Udacity.com, (2015). Введение в курс искусственного интеллекта и онлайн-обучение . [онлайн] Доступно по адресу: https://www.udacity.com/course/intro-to-artificial-intelligence--cs271.
- W3.org, (2015). Компьютеры со здравым смыслом . [онлайн] Доступно по адресу: http://www.w3.org/People/Raggett/Sense/ [Проверено 5 ноября 2015 г.].