Искусственная глупость

Искусственная глупость — это термин, используемый в области информатики для обозначения техники « упрощения » компьютерных программ с целью намеренного внесения ошибок в их ответы.

История

Алан Тьюринг в своей статье 1950 года «Вычислительная техника и интеллект » предложил тест на интеллект, который с тех пор стал известен как тест Тьюринга . ^[1] Хотя существует множество различных версий, первоначальный тест, описанный Тьюрингом как основанный на « игре в имитацию », включал в себя «машинный интеллект» (компьютер, на котором запущена программа искусственного интеллекта), участницу-женщину и следователя. И ИИ, и участница-женщина должны были заявить, что они женщины, и задача следователя состояла в том, чтобы выяснить, кто из участников был женщиной, а кто нет, путем изучения ответов участника на напечатанные вопросы. ^[1] Хотя неясно, имел ли Тьюринг в виду, что следователь должен был знать, что один из участников был компьютером, при обсуждении некоторых возможных возражений против своего аргумента Тьюринг выразил обеспокоенность тем, что «машины не могут ошибаться». ^[1]

Утверждается, что следователь мог отличить машину от человека, просто задав им ряд задач по арифметике. Машина будет разоблачена из-за ее смертельной точности.
- Тьюринг, 1950, стр. 448.

Как тогда заметил Тьюринг, ответ на это прост: машина не должна пытаться «давать правильные ответы на арифметические задачи». ^[1] Вместо этого в ответы компьютера следует вносить преднамеренные ошибки.

Приложения

В информатике есть как минимум два основных применения искусственной глупости: создание преднамеренных ошибок в чат-ботах, пытающихся пройти тест Тьюринга или иным образом обмануть участника, заставив его поверить в то, что он человек; и преднамеренное ограничение использования компьютерного ИИ в видеоиграх , чтобы контролировать сложность игры.

Чат-боты

Первый конкурс на премию Лёбнера был проведен в 1991 году. Как сообщает The Economist , победившая работа содержала преднамеренные ошибки, которые The Economist назвал «искусственной глупостью», чтобы обмануть судей, заставив их поверить, что это был человек. ^[2] Этот метод остался частью последующих конкурсов на премию Лебнера и отражает проблему, впервые поднятую Тьюрингом.

Игровой дизайн

Ларс Лиден утверждает, что хороший игровой дизайн предполагает поиск баланса между «интеллектом» компьютера и способностью игрока побеждать. Тонко настроив уровень «искусственной глупости», можно создавать игры, управляемые компьютером, которые позволяют игроку побеждать, но делать это «не выглядя неумным». ^[3]

Алгоритмы

Есть много способов намеренно ввести неверные решения в алгоритмы поиска. Возьмем , к примеру, минимаксный алгоритм. Алгоритм минимакса — это алгоритм состязательного поиска, который широко используется в играх, в которых требуется соревноваться друг с другом более чем одним игроком. Основная цель этого алгоритма — выбрать ход, который максимизирует ваши шансы на победу, и избегать ходов, которые максимизируют вероятность победы вашего противника. Подобный алгоритм был бы чрезвычайно полезен для компьютера, поскольку компьютеры способны искать тысячи ходов вперед. Чтобы «упростить» этот алгоритм и учесть разные уровни сложности, эвристические необходимо настроить функции. Обычно в победивших штатах начисляются огромные очки. Изменение эвристики за счет уменьшения таких больших выигрышей уменьшит вероятность того, что алгоритм выберет выигрышное состояние.

Создать эвристические функции, учитывающие глупость, сложнее, чем можно подумать. Если эвристика позволяет сделать лучший ход, компьютерный противник окажется слишком всезнающим, что сделает игру разочаровывающей и неприятной. Но если эвристика плохая, игра также может быть неприятной. Таким образом, баланс хороших и плохих ходов в состязательной игре зависит от хорошо реализованной эвристической функции.

Аргументы об искусственной глупости

В редакционной статье The Economist 1993 года утверждается, что «нет практической причины» пытаться создать машину, имитирующую поведение человека, поскольку цель компьютера — выполнять задачи, которые люди не могут выполнить в одиночку или, по крайней мере, не могут. так же эффективно. Обсуждая победившую в конкурсе Тьюринга 1991 года работу, которая была запрограммирована так, чтобы вводить в разговор преднамеренные ошибки при наборе текста, чтобы обмануть судей, редакционная статья задается вопросом: «Кому нужен компьютер, который не умеет печатать?» ^[2]

Ссылки

^ Jump up to: ^а ^б ^с ^д Тьюринг, Алан (октябрь 1950 г.), «Вычислительная техника и интеллект», Mind , LIX (236): 433–460, doi : 10.1093/mind/LIX.236.433 , ISSN 0026-4423
^ Jump up to: ^а ^б «Искусственная глупость», The Economist , вып. 324, нет. 7770, с. 14, 1992-09-01
^ Лиден, Ларс (2004), С. Рабин (редактор), «Искусственная глупость: искусство совершать преднамеренные ошибки», AI Game Programming Wisdom 2 , Charles River Media, Inc., стр. 41–48.

Дальнейшее чтение

TEDx: «Тест Тьюринга, искусственный интеллект и человеческая глупость» [1]

[turing-1] Jump up to: ^а ^б ^с ^д Тьюринг, Алан (октябрь 1950 г.), «Вычислительная техника и интеллект», Mind , LIX (236): 433–460, doi : 10.1093/mind/LIX.236.433 , ISSN 0026-4423

[economist-2] Jump up to: ^а ^б «Искусственная глупость», The Economist , вып. 324, нет. 7770, с. 14, 1992-09-01

[liden-3] Лиден, Ларс (2004), С. Рабин (редактор), «Искусственная глупость: искусство совершать преднамеренные ошибки», AI Game Programming Wisdom 2 , Charles River Media, Inc., стр. 41–48.

[1]

[2]

[3]