ЭЛИЗА эффект

В информатике эффект ELIZA — это тенденция проецировать человеческие качества — такие как опыт, семантическое понимание или эмпатия — на элементарные компьютерные программы, имеющие текстовый интерфейс. ELIZA — это символический чат-бот с искусственным интеллектом, разработанный в 1966 году Джозефом Вайценбаумом и имитирующий работу психотерапевта. Многие первые пользователи были убеждены в интеллекте и понимании ELIZA, несмотря на ее базовый подход к обработке текста и объяснения ее ограничений.

История

Эффект назван в честь ELIZA , чат-бота, разработанного в 1966 году ученым-компьютерщиком Массачусетского технологического института Джозефом Вайзенбаумом . При выполнении «ДОКТОР» сценария Вейценбаума ELIZA имитировала Роджерианского психотерапевта , в основном перефразируя «пациента » в вопросы: ответы ^[1]

Человек: Ну, мой парень заставил меня прийти сюда.

ЭЛИЗА: Твой парень заставил тебя прийти сюда?

Человек: Он говорит, что большую часть времени я нахожусь в депрессии.

ЭЛИЗА: Мне жаль слышать, что ты в депрессии.

Человек: Это правда. Я несчастен.

ЭЛИЗА: Думаешь, приезд сюда поможет тебе не быть несчастным?

Хотя он разработан исключительно как механизм поддержки «разговора на естественном языке» с компьютером, ^[2] Сценарий ELIZA DOCTOR оказался на удивление успешным в получении эмоциональных реакций у пользователей, которые в ходе взаимодействия с программой начали приписывать понимание и мотивацию результатам работы программы. ^[3] Как позже писал Вейценбаум: «Я не осознавал… что чрезвычайно короткое воздействие относительно простой компьютерной программы может вызвать мощное бредовое мышление у вполне нормальных людей». ^[4] Действительно, код ELIZA изначально не был разработан для того, чтобы вызывать такую реакцию. В ходе наблюдения исследователи обнаружили, что пользователи неосознанно полагали, что вопросы ELIZA подразумевают интерес и эмоциональную вовлеченность в обсуждаемые темы, даже если они сознательно знали, что ELIZA не имитирует эмоции. ^[5]

Хотя впервые эффект был назван в 1960-х годах, тенденцию понимать механические операции в психологических терминах отметил Чарльз Бэббидж . Предлагая то, что позже будет названо сумматором с переносом и прогнозированием , Бэббидж заметил, что он нашел такие термины удобными для описательных целей, хотя под этим подразумевалось не что иное, как механическое действие. ^[6]

Характеристики

В своей конкретной форме эффект ELIZA относится только к «способности людей читать гораздо больше понимания, чем требуется, в цепочках символов - особенно слов, - связанных вместе компьютерами». ^[7] Тривиальный пример конкретной формы эффекта Элизы, приведенный Дугласом Хофштадтером , включает в себя банкомат , который отображает слова «СПАСИБО» в конце транзакции. Наивный наблюдатель может подумать, что машина на самом деле выражает благодарность; однако аппарат печатает только заранее запрограммированную строку символов. ^[7]

В более общем смысле эффект ELIZA описывает любую ситуацию. ^[8]^[9] где, основываясь исключительно на результатах работы системы, пользователи воспринимают компьютерные системы как обладающие «внутренними качествами и способностями, которых программное обеспечение, контролирующее (выход), не может достичь» ^[10] или «предположим, что [результаты] отражают большую причинно-следственную связь, чем на самом деле». ^[11] Как в своей конкретной, так и в общей форме эффект ELIZA примечателен тем, что возникает даже тогда, когда пользователи системы осознают определенный характер выходных данных, производимых системой.

С психологической точки зрения эффект ELIZA является результатом тонкого когнитивного диссонанса между осознанием пользователем ограничений программирования и его поведением по отношению к выходным данным программы . ^[12]

Значение

Открытие эффекта ELIZA стало важным достижением в области искусственного интеллекта , продемонстрировав принцип использования социальной инженерии, а не явного программирования для прохождения теста Тьюринга . ^[13]

ЭЛИЗА убедила некоторых пользователей думать, что машина — это человек. Этот сдвиг во взаимодействии человека и машины ознаменовал прогресс в технологиях, имитирующих человеческое поведение. Уильям Мейзель выделяет две группы чат-ботов как « личных помощников общего назначения » и «специализированных цифровых помощников». ^[14] В персональные устройства были интегрированы обычные цифровые помощники с такими навыками, как отправка сообщений, ведение заметок, проверка календарей и назначение встреч. Специализированные цифровые помощники «работают в очень специфических областях или помогают решать очень специфические задачи». ^[14] Вайценбаум считал, что не каждую часть человеческого мышления можно свести к логическим формализмам и что «есть некоторые мыслительные действия, которые должны предприниматься только людьми». ^[15]

В 1990-х годах Клиффорд Насс и Байрон Ривз провели серию экспериментов, создавших «Уравнение СМИ» , продемонстрировав, что люди склонны реагировать на средства массовой информации так же, как на другого человека (будучи вежливыми, готовыми к сотрудничеству, приписывая такие личностные характеристики, как агрессивность, юмор, экспертные знания и пол) – или к местам и явлениям физического мира. Многочисленные последующие исследования, возникшие на основе исследований в области психологии , социальных наук и других областей, показывают, что этот тип реакции является автоматическим, неизбежным и случается чаще, чем люди думают. Ривз и Насс утверждают, что «взаимодействие людей с компьютерами, телевидением и новыми медиа по своей сути социально и естественно, так же, как и взаимодействие в реальной жизни». ^[16]

Когда чат-боты антропоморфизированы, они склонны изображать гендерные особенности как способ установления отношений с технологией. «Гендерные стереотипы используются для управления нашими отношениями с чат-ботами», когда человеческое поведение программируется в машинах. ^[17] Феминизированный труд, или женский труд , автоматизированный антропоморфными цифровыми помощниками, усиливает «предположение о том, что женщины обладают естественной склонностью к работе в сфере обслуживания и эмоциональному труду». ^[18] Определяя нашу близость к цифровым помощникам через их человеческие качества, чат-боты становятся гендерными сущностями.

См. также

Ссылки

^ Гюзельдере, Гювен; Франки, Стефано. «диалоги с колоритными личностями раннего ИИ» . Архивировано из оригинала 25 апреля 2011 г. Проверено 30 июля 2007 г.
^ Вайценбаум, Джозеф (январь 1966 г.). «ELIZA — компьютерная программа для изучения естественного языка общения между человеком и машиной» . Коммуникации АКМ . 9 . Массачусетский технологический институт : 36. doi : 10.1145/365153.365168 . S2CID 1896290 . Проверено 17 июня 2008 г.
^ Сучман, Люси А. (1987). Планы и намеченные действия: Проблема человеко-машинного общения . Издательство Кембриджского университета. п. 24. ISBN 978-0-521-33739-7 . Проверено 17 июня 2008 г.
^ Вайценбаум, Джозеф (1976). Мощь компьютера и человеческий разум: от суждения к расчету . У. Х. Фриман. п. 7 .
^ Биллингс, Ли (16 июля 2007 г.). «Расцвет роботоэтики» . Семя . Архивировано из оригинала 28 февраля 2009 г. (Джозеф) Вейценбаум неожиданно обнаружил, что, даже полностью осознавая, что они разговаривают с простой компьютерной программой, люди, тем не менее, будут относиться к ней так, как если бы она была реальным, мыслящим существом, которое заботится об их проблемах – явление, теперь известное как Эффект Элизы».
^ Грин, Кристофер Д. (февраль 2005 г.). «Была ли аналитическая машина Бэббиджа инструментом психологических исследований?». История психологии . 8 (1): 35–45.
^ Jump up to: ^а ^б Хофштадтер, Дуглас Р. (1996). «Предисловие 4. Неистребимый эффект Элизы и его опасности, эпилог» . Гибкие концепции и творческие аналогии: компьютерные модели фундаментальных механизмов мышления . Основные книги. п. 157. ИСБН 978-0-465-02475-9 .
^ Фентон-Керр, Том (1999). «GAIA: экспериментальный педагогический агент для изучения мультимодального взаимодействия». Вычисление метафор, аналогий и агентов . Конспекты лекций по информатике. Том. 1562. Спрингер. п. 156. дои : 10.1007/3-540-48834-0_9 . ISBN 978-3-540-65959-4 . Хотя Хофштадтер здесь делает упор на текстовый режим, «эффект Элизы» можно увидеть практически во всех режимах взаимодействия человека и компьютера.
^ Экбиа, Хамид Р. (2008). Искусственные сны: поиск небиологического интеллекта . Издательство Кембриджского университета. п. 8 . ISBN 978-0-521-87867-8 .
^ Кинг, В. (1995). Антропоморфные агенты: друг, враг или глупость (Технический отчет). Университет Вашингтона. М-95-1.
^ Роуз, Уильям Б.; Бофф, Кеннет Р. (2005). Организационное моделирование . Wiley-IEEE. стр. 308–309. ISBN 978-0-471-73943-2 . Это особая проблема в цифровой среде, где «эффект Элизы», как его иногда называют, заставляет взаимодействующих лиц предполагать, что система более интеллектуальна, чем она есть на самом деле, предполагать, что события отражают большую причинно-следственную связь, чем они есть на самом деле.
^ Экбиа, Хамид Р. (2008). Искусственные сны: поиск небиологического интеллекта . Издательство Кембриджского университета. п. 156 . ISBN 978-0-521-87867-8 . Но люди хотят верить, что программа «видит» футбольный матч на каком-то правдоподобном уровне абстракции. Слова, которыми (программа) манипулирует, настолько полны ассоциаций для читателей, что НЕ МОГУТ быть лишены всех своих образов. Коллинз, конечно, знал, что его программа не имеет дело ни с чем, напоминающим двумерный мир плавно движущихся точек (не говоря уже об упрощенных человеческих телах), и, по-видимому, он думал, что его читатели тоже это поймут. Однако он и не подозревал, насколько силен эффект Элизы.
^ Траппл, Роберт; Петта, Паоло; Пайр, Сабина (2002). Эмоции в людях и артефактах . Кембридж, Массачусетс: MIT Press. п. 353. ИСБН 978-0-262-20142-1 . «Эффект Элизы» — тенденция людей относиться к программам, которые реагируют на них, как будто они обладают большим интеллектом, чем есть на самом деле (Weizenbaum 1966), — один из самых мощных инструментов, доступных создателям виртуальных персонажей.
^ Jump up to: ^а ^б Дейл, Роберт (сентябрь 2016 г.). «Возвращение чат-ботов» . Инженерия естественного языка . 22 (5): 811–817. дои : 10.1017/S1351324916000243 . ISSN 1351-3249 .
^ Вайценбаум, Джозеф (1976). Мощь компьютера и человеческий разум: от суждения к расчету . Сан-Франциско, Калифорния: WH Freeman and Company. ISBN 0-7167-0464-1 . OCLC 1527521 .
^ Ривз, Байрон; Насс, Клиффорд (январь 1996 г.). «Уравнение СМИ: как люди относятся к компьютерам, телевидению и новым медиа как к реальным людям и местам» . Издательство Кембриджского университета .
^ Коста, Педро. Рибас, Луиза. Беседы с ЭЛИЗОЙ: о гендере и искусственном интеллекте. Источник: (6-я конференция по вычислениям, коммуникации, эстетике и X, 2018 г.), доступ: февраль 2021 г.
^ Хестер, Хелен. 2016. «Технологии становятся ей». Новые перспективы 3 (1): 46-50.

Дальнейшее чтение

Хофштадтер, Дуглас. Предисловие 4: Неистребимый эффект Элизы и его опасности. (из «Жидких концепций и творческих аналогий : Компьютерные модели фундаментальных механизмов мышления» , Basic Books: Нью-Йорк, 1995)
Тёркл, С., Эффект Элизы: склонность воспринимать компьютерные реакции как более разумные, чем они есть на самом деле (из «Жизни на экране» — «Идентичность в эпоху Интернета» , Phoenix в мягкой обложке: Лондон, 1997).
Эффект ЭЛИЗА , из Файла Жаргона , версия 4.4.7. По состоянию на 8 октября 2006 г.
Байрон Ривз и Клиффорд Насс. Уравнение СМИ: как люди относятся к компьютерам, телевидению и новым медиа как к реальным людям и местам , Cambridge University Press: 1996.

[Güzeldere1-1] Гюзельдере, Гювен; Франки, Стефано. «диалоги с колоритными личностями раннего ИИ» . Архивировано из оригинала 25 апреля 2011 г. Проверено 30 июля 2007 г.

[Weizenbaum2-2] Вайценбаум, Джозеф (январь 1966 г.). «ELIZA — компьютерная программа для изучения естественного языка общения между человеком и машиной» . Коммуникации АКМ . 9 . Массачусетский технологический институт : 36. doi : 10.1145/365153.365168 . S2CID 1896290 . Проверено 17 июня 2008 г.

[Suchman1-3] Сучман, Люси А. (1987). Планы и намеченные действия: Проблема человеко-машинного общения . Издательство Кембриджского университета. п. 24. ISBN 978-0-521-33739-7 . Проверено 17 июня 2008 г.

[Weizenbaum1-4] Вайценбаум, Джозеф (1976). Мощь компьютера и человеческий разум: от суждения к расчету . У. Х. Фриман. п. 7 .

[Billings1-5] Биллингс, Ли (16 июля 2007 г.). «Расцвет роботоэтики» . Семя . Архивировано из оригинала 28 февраля 2009 г. (Джозеф) Вейценбаум неожиданно обнаружил, что, даже полностью осознавая, что они разговаривают с простой компьютерной программой, люди, тем не менее, будут относиться к ней так, как если бы она была реальным, мыслящим существом, которое заботится об их проблемах – явление, теперь известное как Эффект Элизы».

[6] Грин, Кристофер Д. (февраль 2005 г.). «Была ли аналитическая машина Бэббиджа инструментом психологических исследований?». История психологии . 8 (1): 35–45.

[Hofstadter1996-7] Jump up to: ^а ^б Хофштадтер, Дуглас Р. (1996). «Предисловие 4. Неистребимый эффект Элизы и его опасности, эпилог» . Гибкие концепции и творческие аналогии: компьютерные модели фундаментальных механизмов мышления . Основные книги. п. 157. ИСБН 978-0-465-02475-9 .

[Fenton-Kerr1999-8] Фентон-Керр, Том (1999). «GAIA: экспериментальный педагогический агент для изучения мультимодального взаимодействия». Вычисление метафор, аналогий и агентов . Конспекты лекций по информатике. Том. 1562. Спрингер. п. 156. дои : 10.1007/3-540-48834-0_9 . ISBN 978-3-540-65959-4 . Хотя Хофштадтер здесь делает упор на текстовый режим, «эффект Элизы» можно увидеть практически во всех режимах взаимодействия человека и компьютера.

[Ekbia2008-9] Экбиа, Хамид Р. (2008). Искусственные сны: поиск небиологического интеллекта . Издательство Кембриджского университета. п. 8 . ISBN 978-0-521-87867-8 .

[King1995-10] Кинг, В. (1995). Антропоморфные агенты: друг, враг или глупость (Технический отчет). Университет Вашингтона. М-95-1.

[Rouse2005-11] Роуз, Уильям Б.; Бофф, Кеннет Р. (2005). Организационное моделирование . Wiley-IEEE. стр. 308–309. ISBN 978-0-471-73943-2 . Это особая проблема в цифровой среде, где «эффект Элизы», как его иногда называют, заставляет взаимодействующих лиц предполагать, что система более интеллектуальна, чем она есть на самом деле, предполагать, что события отражают большую причинно-следственную связь, чем они есть на самом деле.

[Ekbia2008_quote-12] Экбиа, Хамид Р. (2008). Искусственные сны: поиск небиологического интеллекта . Издательство Кембриджского университета. п. 156 . ISBN 978-0-521-87867-8 . Но люди хотят верить, что программа «видит» футбольный матч на каком-то правдоподобном уровне абстракции. Слова, которыми (программа) манипулирует, настолько полны ассоциаций для читателей, что НЕ МОГУТ быть лишены всех своих образов. Коллинз, конечно, знал, что его программа не имеет дело ни с чем, напоминающим двумерный мир плавно движущихся точек (не говоря уже об упрощенных человеческих телах), и, по-видимому, он думал, что его читатели тоже это поймут. Однако он и не подозревал, насколько силен эффект Элизы.

[Trappl2002-13] Траппл, Роберт; Петта, Паоло; Пайр, Сабина (2002). Эмоции в людях и артефактах . Кембридж, Массачусетс: MIT Press. п. 353. ИСБН 978-0-262-20142-1 . «Эффект Элизы» — тенденция людей относиться к программам, которые реагируют на них, как будто они обладают большим интеллектом, чем есть на самом деле (Weizenbaum 1966), — один из самых мощных инструментов, доступных создателям виртуальных персонажей.

[:0-14] Jump up to: ^а ^б Дейл, Роберт (сентябрь 2016 г.). «Возвращение чат-ботов» . Инженерия естественного языка . 22 (5): 811–817. дои : 10.1017/S1351324916000243 . ISSN 1351-3249 .

[15] Вайценбаум, Джозеф (1976). Мощь компьютера и человеческий разум: от суждения к расчету . Сан-Франциско, Калифорния: WH Freeman and Company. ISBN 0-7167-0464-1 . OCLC 1527521 .

[16] Ривз, Байрон; Насс, Клиффорд (январь 1996 г.). «Уравнение СМИ: как люди относятся к компьютерам, телевидению и новым медиа как к реальным людям и местам» . Издательство Кембриджского университета .

[17] Коста, Педро. Рибас, Луиза. Беседы с ЭЛИЗОЙ: о гендере и искусственном интеллекте. Источник: (6-я конференция по вычислениям, коммуникации, эстетике и X, 2018 г.), доступ: февраль 2021 г.

[18] Хестер, Хелен. 2016. «Технологии становятся ей». Новые перспективы 3 (1): 46-50.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]

[17]

[18]