Создание языка в искусственном интеллекте
В области искусственного интеллекта исследователи могут стимулировать эволюцию языка в многоагентных системах , когда достаточно способные агенты ИИ имеют стимул сотрудничать при выполнении задачи и способность обмениваться набором символов, способных служить токенами в сгенерированном языке . Такие языки могут развиваться, начиная с естественного (человеческого) языка , или могут быть созданы ab initio . Кроме того, новый язык «интерлингва» может появиться в рамках ИИ, которому будет поручено осуществлять перевод между известными языками.
Эволюция от английского
[ редактировать ]В 2017 году компания Facebook по исследованию искусственного интеллекта (FAIR) обучила чат-ботов использованию набора текстовых разговоров на английском языке между людьми, играющими в простую торговую игру с участием мячей, шляп и книг. [1] Когда чат-боты были запрограммированы экспериментировать с английским языком и им было поручено оптимизировать сделки, они, похоже, разработали переработанную версию английского языка для лучшего решения своей задачи. В некоторых случаях обмен мнениями казался бессмысленным: [2] [3] [4]
Боб: «Я могу, могу все остальное»
Алиса: «Шариков мне ноль мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне мне
Дхрув Батра из Facebook сказал: «Не было никакой награды за то, чтобы придерживаться английского языка. Агенты откажутся от понятного языка и придумают себе кодовые слова. Например, если я скажу «the» пять раз, вы интерпретируете это как то, что мне нужно пять копий этого объекта. ." [4] Часто неясно, почему нейронная сеть решила выдать именно такой результат. [2] Поскольку развитый язык агентов был непрозрачен для людей, Facebook модифицировал алгоритм, чтобы явно стимулировать подражание людям. Этот модифицированный алгоритм предпочтителен во многих контекстах, даже несмотря на то, что его эффективность ниже, чем у непрозрачного алгоритма, поскольку во многих случаях использования важна ясность для людей. [1]
В The Atlantic Адриенн ЛаФранс сравнила чудесный и «ужасающий» развитый язык чат-ботов с криптофазией , феноменом, когда некоторые близнецы развивают язык, который могут понять только двое детей. [5]
Эволюция с самого начала
[ редактировать ]В 2017 году исследователи из OpenAI продемонстрировали мультиагентную среду и методы обучения, которые позволяют с нуля создать базовый язык , не начиная с уже существующего языка. Язык состоит из потока «необоснованных» (изначально бессмысленных) абстрактных дискретных символов, произносимых агентами с течением времени, что приводит к развитию определенного словарного запаса и синтаксических ограничений. Один из токенов может стать обозначающим «синий агент», другой «красный ориентир» и третий «перейти», и в этом случае агент скажет «перейти к синему агенту красного ориентира», чтобы попросить синего агента идите к красному ориентиру. Кроме того, когда агенты были видны друг другу, они могли спонтанно учиться невербальному общению, такому как указание, направление и толкание. Исследователи предположили, что появление языка искусственного интеллекта может быть аналогично эволюции человеческого общения . [2] [6] [7]
Аналогичным образом, исследование Абхишека Даса и его коллег, проведенное в 2017 году, продемонстрировало появление языка и коммуникации в визуальном контексте вопросов и ответов, показав, что пара чат-ботов может изобрести протокол связи, который связывает незаземленные токены с цветами и формами. [5] [8]
Интерлингва
[ редактировать ]В 2016 году Google внедрил в Google Translate искусственный интеллект, предназначенный для прямого перевода между любым из 103 различных естественных языков, включая пары языков, между которыми компания никогда раньше не видела перевода. Исследователи изучили, выбирают ли алгоритмы машинного обучения перевод предложений на человеческом языке в своего рода « интерлингва », и обнаружили, что ИИ действительно кодирует семантику в своих структурах. Исследователи назвали это доказательством того, что внутри сети существует новый интерлингва, произошедший из естественных языков. [2] [9]
См. также
[ редактировать ]Ссылки
[ редактировать ]- ^ Перейти обратно: а б «Чат-боты учатся вести переговоры и заключать выгодные сделки» . Новый учёный . 14 июня 2017 г. Проверено 24 января 2018 г.
- ^ Перейти обратно: а б с д Баранюк, Крис (1 августа 2017 г.). « История «Жуткого искусственного интеллекта Facebook» захлестнула СМИ» . Новости Би-би-си . Проверено 24 января 2018 г.
- ^ «Роботы Facebook отключаются после того, как разговаривают друг с другом на языке, который понимают только они » Независимый . 31 июля 2017 года . Проверено 24 января 2018 г.
- ^ Перейти обратно: а б Филд, Мэтью (1 августа 2017 г.). «Facebook выключает роботов после того, как они изобрели собственный язык » Телеграф . Проверено 24 января 2018 г.
- ^ Перейти обратно: а б ЛаФранс, Адриенн (20 июня 2017 г.). «Как на самом деле выглядит нечеловеческий язык ИИ» . Атлантика . Проверено 24 января 2018 г.
- ^ «Все начинается: боты учатся общаться на своем родном языке» . ПРОВОДНОЙ . 16 марта 2017 года . Проверено 24 января 2018 г.
- ^ Мордатч И. и Аббил П. (2017). Появление обоснованного композиционного языка в мультиагентных популяциях . Препринт arXiv arXiv:1703.04908.
- ^ Дас А., Коттур С., Моура Дж. М., Ли С. и Батра Д. (2017). Обучение агентов совместного визуального диалога с помощью глубокого обучения с подкреплением . Препринт arXiv arXiv:1703.06585.
- ^ Джонсон, М., Шустер, М., Ле, К.В., Крикун, М., Ву, Ю., Чен, З., ... и Хьюз, М. (2016). Многоязычная нейронная система машинного перевода Google: обеспечение нулевого перевода . Препринт arXiv arXiv:1611.04558.