Парадокс Моравца

Парадокс Моравеца заключается в наблюдении в области искусственного интеллекта и робототехники , что, вопреки традиционным предположениям, рассуждения требуют очень небольших вычислений , но сенсомоторные навыки и навыки восприятия требуют огромных вычислительных ресурсов. Этот принцип был сформулирован Гансом Моравецом , Родни Бруксом , Марвином Мински и другими в 1980-х годах. Моравец писал в 1988 году: «Относительно легко заставить компьютеры демонстрировать производительность уровня взрослых в тестах на интеллект или игре в шашки, и трудно или невозможно дать им навыки годовалого ребенка, когда дело касается восприятия и подвижности».

Точно так же Мински подчеркнул, что самые сложные человеческие навыки для обратного проектирования — это те, которые находятся ниже уровня сознательного понимания. «В целом мы меньше всего осведомлены о том, что наш разум делает лучше всего», — написал он и добавил: «Мы больше осведомлены о простых процессах, которые не работают хорошо, чем о сложных, которые работают безупречно». Стивен Пинкер писал в 1994 году, что «главный урок тридцати пяти лет исследований ИИ заключается в том, что сложные проблемы просты, а легкие проблемы сложны».

К 2020-м годам, в соответствии с законом Мура , компьютеры стали работать в сотни миллионов раз быстрее, чем в 1970-е годы, а дополнительной компьютерной мощности наконец стало достаточно, чтобы начать обрабатывать восприятие и сенсорные навыки, как и предсказывал Моравец в 1976 году. В 2017 году ведущий машинного обучения исследователь Эндрю Нг представил «крайне несовершенное эмпирическое правило», согласно которому «почти все, что обычный человек может сделать менее чем за одну секунду мысленного размышления, мы, вероятно, можем сейчас или в ближайшем будущем автоматизировать с помощью ИИ». . В настоящее время нет единого мнения относительно того, с какими задачами ИИ справляется лучше всего.

Биологическая основа человеческих способностей

Одно из возможных объяснений парадокса, предложенное Моравцем, основано на теории эволюции . Все человеческие навыки реализуются биологически, с использованием механизмов, созданных в процессе естественного отбора . В ходе своей эволюции естественный отбор имел тенденцию сохранять конструктивные улучшения и оптимизации. Чем старше навык, тем больше времени у естественного отбора было на улучшение его конструкции. Абстрактное мышление развилось лишь совсем недавно, и, следовательно, не следует ожидать от его реализации особой эффективности.

Как пишет Моравец:

В больших, высокоразвитых сенсорных и моторных частях человеческого мозга закодирован миллиард лет опыта о природе мира и о том, как в нем выжить. Сознательный процесс, который мы называем рассуждением, — это, я считаю, тончайшая оболочка человеческой мысли, эффективная только потому, что она поддерживается гораздо более старым и гораздо более мощным, хотя обычно бессознательным, сенсомоторным знанием. Мы все выдающиеся олимпийцы в области восприятия и моторики, настолько хороши, что делаем сложное легким. Однако абстрактное мышление — это новый трюк, которому, возможно, менее 100 тысяч лет. Мы еще не освоили это. Это не так уж и сложно; это просто так кажется, когда мы это делаем.

Компактным способом выразить этот аргумент было бы:

• Мы должны ожидать, что сложность обратного проектирования любого человеческого навыка будет примерно пропорциональна времени, в течение которого этот навык развивался у животных.
• Древнейшие человеческие навыки по большей части бессознательны и поэтому кажутся нам не требующими усилий.
• Следовательно, мы должны ожидать, что навыки, которые кажутся легкими, будет трудно перепроектировать, но навыки, требующие усилий, не обязательно могут быть трудными для разработки вообще.

Некоторые примеры навыков, которые развивались на протяжении миллионов лет: узнавать лица, передвигаться в пространстве, оценивать мотивы людей, ловить мяч, узнавать голос, ставить подходящие цели, обращать внимание на интересные вещи; все, что связано с восприятием, вниманием, визуализацией, моторикой, социальными навыками и так далее.

Некоторые примеры навыков, появившихся совсем недавно: математика, инженерное дело, игры, логика и научное рассуждение. Это сложно для нас, потому что это не то, для чего изначально были созданы наши тела и мозг. Это навыки и методы, которые были приобретены недавно, в исторический период, и на их совершенствование потребовалось не более нескольких тысяч лет, в основном в результате культурной эволюции.

Историческое влияние на искусственный интеллект

На заре исследований искусственного интеллекта ведущие исследователи часто предсказывали, что они смогут создать мыслящие машины всего за несколько десятилетий (см. историю искусственного интеллекта ). Их оптимизм частично объяснялся тем, что им удалось написать программы, которые использовали логику, решали задачи по алгебре и геометрии и играли в такие игры, как шашки и шахматы. Логика и алгебра даются людям с трудом и считаются признаком интеллекта. Многие видные исследователи предполагал, что после (почти) решения «сложных» проблем «легкие» проблемы видения и здравого смысла вскоре встанут на свои места. Они ошибались (см. также AI Winter ), и одна из причин в том, что эти задачи совсем не простые, а невероятно сложные. Тот факт, что они решили такие проблемы, как логика и алгебра, не имел значения, потому что машины решают эти проблемы чрезвычайно легко.

Родни Брукс объясняет, что, согласно ранним исследованиям ИИ, интеллект «лучше всего охарактеризовать как то, что высокообразованным ученым-мужчинам кажется сложным», например, шахматы, символическое интегрирование , доказательство математических теорем и решение сложных задач алгебры слов. «То, что дети четырех-пяти лет могли делать без особых усилий, например, визуально отличать чашку кофе от стула, ходить на двух ногах или находить путь из спальни в гостиную, не считалось деятельностью. требующий интеллекта».

В 1980-х годах это побудило Брукса выбрать новое направление в исследованиях искусственного интеллекта и робототехники . Он решил создать интеллектуальные машины, у которых «нет познания. Только ощущения и действия. Это все, что я хотел бы построить, и полностью исключил то, что традиционно считалось интеллектом искусственного интеллекта». Это новое направление он назвал « Nouvelle AI ».

Прием

Лингвист и когнитивист Стивен Пинкер считает это главным уроком, извлеченным исследователями ИИ. В своей книге «Языковой инстинкт» 1994 года он писал:

Главный урок тридцати пяти лет исследований ИИ заключается в том, что сложные проблемы просты, а легкие проблемы сложны. Умственные способности четырехлетнего ребенка, которые мы считаем само собой разумеющимися (узнавать лицо, поднимать карандаш, ходить по комнате, отвечать на вопросы), на самом деле решают некоторые из самых сложных инженерных задач, когда-либо задумывавшихся... Когда появится поколение интеллектуальных устройств, именно биржевые аналитики, инженеры-нефтехимики и члены комиссий по условно-досрочному освобождению окажутся под угрозой замены машинами. Садовники, администраторы и повара будут уверены в своей работе на десятилетия вперед.

См. также

• AI-эффект
• Воплощенное познание
• История искусственного интеллекта
• Архитектура подчинения

Библиография

• Брукс, Родни (1986), «Интеллект без репрезентации» , Лаборатория искусственного интеллекта Массачусетского технологического института.
• Брукс, Родни (2002), Плоть и машины , Pantheon Books
• Бриньольфссон, Эрик; Митчелл, Том (22 декабря 2017 г.). «Что может машинное обучение? Последствия для рабочей силы» . Наука . 358 (6370): 1530–1534. Бибкод : 2017Sci...358.1530B . дои : 10.1126/science.aap8062 . Проверено 7 мая 2018 г.
• Ли, Аманда (14 июня 2017 г.). «Будет ли ваша работа существовать через 10 лет, когда придут роботы?» . Южно-Китайская Морнинг Пост . Проверено 7 мая 2018 г.
• Мински, Марвин (1986), Общество разума , Саймон и Шустер, с. 29
• Моравец, Ганс (1976), Роль грубой силы в разведке , заархивировано из оригинала 3 марта 2016 г. , получено 16 октября 2008 г.
• Моравец, Ганс (1988), Mind Children , издательство Гарвардского университета
• МакКордак, Памела (2004), Машины, которые думают (2-е изд.), Натик, Массачусетс: AK Peters, Ltd., ISBN  1-56881-205-1 , с. 456.
• Пинкер, Стивен (4 сентября 2007 г.) [1994], Языковой инстинкт , Многолетняя современная классика, Харпер, ISBN  978-0-06-133646-1
• Задор, Энтони (21 августа 2019 г.). «Критика чистого обучения и того, чему искусственные нейронные сети могут научиться у мозга животных» . Природные коммуникации . 10 (1): 3770. Бибкод : 2019NatCo..10.3770Z . дои : 10.1038/s41467-019-11786-6 . ПМК   6704116 . ПМИД   31434893 .

Внешние ссылки

• Объяснение комикса XKCD о парадоксе Моравеца