Jump to content

Научно-исследовательский институт машинного интеллекта

(Перенаправлено с Кати Грейс )
Научно-исследовательский институт машинного интеллекта
Формирование 2000 ; 24 года назад ( 2000 )
Тип Некоммерческий научно-исследовательский институт
Цель Исследование дружественного искусственного интеллекта и проблемы управления ИИ
Расположение
Ключевые люди
Элиэзер Юдковский
Веб-сайт интеллект .org

Исследовательский институт машинного интеллекта ( MIRI ), ранее называвшийся Институтом сингулярности искусственного интеллекта ( SIAI ), — это некоммерческий исследовательский институт, который с 2005 года занимается выявлением и управлением потенциальными экзистенциальными рисками, связанными с общим искусственным интеллектом . Работа MIRI сосредоточена на дружественном подходе искусственного интеллекта к проектированию систем и прогнозировании темпов развития технологий.

Юдковский в Стэнфордском университете в 2006 году.

В 2000 году Элиэзер Юдковски основал Институт сингулярности искусственного интеллекта при финансовой поддержке Брайана и Сабины Аткинс с целью ускорить развитие искусственного интеллекта (ИИ). [1] [2] [3] Однако Юдковский начал беспокоиться, что системы искусственного интеллекта, разработанные в будущем, могут стать сверхразумными и представлять опасность для человечества. [1] а в 2005 году институт переехал в Силиконовую долину и начал концентрироваться на способах выявления и управления этими рисками, которые в то время в значительной степени игнорировались учеными в этой области. [2]

Начиная с 2006 года, Институт организовал Singularity Summit для обсуждения будущего ИИ, включая его риски, первоначально в сотрудничестве со Стэнфордским университетом и при финансовой поддержке Питера Тиля . Газета San Francisco Chronicle описала первую конференцию как «вечеринку в районе залива, посвященную философии, вдохновленной технологиями, под названием трансгуманизм ». [4] [5] В 2011 году ее офисы представляли собой четыре квартиры в центре Беркли. [6] В декабре 2012 года институт продал свое название, веб-домен и Singularity Summit Университету Singularity . [7] а в следующем месяце получил название «Научно-исследовательский институт машинного интеллекта». [8]

В 2014 и 2015 годах общественный и научный интерес к рискам ИИ вырос, что привело к увеличению пожертвований на финансирование исследований в MIRI и аналогичных организациях. [3] [9] : 327 

В 2019 году Open Philanthropy рекомендовала MIRI выделить грант на общую поддержку в размере примерно 2,1 миллиона долларов в течение двух лет. [10] В апреле 2020 года Open Philanthropy дополнила это грантом в размере 7,7 миллиона долларов на два года. [11] [12]

В 2021 году Виталик Бутерин на несколько миллионов долларов . Эфириума пожертвовал MIRI [13]

Исследования и подход

[ редактировать ]
Нейт Соарес представляет обзор проблемы согласования ИИ в Google в 2016 году.

Подход MIRI к выявлению и управлению рисками ИИ, возглавляемый Юдковски, в первую очередь касается создания дружественного ИИ, охватывая как первоначальную разработку систем ИИ, так и создание механизмов, гарантирующих, что развивающиеся системы ИИ останутся дружественными. [3] [14] [15]

Исследователи MIRI выступают за раннюю работу по обеспечению безопасности в качестве меры предосторожности. [16] Однако исследователи MIRI выразили скептицизм по поводу взглядов сторонников сингулярности, таких как Рэй Курцвейл, о том, что сверхинтеллект «не за горами». [14] MIRI профинансировала работу по прогнозированию в рамках инициативы под названием AI Impacts, которая изучает исторические случаи дискретных технологических изменений и разрабатывает новые меры относительной вычислительной мощности людей и компьютерного оборудования. [17]

MIRI придерживается принципов и целей движения эффективного альтруизма . [18]

Работы сотрудников МИРИ

[ редактировать ]

См. также

[ редактировать ]
  1. ^ Jump up to: а б «МИРИ: Искусственный интеллект: опасность добрых намерений - Институт будущего жизни» . Институт будущего жизни . 11 октября 2015 г. Архивировано из оригинала 28 августа 2018 г. Проверено 28 августа 2018 г.
  2. ^ Jump up to: а б Хачадурян, Раффи. «Изобретение Судного дня» . Житель Нью-Йорка . Архивировано из оригинала 29 апреля 2019 г. Проверено 28 августа 2018 г.
  3. ^ Jump up to: а б с Уотерс, Ричард (31 октября 2014 г.). «Искусственный интеллект: машина против человека» . Файнэншл Таймс . Архивировано из оригинала 27 августа 2018 года . Проверено 27 августа 2018 г.
  4. ^ Абате, Том (2006). «Умнее тебя?» . Хроники Сан-Франциско . Архивировано из оригинала 11 февраля 2011 года . Проверено 12 октября 2015 г.
  5. ^ Абате, Том (2007). «Общественное собрание пересмотрит будущее искусственного интеллекта» . Хроники Сан-Франциско . Архивировано из оригинала 14 января 2016 года . Проверено 12 октября 2015 г.
  6. ^ Касте, Мартин (11 января 2011 г.). «Сингулярность: последнее изобретение человечества?» . Учитывая все обстоятельства, NPR . Архивировано из оригинала 28 августа 2018 года . Проверено 28 августа 2018 г.
  7. ^ «Пресс-релиз: Университет Сингулярности приобретает саммит Сингулярности» . Университет Сингулярности . 9 декабря 2012 года. Архивировано из оригинала 27 апреля 2019 года . Проверено 28 августа 2018 г.
  8. ^ «Пресс-релиз: Теперь мы являемся «Machine Intelligence Research Institute» (MIRI) — Научно-исследовательский институт машинного интеллекта» . Научно-исследовательский институт машинного интеллекта . 30 января 2013 г. Архивировано из оригинала 23 сентября 2018 г. Проверено 28 августа 2018 г.
  9. ^ Тегмарк, Макс (2017). Жизнь 3.0: Быть человеком в эпоху искусственного интеллекта . США: Кнопф . ISBN  978-1-101-94659-6 .
  10. ^ «Научно-исследовательский институт машинного интеллекта — Общая поддержка (2019)» . Открытый благотворительный проект . 2019-03-29. Архивировано из оригинала 08.10.2019 . Проверено 8 октября 2019 г.
  11. ^ «Научно-исследовательский институт машинного интеллекта — Общая поддержка (2020)» . Открытый благотворительный проект. 10 марта 2020 г. Архивировано из оригинала 13 апреля 2020 г.
  12. ^ Бенсингер, Роб (27 апреля 2020 г.). «Самый крупный грант MIRI на сегодняшний день!» . МИРИ. Архивировано из оригинала 27 апреля 2020 года . Проверено 27 апреля 2020 г.
  13. ^ Махешвари, Суяш (13 мая 2021 г.). «Создатель Ethereum Виталик Бутерин жертвует 1,5 миллиарда долларов в криптовалюте Индийскому фонду помощи COVID и другим благотворительным организациям» . МСН . Архивировано из оригинала 24 августа 2021 г. Проверено 23 января 2023 г.
  14. ^ Jump up to: а б ЛаФранс, Адриенн (2015). «Создание роботов с моралью выше, чем у людей» . Атлантика . Архивировано из оригинала 19 августа 2015 года . Проверено 12 октября 2015 г.
  15. ^ Рассел, Стюарт ; Норвиг, Питер (2009). Искусственный интеллект: современный подход . Прентис Холл. ISBN  978-0-13-604259-4 .
  16. ^ Сатиан, Санджена (4 января 2016 г.). «Самые важные философы нашего времени проживают в Кремниевой долине» . ОЗЫ . Архивировано из оригинала 29 июля 2018 года . Проверено 28 июля 2018 г.
  17. ^ Сюй, Джереми (2015). «Убедиться, что быстрый рост ИИ не является сюрпризом» . Обнаружить . Архивировано из оригинала 12 октября 2015 года . Проверено 12 октября 2015 г.
  18. ^ «ИИ и эффективный альтруизм» . Научно-исследовательский институт машинного интеллекта . 28 августа 2015 г. Архивировано из оригинала 08.10.2019 . Проверено 8 октября 2019 г.

Дальнейшее чтение

[ редактировать ]
[ редактировать ]
Arc.Ask3.Ru: конец переведенного документа.
Arc.Ask3.Ru
Номер скриншота №: 8460016e8751d480af43670a4656cc06__1718341320
URL1:https://arc.ask3.ru/arc/aa/84/06/8460016e8751d480af43670a4656cc06.html
Заголовок, (Title) документа по адресу, URL1:
Machine Intelligence Research Institute - Wikipedia
Данный printscreen веб страницы (снимок веб страницы, скриншот веб страницы), визуально-программная копия документа расположенного по адресу URL1 и сохраненная в файл, имеет: квалифицированную, усовершенствованную (подтверждены: метки времени, валидность сертификата), открепленную ЭЦП (приложена к данному файлу), что может быть использовано для подтверждения содержания и факта существования документа в этот момент времени. Права на данный скриншот принадлежат администрации Ask3.ru, использование в качестве доказательства только с письменного разрешения правообладателя скриншота. Администрация Ask3.ru не несет ответственности за информацию размещенную на данном скриншоте. Права на прочие зарегистрированные элементы любого права, изображенные на снимках принадлежат их владельцам. Качество перевода предоставляется как есть. Любые претензии, иски не могут быть предъявлены. Если вы не согласны с любым пунктом перечисленным выше, вы не можете использовать данный сайт и информация размещенную на нем (сайте/странице), немедленно покиньте данный сайт. В случае нарушения любого пункта перечисленного выше, штраф 55! (Пятьдесят пять факториал, Денежную единицу (имеющую самостоятельную стоимость) можете выбрать самостоятельно, выплаичвается товарами в течение 7 дней с момента нарушения.)