Центр совместимого с человеком искусственного интеллекта
 | |
| Формирование | 2016 |
|---|---|
| Штаб-квартира | Беркли, Калифорния |
Лидер | Стюарт Дж. Рассел |
Головная организация | Калифорнийский университет, Беркли |
| Веб-сайт | совместимый с человеком |
Центр совместимого с человеком искусственного интеллекта ( CHAI ) — это исследовательский центр Калифорнийского университета в Беркли, специализирующийся на передовых искусственного интеллекта (ИИ) методах безопасности . Центр был основан в 2016 году группой ученых во главе с Беркли профессором информатики и экспертом по искусственному интеллекту Стюартом Дж. Расселом . [1] [2] Рассел известен как соавтор широко используемого учебника по искусственному интеллекту « Искусственный интеллект: современный подход» .
В состав преподавателей CHAI входят Рассел , Питер Аббил и Анка Драган из Беркли , Барт Селман и Джозеф Халперн из Корнелла , [3] Майкл Веллман и Сатиндер Сингх Баведжа из Мичиганского университета , а также Том Гриффитс и Таня Ломброзо из Принстона . [4] В 2016 году проект Open Philanthropy Project (OpenPhil) рекомендовал Good Ventures предоставить поддержку CHAI в размере 5 555 550 долларов США в течение пяти лет. [5] С тех пор CHAI получила дополнительные гранты от OpenPhil и Good Ventures на сумму более 12 000 000 долларов США, в том числе на сотрудничество со Всемирным экономическим форумом и Глобальным советом по искусственному интеллекту. [6] [7] [8]
Исследования [ править ]
Подход CHAI к исследованиям безопасности ИИ фокусируется на стратегиях выравнивания ценностей, в частности на обучении с обратным подкреплением , в котором ИИ выводит человеческие ценности на основе наблюдения за человеческим поведением. [9] Он также работал над моделированием взаимодействия человека и машины в сценариях, где у интеллектуальных машин есть «выключатель», который они способны отключить. [10]
См. также [ править ]
- Экзистенциальный риск от общего искусственного интеллекта
- Институт будущего человечества
- Институт будущего жизни
- Совместимость с человеком
- Научно-исследовательский институт машинного интеллекта
Ссылки [ править ]
- ^ Норрис, Джеффри (29 августа 2016 г.). «Калифорнийский университет в Беркли открывает Центр совместимого с человеком искусственного интеллекта» . Проверено 27 декабря 2019 г.
- ^ Солон, Оливия (30 августа 2016 г.). «Расцвет роботов: забудьте о злом искусственном интеллекте – реальный риск гораздо более коварный» . Хранитель . Проверено 27 декабря 2019 г.
- ^ Корнеллский университет . «Человекосовместимый ИИ» . Проверено 27 декабря 2019 г.
- ^ Центр совместимого с человеком искусственного интеллекта. "Люди" . Проверено 27 декабря 2019 г.
- ^ Открытый проект благотворительности (август 2016 г.). «Калифорнийский университет в Беркли — Центр ИИ, совместимого с человеком (2016)» . Проверено 27 декабря 2019 г.
- ^ Открытый благотворительный проект (ноябрь 2019 г.). «Калифорнийский университет в Беркли — Центр ИИ, совместимого с человеком (2019)» . Проверено 27 декабря 2019 г.
- ^ «Калифорнийский университет в Беркли — Центр совместимого с человеком искусственного интеллекта (2021)» . openphilanthropy.org .
- ^ «Всемирный экономический форум — Семинар Глобального совета по искусственному интеллекту» . Открытая благотворительность . Апрель 2020 г. Архивировано из оригинала 1 сентября 2023 г. Проверено 1 сентября 2023 г.
- ^ Конн, Ариэль (31 августа 2016 г.). «Новый центр ИИ, совместимого с человеком» . Институт будущего жизни . Проверено 27 декабря 2019 г.
- ^ Бридж, Марк (10 июня 2017 г.). «Снижение уверенности роботов может помешать им взять верх» . Таймс .
Внешние ссылки [ править ]
 | Эта статья об организации в США незавершена . Вы можете помочь Википедии, расширив ее . |