Институт искусственного интеллекта сейчас
 | |
| Основан | 15 ноября 2017 г |
|---|---|
| Основатели | Кейт Кроуфорд , Мередит Уиттакер |
| Тип | 501(c)(3) Некоммерческая организация |
| Расположение | |
| Координаты | 40 ° 44'06 "N 73 ° 59'41" W / 40,7350 ° N 73,9948 ° W |
| Веб-сайт | www |
Институт AI Now ( AI Now ) — американский исследовательский институт, изучающий социальные последствия искусственного интеллекта и политические исследования, направленные на решение проблемы концентрации власти в технологической отрасли. [ 2 ] [ 3 ] [ 4 ] AI Now сотрудничает с такими организациями, как Исследовательский институт распределенного искусственного интеллекта (DAIR) , Data & Society, Институт Ады Лавлейс, Инженерная школа Тандон Нью-Йоркского университета , Центр науки о данных Нью-Йоркского университета , Партнерство по искусственному интеллекту и ACLU . AI Now выпускает ежегодные отчеты, в которых исследуются социальные последствия искусственного интеллекта . В 2021–2020 годах руководство AI Now занимало должность старшего советника по искусственному интеллекту у председателя Лины Хан в Федеральной торговой комиссии. [ 5 ] Его исполнительный директор — Амба Как . [ 6 ] [ 7 ]
Основание и миссия
[ редактировать ]AI Now вырос из симпозиума 2016 года, организованного Управлением по науке и технологической политике Белого дома Обамы . Мероприятие провели Мередит Уиттакер , основательница группы открытых исследований Google , и Кейт Кроуфорд , главный научный сотрудник Microsoft Research. [ 8 ] Мероприятие было посвящено краткосрочным последствиям ИИ в социальных сферах: неравенство, труд, этика и здравоохранение. [ 9 ]
В ноябре 2017 года AI Now провела второй симпозиум по искусственному интеллекту и социальным вопросам и публично запустила Институт AI Now в партнерстве с Нью-Йоркским университетом. [ 8 ] Утверждается, что это первый университетский исследовательский институт, занимающийся социальными последствиями ИИ, а также первый институт ИИ, основанный и возглавляемый женщинами. [ 1 ] Теперь это полностью независимый институт.
В интервью NPR Кроуфорд заявил, что мотивацией для создания AI Now было то, что применение ИИ в социальных сферах, таких как здравоохранение, образование и уголовное правосудие, рассматривалось как чисто техническая проблема. Цель исследования AI Now — в первую очередь рассматривать их как социальные проблемы и привлечь экспертов в таких областях, как социология, право и история, для изучения последствий ИИ. [ 10 ]
Исследовать
[ редактировать ]AI Now публикует ежегодные отчеты о состоянии ИИ и его интеграции в общество. В отчете за 2017 год говорится, что «нынешние рамки этики ИИ терпят неудачу», и представлены десять стратегических рекомендаций для этой области, включая предварительные испытания систем ИИ, а также усиление исследований предвзятости и разнообразия в этой области. Отчет был отмечен призывом положить конец системам « черных ящиков » в основных социальных сферах, таких как те, кто отвечает за уголовное правосудие, здравоохранение, социальное обеспечение и образование. [ 11 ] [ 12 ] [ 13 ]
В апреле 2018 года AI Now выпустила систему алгоритмической оценки воздействия, позволяющую правительствам оценивать использование ИИ в государственных учреждениях. По мнению AI Now, AIA будет похожа на оценку воздействия на окружающую среду , поскольку потребует публичного раскрытия информации и доступа внешних экспертов для оценки воздействия системы ИИ, а также любых непредвиденных последствий. Это позволит проверять системы на наличие таких проблем, как предвзятые результаты или искаженные данные обучения, которые исследователи уже выявили в алгоритмических системах, развернутых по всей стране. [ 14 ] [ 15 ] [ 16 ]
Отчет за 2023 год [ 17 ] утверждал, что значимая реформа технологического сектора должна быть сосредоточена на решении проблемы концентрации власти в технологической отрасли. [ 18 ]
Ссылки
[ редактировать ]- ^ Перейти обратно: а б «Открывается новый научно-исследовательский институт искусственного интеллекта» . Новости Нью-Йоркского университета Тандон . 25 ноября 2017 г. Проверено 7 июля 2018 г.
- ^ "О нас" . Институт AI Now . Проверено 12 мая 2023 г.
- ^ «Область исследований ИИ скоро выйдет за рамки кода» . Кварц . 15 ноября 2017 г. Проверено 9 июля 2018 г.
- ^ «Предвзятый ИИ представляет собой угрозу гражданским свободам. У ACLU есть план, как это исправить» . Компания Фаст . 25 июля 2017 г. Проверено 7 июля 2018 г.
- ^ «Председатель Федеральной торговой комиссии Лина М. Хан объявляет о новых назначениях на руководящие должности агентства» . Федеральная торговая комиссия . 19 ноября 2021 г. Проверено 12 мая 2023 г.
- ^ «Amazon, Google, Meta, Microsoft и другие технологические компании соглашаются с мерами защиты ИИ, установленными Белым домом» . АП Новости . 21 июля 2023 г. Проверено 21 июля 2023 г.
- ^ "Люди" . Институт AI Now . Проверено 21 июля 2023 г.
- ^ Перейти обратно: а б Ахмед, Салмана. «В поисках справедливого и подотчетного ИИ» . Омидьяр . Проверено 19 июля 2018 г.
- ^ «Симпозиум 2016» . ainowinstitute.org . Архивировано из оригинала 20 июля 2018 г. Проверено 9 июля 2018 г.
- ^ «Изучение искусственного интеллекта в Нью-Йоркском университете» . ЭНЕРГЕТИЧЕСКИЙ ЯДЕРНЫЙ РЕАКТОР . Проверено 18 июля 2018 г.
- ^ «Отчет AI Now за 2017 год» . ИИ сейчас. 18 октября 2017 г. Проверено 19 июля 2018 г.
- ^ Симоните, Том (18 октября 2017 г.). «Эксперты по искусственному интеллекту хотят положить конец алгоритмам «черного ящика» в правительстве» . Проводной . Проверено 19 июля 2018 г.
- ^ Розенберг, Скотт (1 ноября 2017 г.). «Почему ИИ все еще ждет трансплантации своей этики» . Проводной . Проверено 19 июля 2018 г.
- ^ Гершгорн, Дэйв (9 апреля 2018 г.). «Эксперты по искусственному интеллекту хотят, чтобы правительственные алгоритмы изучались так же, как и экологические опасности» . Кварц . Проверено 19 июля 2018 г.
- ^ «Отчет AI Now AIA» (PDF) . ИИ сейчас. Архивировано из оригинала (PDF) 14 июня 2020 года . Проверено 19 июля 2018 г.
- ^ Райсман, Диллон (16 апреля 2018 г.). «Алгоритмы принимают правительственные решения. Общественность должна иметь право голоса» . Середина . АКЛУ . Проверено 19 июля 2018 г.
- ^ «2023 Пейзаж» . Институт AI Now . Проверено 16 мая 2023 г.
- ^ Сэмюэл, Сигал (12 апреля 2023 г.). «Наконец-то, реалистичная дорожная карта для контроля над компаниями, занимающимися искусственным интеллектом» . Вокс . Проверено 16 мая 2023 г.