Дебора Раджи
Иниолува Дебора Раджи | |
|---|---|
 | |
| Рожденный | 1995/1996 (28–29 лет) |
| Национальность | Канадский |
| Альма-матер | Университет Торонто |
| Известный | Алгоритмическое смещение Справедливость (машинное обучение) Алгоритмический аудит и оценка |
| Научная карьера | |
| Поля | Информатика |
| Учреждения | Фонд Мозиллы Партнерство в сфере ИИ Институт искусственного интеллекта сейчас Медиалаборатория Массачусетского технологического института |
Иниолува Дебора Раджи (1995/1996 г.р.) [1] ) — нигерийско-канадский ученый-компьютерщик и активист, занимающийся вопросами алгоритмической предвзятости , подотчетности ИИ и алгоритмического аудита. Ранее Раджи работал с Джой Буоламвини , Тимнитом Гебру и Алгоритмической Лигой Справедливости над исследованием гендерных и расовых предубеждений в технологии распознавания лиц. [2] Она также работала с командой Google по этическому искусственному интеллекту и была научным сотрудником в Институте партнерства по искусственному интеллекту и AI Now при Нью-Йоркском университете, работая над тем, как реализовать этические соображения в инженерной практике машинного обучения. [3] Нынешний научный сотрудник Mozilla , она была признана MIT Technology Review и Forbes одним из лучших молодых новаторов в мире. [4] [5]
Ранняя жизнь и образование
[ редактировать ]Раджи родилась в Порт-Харкорте , Нигерия , и переехала в Миссиссогу , Онтарио , Канада, когда ей было четыре года. В конце концов ее семья переехала в Оттаву . [4] Она изучала инженерные науки в Университете Торонто , который окончила в 2019 году. [6] [7] В 2015 году она основала Project Include, некоммерческую организацию, обеспечивающую расширенный доступ студентов к инженерному образованию, наставничеству и ресурсам в общинах с низкими доходами и иммигрантами в районе Большого Торонто . [8] Она получила степень доктора философии в области компьютерных наук в Калифорнийском университете в Беркли. [9] в августе 2021 года.
Карьера и исследования
[ редактировать ]Раджи работала с Джой Буоламвини в Медиа-лаборатории MIT и Лиге алгоритмической справедливости , где она проверяла коммерческие технологии распознавания лиц от Microsoft, Amazon, IBM, Face++ и Kairos. [10] Они обнаружили, что эти технологии были значительно менее точны для темнокожих женщин, чем для белых мужчин. [6] [11] При поддержке других ведущих исследователей искусственного интеллекта, а также возросшем общественном давлении и кампаниях их работа привела к тому, что IBM и Amazon согласились поддержать регулирование распознавания лиц, а затем приостановили продажу своего продукта полиции как минимум на год. [5] [12] [13] [14] Раджи также проходила стажировку в стартапе по машинному обучению Clarifai , где работала над моделью компьютерного зрения для маркировки изображений. [1]
Она участвовала в исследовательской программе наставничества в Google и работала с их командой по этическому искусственному интеллекту над созданием карточек моделей — структуры документации для более прозрачной отчетности по моделям машинного обучения. Она также участвовала в разработке методов внутреннего аудита в Google. [1] Ее вклад в Google был отдельно представлен и опубликован на конференции AAAI и конференции ACM по вопросам справедливости, подотчетности и прозрачности . [15] [16] [17]
В 2019 году Раджи работал летним научным сотрудником в Партнерстве по искусственному интеллекту, работая над установлением отраслевых стандартов прозрачности машинного обучения и норм сравнительного анализа. [18] [19] Раджи был техническим научным сотрудником в Институте искусственного интеллекта и занимался алгоритмами и аудитом искусственного интеллекта. В настоящее время она является научным сотрудником Mozilla Foundation , занимающимся исследованием алгоритмического аудита и оценки. [3]
Работа Раджи над предвзятостью в системах распознавания лиц была освещена в документальном фильме 2020 года «Закодированное смещение», снятом Шалини Кантайей . [20]
Избранные награды
[ редактировать ]- AI Innovations Award 2019 Премия Venture Beat в категории «ИИ во благо» (получена совместно с Джой Буоламвини и Тимнитом Гебру ) [21]
- 2020 Премия MIT Technology Review 35 Under 35 Innovator Award [4]
- 2020 Премия EFF Pioneer Award (получена вместе с Буоламвини и Гебру) [22]
- 30 до 30 2021 года Премия Forbes в области корпоративных технологий [5]
- Лауреат Зала славы этики искусственного интеллекта 2021 г.: 100 блестящих женщин [23]
- , 2023 г. Журнал Time , 100 самых влиятельных людей в области искусственного интеллекта [24]
Ссылки
[ редактировать ]- ^ Перейти обратно: а б с Хао, Карен (17 июня 2020 г.). «Иниолува Дебора Раджи» . Обзор технологий Массачусетского технологического института . Проверено 27 февраля 2021 г.
- ^ Шваб, Кэтрин (26 февраля 2021 г.). « Это больше, чем просто Timnit»: как Google пытался заставить замолчать критика и разжег движение» . Компания Фаст . Архивировано из оригинала 26 февраля 2021 г.
- ^ Перейти обратно: а б «Mozilla приветствует двух новых специалистов в области надежного искусственного интеллекта» . Фонд Мозилла . 16.10.2020 . Проверено 27 февраля 2021 г.
- ^ Перейти обратно: а б с «Иниолува Дебора Раджи | Новаторы до 35 лет» . www.innovatorsunder35.com . Проверено 26 февраля 2021 г.
- ^ Перейти обратно: а б с «Иниолува Дебора Раджи — Forbes 30 до 30» . Форбс . Архивировано из оригинала 01 декабря 2020 г. Проверено 27 февраля 2021 г.
- ^ Перейти обратно: а б «Она привлекает компании к ответственности за предвзятую технологию искусственного интеллекта для лица» . Инженерные новости Университета Т. 11 февраля 2019 г. Проверено 26 февраля 2021 г.
- ^ «Выпускница Университета инженерного дела Иниолува Дебора Раджи включена в список лучших новаторов в возрасте до 35 лет по версии MIT Technology Review» . Инженерные новости Университета Т. 23 июня 2020 г. Проверено 27 февраля 2021 г.
- ^ «Дебора Раджи из Mozilla в рейтинге Forbes 30 до 30 лет, наставничество в области искусственного интеллекта и многое другое» . Блог RE•WORK — Новости искусственного интеллекта и глубокого обучения . 03 февраля 2021 г. Проверено 27 февраля 2021 г.
- ^ https://www.linkedin.com/in/deborah-raji-065751b2
- ^ «Практический аудит: исследование влияния публичного обозначения предвзятых результатов производительности коммерческих продуктов искусственного интеллекта» (PDF) . Материалы конференции AAAI/ACM 2019 г. по искусственному интеллекту, этике и обществу : 429–435. 27 января 2019 г.
- ^ Певица Наташа (25.01.2019). «Amazon продвигает технологии для лица, которые, по данным исследования, могут быть предвзятыми (опубликовано в 2019 г.)» . Нью-Йорк Таймс . ISSN 0362-4331 . Проверено 27 февраля 2021 г.
- ^ Хайльвайль, Ребекка (10 июня 2020 г.). «Почему так важно, что IBM уходит из бизнеса по распознаванию лиц» . Вокс . Проверено 27 февраля 2021 г.
- ^ «IBM отказалась от распознавания лиц. А как насчет Amazon и Microsoft?» . ВенчурБит . 10.06.2020 . Проверено 27 февраля 2021 г.
- ^ «Двухлетняя борьба за то, чтобы помешать Amazon продавать полиции системы распознавания лиц» . Обзор технологий Массачусетского технологического института . Проверено 27 февраля 2021 г.
- ^ Раджи, Иниолува Дебора; Гебру, Тимнит; Митчелл, Маргарет; Буоламвини, Джой; Ли, Джунсок; Дентон, Эмили (03 января 2020 г.). «Спасение лица: исследование этических проблем аудита распознавания лиц». arXiv : 2001.00964 [ cs.CY ].
- ^ Раджи, Иниолува Дебора; Умный, Эндрю; Уайт, Ребекка Н.; Митчелл, Маргарет; Гебру, Тимнит; Хатчинсон, Бен; Смит-Лауд, Джамила; Терон, Дэниел; Барнс, Паркер (3 января 2020 г.). «Устранение разрыва в подотчетности ИИ: определение комплексной структуры для внутреннего алгоритмического аудита». arXiv : 2001.00973 [ cs.CY ].
- ^ Митчелл, Маргарет; Ву, Симона; Залдивар, Эндрю; Барнс, Паркер; Вассерман, Люси; Хатчинсон, Бен; Спитцер, Елена; Раджи, Иниолува Дебора; Гебру, Тимнит (29 января 2019 г.). «Карточки моделей для модельной отчетности». Материалы конференции по справедливости, подотчетности и прозрачности . стр. 220–229. arXiv : 1810.03993 . дои : 10.1145/3287560.3287596 . ISBN 9781450361255 . S2CID 52946140 .
- ^ Сян, Алиса; Раджи, Иниолува Дебора (25 ноября 2019 г.). «О юридической совместимости определений справедливости». arXiv : 1912.00761 [ cs.CY ].
- ^ «О лице: исследование оценки распознавания лиц» . ДипАИ . 01.02.2021 . Проверено 26 февраля 2021 г.
- ^ «Закодированная предвзятость: режиссер Шалини Кантайя об устранении серьезных недостатков распознавания лиц» . Стэнфорд ХАЙ . 14 сентября 2020 г. Проверено 15 марта 2021 г.
- ^ «Победители инноваций в области искусственного интеллекта объявлены в Сан-Франциско» . Инновационная матрица . 12 июля 2019 г. Архивировано из оригинала 09.12.2020 . Проверено 27 февраля 2021 г.
- ^ «Церемония вручения премии «Пионер 2020» . Фонд электронных границ . 24 августа 2020 г. Проверено 27 февраля 2021 г.
- ^ "Зал славы" . 100 блестящих женщин в области этики искусственного интеллекта™ . Проверено 27 февраля 2021 г.
- ^ Шоу, Симмоне (7 сентября 2023 г.). «Иниолува Дебора Раджи» . Время . Проверено 3 октября 2023 г.
| Базы данных авторитетного контроля : академики |
|---|
- Живые люди
- рождения 1990-х годов
- Исследователи искусственного интеллекта
- Выпускники Университета Торонто
- Люди Мозиллы
- Канадские ученые-компьютерщики
- Люди из Миссиссоги
- Ученые из Онтарио
- Исследователи машинного обучения
- Медиалаборатория Массачусетского технологического института
- Программное обеспечение для распознавания лиц
- Канадские женщины-компьютерщики
- Исследователи компьютерного зрения
- Чернокожие канадские учёные
- Чернокожие канадские женщины
- Нигерийские эмигранты в Канаду