Джой Буоламвини
Джой Буоламвини | |
---|---|
![]() Жизнь в Викимании | |
Рожденный | Радость Адоваа Христианство 1989 или 1990 (33–34 года) |
Образование | Средняя школа Кордовы |
Альма-матер | Технологический институт Джорджии ( BS ) Колледж Иисуса, Оксфорд ( MS ) Массачусетский технологический институт ( MS , PhD ) |
Известный | Алгоритмическая Лига Справедливости |
Научная карьера | |
Поля | Медиа-искусства и науки Информатика Алгоритмическое смещение |
Учреждения | Медиалаборатория Массачусетского технологического института |
Тезисы | |
Докторантура | Итан Цукерман [1] |
Веб-сайт | www |
Джой Адоваа Буоламвини — канадско-американский ученый-компьютерщик и цифровой активист, ранее работавшая в Медиа-лаборатории Массачусетского технологического института . [2] Она основала Лигу алгоритмической справедливости (AJL), организацию, которая борется с предвзятостью в программном обеспечении для принятия решений , используя искусство, пропаганду и исследования, чтобы подчеркнуть социальные последствия и вред искусственного интеллекта (ИИ). [3]
Молодость образование и
Буоламвини родился в Эдмонтоне , Альберта, вырос в Миссисипи и учился в средней школе Кордова в Кордове, штат Теннесси. [4] В девять лет она была вдохновлена Кисметом , роботом Массачусетского технологического института , и сама выучила XHTML , JavaScript и PHP . [5] [6] Она была конкурентоспособной прыгуньей с шестом [7] а также занимался легкой атлетикой и баскетболом. В эпизоде подкаста, который она записала в шоу Брене Браун «Dare to Lead», она вспоминает, как выполняла домашнее задание по физике между баскетбольными перерывами. [8]
Будучи студенткой, Буоламвини изучала информатику в Технологическом институте Джорджии , где она исследовала информатику здравоохранения . [9] Буоламвини получил степень стипендиата президента марки. [10] из Технологического института Джорджии в 2012 году, [11] и был самым молодым финалистом премии Georgia Tech InVenture Prize в 2009 году. [12]
Буоламвини — стипендиат Родса , стипендиат Фулбрайта , стипендиат марок , стипендиат астронавтов и стипендиат Института Аниты Борг . [13] Будучи стипендиатом Родса , она изучала обучение и технологии в Оксфордском университете , где она была студенткой колледжа Иисуса в Оксфорде . [14] [15] Во время получения стипендии она приняла участие в первом официальном Году службы, работая над проектами, ориентированными на сообщество. [15] [16] В 2017 году она получила степень магистра медиаискусства и наук Массачусетского технологического института за исследования под руководством Итана Цукермана . [1] В 2022 году она получила степень доктора медиаискусства и наук в Медиалаборатории Массачусетского технологического института, защитив диссертацию на тему « Как противостоять закодированному взгляду с помощью вызывающих воспоминания аудитов и алгоритмических аудитов» . [17]
и исследования Карьера
В 2011 году Буоламвини работал с программой по трахоме в Центре Картера над разработкой системы оценки на базе Android для использования в Эфиопии. [18] [5]

Будучи стипендиатом программы Фулбрайта, в 2013 году она работала с местными учеными-компьютерщиками в Замбии, помогая замбийской молодежи стать создателями технологий. [19] 14 сентября 2016 года Буоламвини появился на саммите Белого дома по теме «Компьютерные науки для всех». [ нужна ссылка ]
Она является исследователем в Медиа-лаборатории Массачусетского технологического института , где занимается выявлением предвзятости в алгоритмах и разработкой методов подотчетности во время их разработки; [20] В лаборатории Буоламвини является членом Итана Цукермана группы Центра гражданских медиа . [21] [22] В ходе своего исследования Буоламвини показала 1000 лиц системам распознавания лиц и попросила системы определить, являются ли лица женщинами или мужчинами, и обнаружила, что программному обеспечению трудно идентифицировать темнокожих женщин. [23] Ее проект Gender Shades стал частью ее диссертации в Массачусетском технологическом институте. [1] [24] Ее статья 2018 года « Гендерные оттенки: различия в межсекционной точности в коммерческой гендерной классификации». [25] вызвал реакцию IBM и Microsoft , которые быстро улучшили свое программное обеспечение. [26] [27] Она также создала Aspire Mirror — устройство, которое позволяет пользователям видеть свое отражение в зависимости от того, что их вдохновляет. [28] Ее программа «Лига алгоритмической справедливости» направлена на то, чтобы подчеркнуть предвзятость кодекса, которая может привести к дискриминации недостаточно представленных групп. [29] Она создала два фильма: Code4Rights и Algorithmic Justice League: Unmasking Bias . [30] [31] Она работала главным техническим директором (CTO) в Techturized Inc., компании, занимающейся технологиями ухода за волосами. [9]
В 2020 году исследование Буоламвини было отмечено как оказавшее влияние на Google и Microsoft в борьбе с гендерными и расовыми предрассудками в их продуктах и процессах. [32]
Она также работала советником президента Байдена его администрации в преддверии Указа № 14110 , опубликованного 30 октября 2023 года. Этот указ также известен как Указ о безопасной, надежной и заслуживающей доверия разработке и использовании искусственного интеллекта (иногда называемый «Указ об искусственном интеллекте»). [33] [34]
В 2023 году она опубликовала свою первую книгу « Разоблачение ИИ: моя миссия по защите того, что является человеком в мире машин», в которой рассказывается о ее исследованиях . [35]
Активизм [ править ]
Буоламвини основал Лигу алгоритмической справедливости (AJL) в 2016 году с целью продвижения справедливого и подотчетного искусственного интеллекта (ИИ). [36] Организация AJL объединяет искусство и исследования, чтобы указать на потенциальные социальные последствия и вред ИИ. Компания работает над повышением осведомленности общественности о влиянии ИИ и содействием дальнейшим исследованиям в этой области.
Веб-сайт AJL предоставляет информацию и ведет живой блог. [37] На сайте есть несколько разделов, где пользователи могут делиться историями, делать пожертвования или писать представителям Конгресса США. В 2019 году Буоламвини свидетельствовал перед комитетом Палаты представителей США по надзору и реформам о рисках технологии распознавания лиц. [38]
Стирание озвучивания [ править ]
В разделе Voicing Erasure на веб-сайте AJL размещены высказывания Буоламвини, Эллисон Кенеке , Сафии Ноубл , Рухи Бенджамин , Кимберли Креншоу , Меган Смит и Саши Костанца-Чок о предвзятости голосовых систем. [39] [40] Буоламвини и Кенеке — ведущие исследователи сайта, работающие над выявлением предвзятости голосовых систем. Они написали, что системам распознавания речи больше всего проблем с афроамериканцами, говорящими на английском языке, и что эти системы тайно прослушивают разговоры пользователей. [ нужна ссылка ] Они также писали о том, что они считают вредными гендерными стереотипами, увековеченными системами распознавания голоса в Siri , Amazon Alexa и Microsoft Cortana . [ нужна ссылка ]
Закодированный взгляд [ править ]
«Закодированный взгляд» — мини-документальный фильм, дебютировавший в Музее изящных искусств в Бостоне в 2016 году и в настоящее время доступный на YouTube . Буоламвини использует этот мини-документальный фильм, чтобы рассказать о предвзятости, которая, по ее мнению, кроется в функциях искусственного интеллекта. Вдохновение для создания мини-документального фильма и ее исследований пришло, когда она училась в Массачусетском технологическом институте и создавала свое произведение «Aspire Mirror», которое использует распознавание лиц, чтобы отобразить на лице другого человека, вдохновляющего пользователя. [41] Буоламвини ожидал, что на ее лице отразится Серена Уильямс , еще одна темнокожая женщина. Однако технология не распознала ее лицо. Исследование Буоламвини выясняло, почему это произошло, и, следовательно, привело Буоламвини к выводу, что исключение людей, похожих на нее, было результатом практики, которую она назвала «Закодированный взгляд». [42] Далее она обсуждает эту концепцию в мини-документальном фильме «Закодированный взгляд». Документальный фильм исследует, как ИИ может быть подвержен расовым и гендерным предубеждениям, которые отражают взгляды и культурное происхождение тех, кто его разрабатывает. [43]
смещение Кодированное
«Закодированное смещение» — документальный фильм режиссера Шалини Кантайи , в котором рассказывается об исследовании Буоламвини неточностей искусственного интеллекта в технологии распознавания лиц и программном обеспечении для автоматической оценки. [44] [37] В нем основное внимание уделяется тому, что создатели фильма считают отсутствием регулирования инструментов распознавания лиц, продаваемых IBM , Microsoft и Amazon , и что, по их словам, увековечивает расовую и гендерную предвзятость. В фильме описывается спор между арендаторами Бруклина и компанией по управлению зданием, которая пыталась использовать распознавание лиц для контроля входа в здание. В фильме приняли участие «Оружия математического разрушения» автор Кэти О'Нил и члены Big Brother Watch в Лондоне, в том числе Силки Карло . 5 апреля 2021 года документальный фильм был доступен для просмотра на Netflix . [45]
Выставки [ править ]
Проекты Алгоритмической Лиги Справедливости выставлялись в художественных учреждениях, включая Барбикан-центр в Лондоне, Великобритания, и Ars Electronica в Линце, Австрия. [46]
- Выставка «Тип преступника » (2019) в APEXART , Нью-Йорк, США. [47]
- Понимание AI (2019) Выставка в Ars Electronica Center , Линц, Австрия [48]
- Выставка AI: Больше, чем человек (2019) в Барбикан-центре , Лондон, Великобритания [49]
- Девять моментов на данный момент (2018) Выставка в Центре Хатчинса , Гарвардский университет, Кембридж, Массачусетс, США [50]
- Выставка Big Bang Data (2018) в Музее Массачусетского технологического института , Кембридж, Массачусетс, США [51]
Награды и почести [ править ]
В 2017 году Буоламвини был удостоен главного приза в профессиональной категории конкурса «Поиск скрытых фигур» фильма «Скрытые фигуры» . , приуроченного к выходу в декабре 2016 года [52] Конкурс, спонсируемый PepsiCo и 21st Century Fox , был призван «помочь выявить следующее поколение женщин-лидеров в науке, технологиях, инженерном деле и математике». [53] и привлек 7300 заявок от молодых женщин со всей территории Соединенных Штатов. [11]
Буоламвини выступил тему на конференции TEDx с докладом на « Как я борюсь с предвзятостью в алгоритмах» . [54] [55] [56] В 2018 году она появилась на TED Radio Hour . [57] Она была представлена в сериале « Умные девчонки» Эми Полер в 2018 году. [4] Журнал Fast Company включил ее в число четырех «героев дизайна, защищающих демократию в Интернете». [58] В 2018 году она была включена в число 100 женщин BBC . [59]
В 2019 году Буоламвини был включен в Fortune список «50 величайших лидеров мира» по версии журнала за 2019 год. Журнал также назвал ее «совестью революции искусственного интеллекта». [60] Она также вошла в первый список Time 100 Next в 2019 году. [61] В 2020 году Буоламвини приняла участие в кампании по расширению прав и возможностей женщин компании по производству одежды Levi's , приуроченной к Международному женскому дню . [62] Она также была показана в документальном фильме Coded Bias . [63]
В 2022 году Буоламвини был назван медалистом ASQ Hutchens. [64] В 2023 году она вошла в список Time 100 AI. [65]
В 2024 году Буоламвини была удостоена почетной степени доктора наук Дартмутского колледжа за работу по выявлению предвзятостей в системах ИИ и предотвращению вреда, причиняемого ИИ. Ее также пригласили в качестве основного докладчика на Дартмутскую премию социальной справедливости 2024 года. [66]
Личная жизнь [ править ]
Буоламвини жил в Гане; Барселона, Испания; Оксфорд, Великобритания; а в США — Мемфис, штат Теннесси , и Атланта, штат Джорджия . [12] Она описывает себя как «дочь науки и искусства». [8] ее отец был академиком, а мать - художницей, а также поэтессой кода. [8]
Ссылки [ править ]
- ^ Jump up to: Перейти обратно: а б с Буоламвини, Джой Адоваа (2017). Гендерные оттенки: межсекционная фенотипическая и демографическая оценка наборов данных о лицах и гендерных классификаторов (дипломная работа MS). Массачусетский технологический институт. hdl : 1721.1/114068 . OCLC 1026503582 .
- ^ «Радость Буоламвини» . Forbes.com . Проверено 19 марта 2022 г.
- ^ «Алгоритмическая Лига Справедливости: разоблачение вреда и предубеждений ИИ» . Алгоритмическая Лига Справедливости: разоблачение вреда и предубеждений ИИ . Проверено 15 мая 2021 г.
- ^ Jump up to: Перейти обратно: а б «Будущее компьютерных наук и технологий: 12 молодых женщин, за которыми стоит следить — Часть 2» . amysmartgirls.com . Умные девчонки Эми Полер. 19 февраля 2018 года . Проверено 24 марта 2018 г.
- ^ Jump up to: Перейти обратно: а б «Джой Буоламвини | TryComputing.org» . попробуйтеcomputing.org . Архивировано из оригинала 25 марта 2018 года . Проверено 24 марта 2018 г.
- ^ «Познакомьтесь с цифровым активистом, который избавляет наши машины от человеческих предрассудков» . Bloomberg.com . 26 июня 2017 г. Проверено 24 марта 2018 г.
- ^ «CHS Прыжки с шестом — Джой Буоламвини» . vault.awardspace.com . Архивировано из оригинала 25 марта 2018 года . Проверено 24 марта 2018 г.
- ^ Jump up to: Перейти обратно: а б с https://open.spotify.com/episode/3eQoX2LMQkyASGHokzRMo9?si=9469d723072e4cee
- ^ Jump up to: Перейти обратно: а б «Технологический стартап недели: Techturized побеждает с компанией по уходу за волосами» . Чёрное предприятие . 15 марта 2013 года . Проверено 24 марта 2018 г.
- ^ «Программа президентских стипендий марок» . Stampsps.gatech.edu .
- ^ Jump up to: Перейти обратно: а б «Джой Буоламвини выигрывает национальный конкурс за свою работу по борьбе с предвзятостью в машинном обучении» . Новости МТИ . Проверено 24 марта 2018 г.
- ^ Jump up to: Перейти обратно: а б «Прием завоеван | Приз InVenture» . inventureprize.gatech.edu . Проверено 25 сентября 2021 г.
- ^ «В центре внимания ученых: Джой Буоламвини | Фонд стипендий астронавтов» . Проверено 25 сентября 2021 г.
- ^ Буоламвини, Джой Адоваа (2014). Расширение участия в последипломном образовании в области компьютерных наук: пример магистра компьютерных наук Технологического института Джорджии . ox.ac.uk (магистерская диссертация). Оксфордский университет. OCLC 908967245 .
- ^ Jump up to: Перейти обратно: а б «Профиль Джой Буоламвини» . www.rhodesproject.com . Проект Родос . Проверено 24 марта 2018 г.
- ^ «Оксфордская стартовая площадка: признания предпринимателя: Джой Буоламвини | Предприимчивый Оксфорд» . eship.ox.ac.uk . Архивировано из оригинала 25 марта 2018 года . Проверено 24 марта 2018 г.
- ^ Буоламвини, Джой (2022). Столкновение с закодированным взглядом с помощью вызывающих одитингов и алгоритмических аудитов . mit.edu (кандидатская диссертация). hdl : 1721.1/143396 .
- ^ «В центре внимания ученых: Джой Буоламвини | Фонд стипендий астронавтов» . astronautscholarship.org . Проверено 24 марта 2018 г.
- ^ ZamrizeMedia (28 апреля 2013 г.), Джой Буоламвини | Стипендиат Фулбрайта 2013 | Замбия , данные получены 24 марта 2018 г.
- ^ «Обзор проекта ‹ Алгоритмическая Лига справедливости – Медиа-лаборатория Массачусетского технологического института» . Медиалаборатория Массачусетского технологического института . Проверено 24 марта 2018 г.
- ^ «Интервью: Джой Буоламвини | Прием в Массачусетский технологический институт» . mitadmissions.org . 5 марта 2017 г. Проверено 24 марта 2018 г.
- ^ «Группа людей ‹ Гражданские СМИ – Медиа-лаборатория Массачусетского технологического института» . Медиалаборатория Массачусетского технологического института . Проверено 24 марта 2018 г.
- ^ «Фотоалгоритмы идентифицируют белых мужчин — хорошо, а чернокожих женщин — не очень» . проводной.com . Проводной журнал . Проверено 24 марта 2018 г.
- ^ Кляйнман, Зоя (14 апреля 2017 г.). «Является ли искусственный интеллект расизмом?» . bbc.co.uk. Новости Би-би-си . Проверено 24 марта 2018 г.
- ^ Буоламвини, Джой (2018). «Гендерные оттенки: различия в точности пересечений в коммерческой гендерной классификации» . Конференция по справедливости, подотчетности и прозрачности . 81 : 77–91 – через мир.пресс.
- ^ «Снижение предвзятости в моделях искусственного интеллекта (ИИ) — исследования IBM» . IBM.com . 16 мая 2016 г. Проверено 24 марта 2018 г.
- ^ «Гендерные оттенки: различия в точности в коммерческой гендерной классификации» (PDF) . Труды исследований машинного обучения . 2018 . Проверено 24 марта 2018 г.
- ^ «Стремитесь к зеркалу» . Стремитесь к зеркалу . Проверено 24 марта 2018 г.
- ^ Международное, Молодёжное радио – Молодёжные СМИ (28 февраля 2017 г.). «Поиск «скрытых фигур» приносит радость» . huffingtonpost.com . Хаффингтон Пост . Проверено 24 марта 2018 г.
- ^ «Сотрудничество кинематографистов | Code4Rights» . сайт Filmmakerscollab.org . Проверено 24 марта 2018 г.
- ^ «Сотрудничество кинематографистов | Алгоритмическая Лига справедливости: разоблачение предвзятости» . сайт Filmmakerscollab.org . Проверено 24 марта 2018 г.
- ^ 2 марта; Берт, 2020 | Крис (2 марта 2020 г.). «Технологические гиганты вынуждены последовать примеру Google и убрать гендерные ярлыки из сервисов компьютерного зрения» . biometricupdate.com . Биометрическое обновление . Проверено 9 марта 2020 г.
{{cite web}}
: CS1 maint: числовые имена: список авторов ( ссылка ) - ^ Боак, Джош; Press, MATT O'BRIEN Associated (30 октября 2023 г.). «Байден хочет быстро принять меры по защите ИИ и подписывает указ, призванный решить его проблемы» . Лос-Анджелес Таймс . Проверено 22 января 2024 г.
- ^ «Безопасная, надежная и надежная разработка и использование искусственного интеллекта» . Федеральный реестр . 30 октября 2023 г.
- ^ Твиттер; Мастодонт; Электронная почта (3 ноября 2023 г.). «Колонка: Она намеревалась создавать роботов. В итоге она разоблачила большие технологии» . Лос-Анджелес Таймс . Проверено 22 января 2024 г.
{{cite web}}
:|last1=
имеет общее имя ( справка ) - ^ «Миссия, команда и история — Алгоритмическая Лига справедливости» . ajl.org . Проверено 9 мая 2021 г.
- ^ Jump up to: Перейти обратно: а б «В центре внимания — документальный фильм о кодированной предвзятости» . ajl.org . Проверено 9 мая 2021 г.
- ^ Куах, Катянна (2019). «Мы более трех часов слушали показания Конгресса США по поводу распознавания лиц, поэтому вам не пришлось через это проходить» . theregister.com . Проверено 13 января 2022 г.
- ^ Voicing Erasure — устная речь, исследующая предвзятость в технологии распознавания голоса , получено 9 мая 2021 г.
- ^ «Озвучивание стирания» . ajl.org . Проверено 9 мая 2021 г.
- ^ «Закодированный взгляд: распаковка предубеждений в алгоритмах, которые увековечивают неравенство» . Rockefellerfoundation.org . Проверено 15 мая 2021 г.
- ^ «Закодированный взгляд: распаковка предубеждений в алгоритмах, которые увековечивают неравенство» . Фонд Рокфеллера . Проверено 20 июня 2021 г.
- ^ «Вот AOC объявляет порочный круг белых мужчин, создающих предвзятый искусственный интеллект лица» . fastcompany.com . 22 мая 2019 г. . Проверено 15 мая 2021 г.
- ^ «Кодированная предвзятость | Фильмы | PBS» . Независимый объектив . Проверено 9 мая 2021 г.
- ^ Тренхольм, Ричард (31 марта 2021 г.). «Открывающий глаза документальный фильм Coded Bias, который выйдет на Netflix 5 апреля, сталкивается с расистскими технологиями» . CNET .
- ^ «Искусство и кино — Алгоритмическая Лига справедливости» . ajl.org . Проверено 25 марта 2022 г.
- ^ «Выставка apexart: Преступный тип» . apexart.org .
- ^ «Понимание ИИ» . Центр Арс Электроника .
- ^ «ИИ: Больше, чем человек | Барбакан» . www.barbican.org.uk .
- ^ «Девять мгновений на данный момент» . coopergallery.fas.harvard.edu .
- ^ «Данные Большого Взрыва» . Музей МТИ .
- ^ «Скрытых больше нет: в центре внимания STEM «скрытые фигуры», такие как Джой Буоламвини из Массачусетского технологического института» . Youthradio.org . Молодёжное радио. 27 февраля 2017 г. Проверено 24 марта 2018 г.
- ^ « «Скрытые фигуры» вдохновляют на конкурс на стипендию для представителей меньшинств, стремящихся к STEM» . fastcompany.com . Компания Фаст. 19 января 2017 года . Проверено 24 марта 2018 г.
- ^ «Спикер Джой Буоламвини: Как я борюсь с предвзятостью в алгоритмах» . ученый.harvard.edu . Проверено 24 марта 2018 г.
- ^ Буоламвини, Джой. «Как я борюсь с предвзятостью в алгоритмах – MIT Media Lab» . Медиалаборатория Массачусетского технологического института . Проверено 24 марта 2018 г.
- ^ TED (29 марта 2017 г.), Как я борюсь с предвзятостью в алгоритмах | Джой Буоламвини , получено 24 марта 2018 г.
- ^ Джой Буоламвини: Как программа распознавания лиц определяет цвет кожи? , получено 24 марта 2018 г.
- ^ Шваб, Кэтрин (3 июля 2018 г.), «Познакомьтесь с четырьмя героями дизайна, которые защищают демократию в Интернете» , fastcompany.com , Fast Company Magazine , получено 21 июля 2018 г.
- ^ «100 женщин BBC 2018: кто в списке?» . Новости Би-би-си . 19 ноября 2018 года . Проверено 21 ноября 2018 г.
- ^ «Радость Буоламвини» . Удача . Проверено 26 ноября 2019 г.
- ^ «TIME 100 Next 2019: Джой Буоламвини» . time.com . Журнал «Тайм» . Проверено 16 декабря 2019 г.
- ^ «Она переписывает код» . без манжеты . Проверено 9 марта 2020 г.
- ^ Ли, Дженнифер 8. (8 февраля 2020 г.). «Новый документальный фильм «Закодированное предубеждение» исследует, как технологии могут быть расистскими и сексистскими: переключение кода» . npr.org . ЭНЕРГЕТИЧЕСКИЙ ЯДЕРНЫЙ РЕАКТОР . Проверено 12 декабря 2020 г.
{{cite web}}
: CS1 maint: числовые имена: список авторов ( ссылка ) - ^ «Медалисты Хатченса» . 4 января 2024 г.
- ^ «100 самых влиятельных людей в сфере искусственного интеллекта 2023 года» . Время . Проверено 18 февраля 2024 г.
- ^ «Объявляем кавалеров Почетной степени 2024 года» . Дартмут.edu . 11 апреля 2024 г. . Проверено 10 июня 2024 г.
- Живые люди
- Американские женщины-компьютерщики
- Американские ученые-компьютерщики
- Выпускники Технологического института Джорджии
- Выпускники Школы архитектуры и планирования Массачусетского технологического института
- Афро-американские ученые-компьютерщики
- Афро-американские активисты
- Ученые из Миссисипи
- Активисты из Миссисипи
- Американские стипендиаты Родса
- Американские учёные XXI века
- Американские женщины-учёные XXI века
- Сотрудники Медиалаборатории MIT
- Ученые из Эдмонтона
- Американцы ганского происхождения
- Американские женщины-ученые
- Афроамериканки XXI века
- Афроамериканские учёные XXI века
- Активизм данных
- Выпускники Фулбрайта