Дизайн справедливости
Справедливость дизайна — это этический и инклюзивный подход к разработке продуктов или систем, который устраняет и смягчает историческое неравенство, чтобы гарантировать справедливые и равноправные результаты для всех пользователей. В статье представлен обзор справедливости дизайна, 10 принципов справедливости дизайна, проблем справедливого дизайна и применения справедливости дизайна в искусственном интеллекте и взаимодействии человека и компьютера.
Обзор
[ редактировать ]Справедливость дизайна определяется экспертами в междисциплинарных областях как теория и практика проектирования с действиями по снижению рисков и вреда для маргинализированных и угнетенных. Это действие осуществляется путем отказа от идеи «проектирования во благо» и перехода к проектированию с участием затронутых сообществ. [1] [2] Design Justice стремится сбалансировать распределение рисков, вреда и выгод среди пользователей в процессе проектирования, включая людей, на чью жизнь будет влиять продукт или система, в дополнение к техническим экспертам в процессе проектирования. [3] [4] Справедливость дизайна основана на десяти принципах, которые гарантируют, что сообщества смогут объединиться для создания более справедливых продуктов.
Ниже приведены 10 принципов справедливости дизайна: [5]
- Используйте дизайн для поддержания, исцеления и расширения прав и возможностей сообществ, а также для достижения освобождения от эксплуататорских и репрессивных систем.
- Сосредоточьте голоса тех, на кого непосредственно влияет результат процесса проектирования.
- Отдавайте приоритет влиянию дизайна на сообщество, а не намерениям дизайнера.
- Рассматривайте изменения как результат подотчетного, доступного и совместного процесса, а не как точку в конце процесса.
- Рассматривайте роль дизайнера как посредника, а не эксперта.
- Верьте, что каждый является экспертом, основанным на собственном жизненном опыте, и что все люди вносят уникальный и блестящий вклад в процесс проектирования.
- Делитесь знаниями и инструментами дизайна с сообществами.
- Работайте над достижением устойчивых, управляемых и контролируемых сообществом результатов.
- Работайте над неэксплуататорскими решениями, которые воссоединяются с землей и друг с другом.
- Прежде чем искать новые дизайнерские решения, поищите то, что уже работает на уровне сообщества. Уважайте и развивайте традиционные, коренные и местные знания и практики.
Проблемы
[ редактировать ]Равноправного дизайна в технологиях было трудно достичь из-за подавляющего присутствия гетеросексуальных белых мужчин в руководстве дизайном продукции. [6] Дизайнеры в технологической отрасли олицетворяют инновации и предпринимательство, но при этом являются частью одной из самых неравных отраслей: чернокожие женщины составляют лишь 1,7% рабочей силы в сфере технологий. [7] В отрасли, где не предпринимаются значимые усилия по диверсификации, а структурное неравенство редко упоминается или оспаривается, справедливость в дизайне является важным призывом к отказу от существующей практики проектирования.
Искусственный интеллект и машинное обучение
[ редактировать ]Справедливость дизайна в области искусственного интеллекта — это этический и инклюзивный подход к проектированию и созданию технологий искусственного интеллекта, соответствующий 10 принципам, изложенным ранее. В нем подчеркивается необходимость учитывать этические, культурные и социальные аспекты разработки технологий, чтобы оказать более справедливое и общее положительное влияние на общество. [8]
Проектирование продуктов искусственного интеллекта
[ редактировать ]Справедливость дизайна в области искусственного интеллекта направлена на преобразование процесса проектирования продуктов искусственного интеллекта. В настоящее время разработка искусственного интеллекта является несправедливой из-за того, кто имеет власть в процессе проектирования, кем считаются пользователи технологии и где происходит проектирование. [8] Выгода от разработки технологий искусственного интеллекта достается людям, которые традиционно имеют больше власти в процессе проектирования, и вредит людям, которые и без того маргинализированы. [9] Справедливость дизайна в области искусственного интеллекта направлена на преодоление разрыва между двумя группами и деконструкцию динамики власти в процессе проектирования искусственного интеллекта. [3]
Продукты искусственного интеллекта разрабатываются с использованием обучающих данных, которые зависят от усилий человека по обучению и получению алгоритмических результатов. [10] Конкретным случаем будет проверка резюме. Искусственный интеллект использовался при проверке резюме, чтобы автоматизировать и ускорить процесс проверки резюме, помогая работодателям быстрее находить кандидатов, обеспечивая уведомление квалифицированных кандидатов и делая процесс найма более плавным с обеих сторон. [11] Однако, если набор данных резюме содержит прошлые предубеждения в компании, эти предубеждения будут по-прежнему отражаться при проверке резюме искусственным интеллектом. Amazon использовала инструмент для резюме, основанный на машинном обучении, пока специалисты по машинному обучению не обнаружили, что этот инструмент дискриминирует женщин, поскольку модели обучались на резюме, поданных в компанию в течение 10 лет, в основном поступающих от мужчин. [12] В этом контексте можно использовать справедливость дизайна, чтобы оценить набор данных и убедиться, что он соответствует целям Amazon по созданию разнообразной рабочей силы.
Переход на продукты искусственного интеллекта
[ редактировать ]В дополнение к процессу проектирования продуктов искусственного интеллекта принципы справедливости дизайна могут применяться к использованию продуктов искусственного интеллекта, поскольку многие отрасли переходят на использование продуктов искусственного интеллекта. [13] [14] Например, рассмотрим важность справедливости дизайна в процессе перехода к использованию продуктов искусственного интеллекта в психиатрической помощи. [13] Исследователи выступают за более этичный и всесторонний подход к внедрению искусственного интеллекта в сфере здравоохранения, чтобы гарантировать, что все пользователи продукта, пациенты, являются частью процесса принятия решений при переходе к использованию искусственного интеллекта в медицине. здравоохранение. [13] Поскольку продукты искусственного интеллекта и их использование растут, эксперты в этой области призывают использовать принципы справедливости дизайна не только при проектировании продуктов, но и при их реализации. [15]
Взаимодействие человека и компьютера
[ редактировать ]Справедливость дизайна во взаимодействии человека и компьютера (или HCI) — это отрасль справедливости дизайна, ориентированная на принципы проектирования цифровых интерфейсов. [16] Рассмотрение вопросов власти, привилегий и доступа при проектировании цифровых продуктов, интерфейсов и систем является краеугольным камнем справедливости проектирования, ориентированного на HCI. [16] Справедливость дизайна в HCI включает не только разработку доступных веб-сайтов и интерфейсов, но также пересматривает основные принципы и практики, на которые полагаются дизайнеры HCI. [4]
Пользовательский интерфейс и опыт
[ редактировать ]В последние годы справедливость дизайна становится все более распространенной в области пользовательского интерфейса и пользовательского опыта (UI/UX). [17] Целью справедливости дизайна в UI/UX является повышение удобства использования интерфейсов и продуктов путем сосредоточения внимания на потребностях маргинализированных сообществ в процессе проектирования. [18]
Принципы справедливости дизайна побуждают дизайнеров больше вовлекать пользователя в процесс проектирования, чтобы достичь этой цели. Одной из таких стратегий повышения вовлеченности пользователей является совместный дизайн. Это влечет за собой поиск группы пользователей для тестирования продукта, опрос их об их опыте работы с продуктом и корректировку дизайна продукта с учетом обратной связи. Чтобы эта стратегия соответствовала принципам справедливости дизайна, пул пользователей должен включать представителей различных маргинализированных сообществ. [17] Этот подход может быть полезен при определении областей дизайна для повышения инклюзивности. В тематическом исследовании, проведенном Университетом Иллинойса в Шампейне-Урбане, дизайнеры смогли создать интерфейс, включающий людей с дальтонизмом, после получения отзывов от своего пула пользователей. [19] Другая стратегия, совместное проектирование, предполагает участие пользователей из маргинализированных сообществ на протяжении всего процесса разработки. В отличие от совместного проектирования, пользователи активно участвуют в жизненном цикле проектирования и напрямую вносят свой опыт в продукт. Это уменьшает разрыв между дизайнерами и пользователями, позволяя обоим иметь равное право собственности и вклад в продукт. Совместное проектирование также побуждает дизайнеров и пользователей распознавать и понимать свою индивидуальность и то, как она может повлиять на результат продукта. Суть стратегий совместного проектирования и совместного проектирования заключается в том, чтобы дизайнеры были чуткими и образованными, чтобы расширить возможности всех пользователей за счет использования интерфейсов и технологического опыта. [17]
Принципы
[ редактировать ]Объединив справедливость дизайна с принципами HCI, дизайнеры и исследователи могут внести свой вклад в технологию, которая не только удобна в использовании, но и способствует социальной справедливости , инклюзивности и интерсекциональности. [4] Целью справедливости в дизайне в области HCI является создание социальных изменений с помощью цифровых платформ. [4] Саша Костанца-Чок обрисовывает проблемы в области HCI и то, как дизайнеры могут их решить, в своей статье «Справедливость дизайна: к интерсекциональной феминистской структуре теории и практики дизайна». Одной из проблем проектирования интерфейсов является инклюзивность. Большинство дизайнеров при создании интерфейсов исходят из предположения: их пользователи имеют такие привилегии, как гражданство США, знание английского языка, доступ к широкополосному Интернету, смартфон, отсутствие инвалидности и многое другое. [4] Принципы HCI способствуют непрерывному повторению и тестированию проектов с участием реальных людей, а справедливость дизайна предполагает, что включение целевой аудитории интерфейса в процесс проектирования поможет в создании инклюзивных интерфейсов. [20]
Еще одна проблема, которую подчеркивает Костанца-Чок, — это интерсекциональность . Когда дизайнеры учитывают равенство во время разработки, большинство из них используют одноосную структуру, что приводит к тому, что большинство интерфейсов игнорируют сложную идентичность маргинализированных народов. [4] Принципы HCI поощряют раннее определение пользователей и задач, которые будет поддерживать пользовательский интерфейс, а принципы справедливости проектирования, такие как принципы 2 и 6, ставят уникальные личности людей на первый план при создании пользовательских интерфейсов. Костанца-Чок также подчеркивает влияние, которое дизайн-справедливость оказывает на расширение прав и возможностей маргинализированных народов и их участие. Было создано множество организаций для поддержки гендерного равенства в областях STEM. [4] Справедливость дизайна признает, что занятость в оплачиваемых областях дизайна для маргинализированных людей важна, но что другие аспекты дизайна, например, предполагаемые бенефициары дизайна, не менее важны. [4] [16]
Ссылки
[ редактировать ]- ^ Костанца-Чок, Саша (март 2020 г.). Дизайнерская справедливость . Массачусетский технологический институт Пресс.
- ^ Зильке, Юлия; Мораве, Ян Марк; Актан, Алев Назлы; Миани, Селин (24 ноября 2023 г.). « Мне кажется, что вы слишком усложняете задачу…»: размышления об усилиях по набору персонала в социальных сетях для исследования мужественности и контрацепции» . Качественные исследования здоровья . дои : 10.1177/10497323231203631 . ISSN 1049-7323 .
- ^ Jump up to: а б Катьял, Соня; Юнг, Джессика (3 января 2022 г.). «Гендерный паноптикум: искусственный интеллект, гендер и дизайнерская справедливость». Обзор права Калифорнийского университета в Лос-Анджелесе .
- ^ Jump up to: а б с д и ж г час Костанца-Чок, Саша (28 июня 2018 г.). «Справедливость дизайна: к интерсекциональной феминистской структуре теории и практики дизайна». Общество дизайнерских исследований . дои : 10.21606/drs.2018.679 .
- ^ «Сеть дизайнерского правосудия» . Проектируйте Сеть Правосудия .
- ^ «Многообразие в высоких технологиях» . www.eeoc.gov . Проверено 5 декабря 2023 г.
- ^ Джексон, Эштон. «Чернокожие сотрудники составляют всего 7,4% рабочей силы в сфере технологий — эти некоммерческие организации работают над тем, чтобы изменить эту ситуацию» . CNBC . Проверено 5 декабря 2023 г.
- ^ Jump up to: а б Костанца-Чок, Саша (27 июля 2018 г.). «Создайте справедливость, искусственный интеллект и побег из матрицы доминирования» . Журнал дизайна и науки (3.5). дои : 10.21428/96c8d426 . Проверено 5 декабря 2023 г.
- ^ Каллури, Пратюша (2020). «Не спрашивайте, хорош ли искусственный интеллект или справедлив, спросите, как он распределяет власть» . Природа . 583 (7815): 169–169.
- ^ Мегорская, Ольга. «Сообщение совета: Данные обучения: забытая проблема современного искусственного интеллекта» . Форбс . Форбс . Проверено 6 декабря 2023 г.
- ^ Ху, Джеймс. «Более 98% компаний из списка Fortune 500 используют системы отслеживания кандидатов (ATS) — блог Jobscan» . Блог Jobscan . Проверено 6 декабря 2023 г.
- ^ Дастин, Джеффри. «Amazon отказывается от секретного инструмента рекрутинга, основанного на искусственном интеллекте, который показал предвзятое отношение к женщинам» . Рейтер . Проверено 6 декабря 2023 г.
- ^ Jump up to: а б с Зидару, Теодор; Морроу, Элизабет (август 2021 г.). «Обеспечение участия пациентов и общественности в переходе к психиатрической помощи с использованием искусственного интеллекта: систематический обзор и программа обеспечения справедливости в дизайне» . Ожидания относительно здоровья . 24 (4): 1072–1124. дои : 10.1111/шестнадцатеричный.13299 . ПМЦ 8369091 .
- ^ Обермайер, Зиад; Эмануэль, Иезекииль Дж. (29 сентября 2016 г.). «Прогнозирование будущего: большие данные, машинное обучение и клиническая медицина» . Медицинский журнал Новой Англии . 375 (13): 1216–1219. дои : 10.1056/NEJMp1606181 . ISSN 0028-4793 . ПМК 5070532 . ПМИД 27682033 .
- ^ Бор, Адам; Мемарзаде, Каве (01 января 2020 г.), Бор, Адам; Мемарзаде, Каве (ред.), «Глава 2. Развитие искусственного интеллекта в приложениях здравоохранения» , Искусственный интеллект в здравоохранении , Academic Press, стр. 25–60, doi : 10.1016/b978-0-12-818438-7.00002- 2 , ISBN 978-0-12-818438-7 , PMC 7325854 , получено 7 декабря 2023 г.
- ^ Jump up to: а б с Домбровски, Линн; Хармон, Элли; Фокс, Сара (4 июня 2016 г.). «Дизайн взаимодействия, ориентированный на социальную справедливость: описание ключевых стратегий и обязательств в области дизайна» . Материалы конференции ACM по проектированию интерактивных систем 2016 года . АКМ: 656–671. дои : 10.1145/2901790.2901861 . hdl : 1805/12029 . ISBN 978-1-4503-4031-1 .
- ^ Jump up to: а б с Карузо, Кристина; Франкель, Лоис (2010). «Обычные люди: использование опыта пользователей в области социально ответственного дизайна» (PDF) .
- ^ Роуз, Эмма Дж.; Эденфилд, Эйвери; Уолтон, Ребекка; Гонсалес, Лаура; Макнейр, Энн Шиверс; Жвотовская, Татьяна; Джонс, Наташа; де Мюллер, Женевьева И. Гарсия; Мур, Кристен (3 августа 2018 г.). «21». Социальная справедливость в UX: центрирование маргинализованных пользователей . SIGDOC '18: Материалы 36-й Международной конференции ACM по проектированию коммуникаций. АКМ. стр. 1–2. дои : 10.1145/3233756.3233931 . ISBN 978-1-4503-5935-1 .
- ^ Хан, Иньин; Маркази, Даниэла М.; Наранг, Самуал (08 ноября 2021 г.). «Разработка веб-сайта социальных сетей, основанного на справедливости, для студентов университетов в эпоху COVID-19» . 19-я конференция CIRN 2021: Сообщества, технологии и этот момент .
- ^ Нконде, Мутале . «Автоматическая защита от черноты: распознавание лиц в Бруклине, Нью-Йорк». Журнал афроамериканской политики Гарвардской школы Кеннеди (2019–20): 30–36.