Моральный аутсорсинг
Моральный аутсорсинг означает возложение ответственности за принятие этических решений на внешние объекты, часто на алгоритмы . Этот термин часто используется в дискуссиях по информатике и алгоритмической справедливости . [1] но это может быть применимо к любой ситуации, в которой человек обращается к внешним агентам, чтобы снять с себя ответственность за свои действия. В этом контексте моральный аутсорсинг конкретно относится к тенденции общества винить технологию, а не ее создателей или пользователей, за любой вред, который она может причинить. [2]
Определение
[ редактировать ]Термин «моральный аутсорсинг» был впервые придуман доктором Румманом Чоудхури , специалистом по данным, занимающимся вопросами пересечения искусственного интеллекта и социальных проблем. [1] Чоудхури использовал этот термин, чтобы описать надвигающиеся страхи перед так называемой « Четвертой промышленной революцией » после появления искусственного интеллекта.
Моральный аутсорсинг часто применяется технологами, чтобы уклониться от участия в создании оскорбительных продуктов. В своем выступлении на TED Чоудхури приводит пример автора, оправдывающего свою работу тем, что он просто выполняет свою работу. [1] Это случай морального аутсорсинга и отказа от ответственности за последствия творения.
Когда дело доходит до ИИ, моральный аутсорсинг позволяет создателям решать, когда машина — человек, а когда — компьютер, перекладывая вину и ответственность за моральные проблемы с технологов на технологии. Разговоры об ИИ, предвзятости и их последствиях требуют подотчетности, чтобы добиться перемен. Трудно бороться с этими предвзятыми системами, если их создатели используют моральный аутсорсинг, чтобы избежать ответственности за проблему. [2]
Одним из примеров морального аутсорсинга является гнев, направленный на машины, которые «отбирают рабочие места у людей», а не на компании, которые используют эти технологии и вообще ставят под угрозу рабочие места. [1]
Термин «моральный аутсорсинг» относится к концепции аутсорсинга или привлечения внешней операции для выполнения конкретной работы для другой организации. В случае морального аутсорсинга работа по разрешению моральных дилемм или принятию решений в соответствии с этическим кодексом должна выполняться другой организацией. [3]
Реальные приложения
[ редактировать ]В медицинской сфере ИИ все чаще участвует в процессах принятия решений о том, каких пациентов лечить и как их лечить. [4] Ответственность врача за принятие обоснованных решений о том, что лучше для его пациентов, передана алгоритму. Также отмечается, что сочувствие является важной частью медицинской практики; аспект, которого явно не хватает искусственному интеллекту. [5] Эта форма морального аутсорсинга вызывает серьезную озабоченность в медицинском сообществе.
Еще одна область технологий, в которой часто упоминается моральный аутсорсинг, — это автономные транспортные средства . [6] Профессор Калифорнийского политехнического государственного университета Кейт Эбни предложил пример сценария: «Предположим, у нас есть несколько [нарушающих порядок] подростков, и они видят беспилотное транспортное средство и едут прямо на него. Они знают, что автономное транспортное средство съедет с дороги и слетит со скалы. , но должно ли это быть?" [6] Решение о том, пожертвовать ли автономным транспортным средством (и пассажирами внутри) или транспортным средством, приближающимся к нему, будет записано в алгоритмы, определяющие поведение автомобиля. В случае морального аутсорсинга ответственность за любой ущерб, причиненный в результате аварии, может быть возложена на само автономное транспортное средство, а не на создателей, написавших протокол, который транспортное средство будет использовать, чтобы «решить», что делать. [1]
Моральный аутсорсинг также используется для делегирования последствий алгоритмов прогнозирования полиции технологиям, а не создателям или полиции. Существует множество этических проблем, связанных с профилактической полицейской деятельностью, поскольку она приводит к чрезмерной полицейской деятельности в отношении общин с низкими доходами и меньшинствами. [7] В контексте морального аутсорсинга положительная обратная связь по отправке непропорциональных полицейских сил в общины меньшинств объясняется алгоритмом и данными, которые вводятся в эту систему, а не пользователями и создателями технологии прогнозирования полицейской деятельности.
Вне технологий
[ редактировать ]Религия
[ редактировать ]Моральный аутсорсинг также часто встречается в обращениях к религии для оправдания дискриминации или причинения вреда. В своей книге «Что значит быть моральным» социолог Фил Цукерман противоречит популярному религиозному представлению о том, что мораль исходит от Бога. Религию часто называют основой моральной позиции без какой-либо ощутимой связи между религиозными убеждениями и личной позицией. [8] В этих случаях религиозные люди будут «передавать» свои личные убеждения и мнения на аутсорсинг, заявляя, что они являются результатом их религиозной идентификации. Это видно, когда религия упоминается как фактор политических убеждений. [9] медицинские убеждения, [10] и в крайних случаях оправдание насилия. [11]
Производство
[ редактировать ]Моральный аутсорсинг также можно рассматривать в деловом мире с точки зрения производства товаров и избежания экологической ответственности. Некоторые компании в Соединенных Штатах перенесут свой производственный процесс в зарубежные страны с более мягкой экологической политикой, чтобы избежать законов о загрязнении, существующих в США. Исследование Harvard Business Review показало, что «в странах с жестким экологическим регулированием внутренние выбросы компаний в среднем на 29% ниже. С другой стороны, такое ужесточение регулирования приводит к увеличению выбросов за рубежом на 43%». [12] Последствия более высоких уровней загрязнения тогда объясняются мягкими правилами в этих странах, а не самими компаниями, которые намеренно переехали в эти районы, чтобы избежать строгой политики загрязнения.
Чоудхури активно участвует в дискуссиях о пересечении этики и искусственного интеллекта. Ее идеи были опубликованы в журнале The Atlantic. [13] Форбс, [3] Обзор технологий Массачусетского технологического института, [14] и Harvard Business Review. [15]
Ссылки
[ редактировать ]- ^ Перейти обратно: а б с д и Чоудхури, Рамман (08 июня 2018 г.), Моральный аутсорсинг: человечество в эпоху искусственного интеллекта , получено 28 ноября 2023 г.
- ^ Перейти обратно: а б « Я не думаю, что этический надзор может существовать»: Румман Чоудхури об ответственности в ИИ» . Хранитель . 29 мая 2023 г. ISSN 0261-3077 . Проверено 14 октября 2023 г.
- ^ Перейти обратно: а б Чоудхури, Румман. «Моральный аутсорсинг: поиск человечности в искусственном интеллекте» . Форбс . Проверено 14 октября 2023 г.
- ^ Шейх, Соня Джавайд (2020). «Искусственный интеллект и распределение ресурсов в здравоохранении: разница между процессом и результатом в взглядах на принятие моральных решений» (PDF) . Симпозиум «ИИ на благо общества» .
- ^ Фархуд, Дариуш Д.; Зокаи, Шагай (27 октября 2021 г.). «Этические проблемы искусственного интеллекта в медицине и здравоохранении» . Иранский журнал общественного здравоохранения . 50 (11): и – т. дои : 10.18502/ijph.v50i11.7600 . ISSN 2251-6093 . ПМЦ 8826344 . ПМИД 35223619 .
- ^ Перейти обратно: а б «Как беспилотные автомобили будут принимать решения о жизни и смерти?» . PBS NewsHour . 28 мая 2016 г. Проверено 28 ноября 2023 г.
- ^ ВЦЭ (17 февраля 2022 г.). «Ловушки превентивной полицейской деятельности: этический анализ» . Витерби Беседы по этике . Проверено 30 ноября 2023 г.
- ^ Маккей, Райан; Уайтхаус, Харви (март 2015 г.). «Религия и мораль» . Психологический вестник . 141 (2): 447–473. дои : 10.1037/a0038455 . ISSN 1939-1455 . ПМЦ 4345965 . ПМИД 25528346 .
- ^ Грэм, Джесси; Хайдт, Джонатан (февраль 2010 г.). «За пределами убеждений: религии объединяют людей в моральные сообщества» . Обзор личности и социальной психологии . 14 (1): 140–150. дои : 10.1177/1088868309353415 . ISSN 1088-8683 . ПМИД 20089848 . S2CID 264630346 .
- ^ Пельчич, Гордана; Карачич, Сильвана; Микиртичан Галина Л.; Кубарь, Ольга Ивановна; Ливитт, Фрэнк Дж.; Ченг-тек Тай, Майкл; Моришита, Наоки; Вулетич, Сузана; Томашевич, Лука (октябрь 2016 г.). «Религиозное исключение из вакцинации или религиозные оправдания отказа от вакцинации» . Хорватский медицинский журнал . 57 (5): 516–521. дои : 10.3325/cmj.2016.57.516 . ISSN 0353-9504 . ПМК 5141457 . ПМИД 27815943 .
- ^ Гонсалвеш, Джулиана Пьясески де Бернардин; Луккетти, Джанкарло; Маральди, «Эвертон де Оливейра»; Фернандес, Пауло Эдуардо Лаос; Менезес, Пауло Росси; Валлада, Гомер (2023). «Роль религиозности и духовности в межличностном насилии: систематический обзор и метаанализ» . Бразильский журнал психиатрии . 45 (2): 162–181. дои : 10.47626/1516-4446-2022-2832 . ПМЦ 10154014 . ПМИД 36331229 .
- ^ Бен-Давид, Ицхак (Захи); Кляймайер, Стефани; Вис, Майкл (04 февраля 2019 г.). «Исследование: когда экологические нормы ужесточаются внутри страны, компании выбрасывают больше выбросов за границу» . Гарвардское деловое обозрение . ISSN 0017-8012 . Проверено 30 ноября 2023 г.
- ^ Чоудхури, Румман (17 февраля 2023 г.). «Я видел, как Илон Маск убивал культуру Твиттера изнутри» . Атлантика . Проверено 14 октября 2023 г.
- ^ «Что такое «алгоритм»? Это зависит от того, кого вы спросите» . Обзор технологий Массачусетского технологического института . Проверено 14 октября 2023 г.
- ^ «Как применять ответственный ИИ» . Гарвардское деловое обозрение . 16.06.2021. ISSN 0017-8012 . Проверено 14 октября 2023 г.