Отвращение к алгоритму
 | Эта статья написана как личное размышление, личное эссе или аргументативное эссе , в котором излагаются личные чувства редактора Википедии или представлен оригинальный аргумент по определенной теме. ( Октябрь 2023 г. ) |
Неприятие алгоритма — это «предвзятая оценка алгоритма, которая проявляется в негативном поведении и отношении к алгоритму по сравнению с человеческим агентом». [1] Он описывает феномен, когда люди отвергают совет алгоритма в случае, когда они приняли бы тот же совет, если бы думали, что он исходит от другого человека.
Алгоритмы , например, использующие методы машинного обучения или различные формы искусственного интеллекта , обычно используются для предоставления рекомендаций или советов людям, принимающим решения. Например, рекомендательные системы используются в электронной коммерции для определения продуктов, которые могут понравиться покупателю, а искусственный интеллект используется в здравоохранении для помощи в принятии решений о диагностике и лечении. Однако иногда кажется, что люди сопротивляются или отвергают эти алгоритмические рекомендации больше, чем если бы рекомендация исходила от человека. Примечательно, что алгоритмы часто способны превосходить людей, поэтому отказ от алгоритмических рекомендаций может привести к снижению производительности или неоптимальным результатам.
Это новая тема, и не совсем понятно, почему и при каких обстоятельствах люди будут проявлять отвращение к алгоритмам. В некоторых случаях люди с большей вероятностью примут рекомендации алгоритма, чем человека. Этот феномен называется оценкой алгоритма . [2]
Примеры неприятия алгоритмов
Неприятие алгоритмов изучалось в самых разных контекстах. Например, люди, похоже, предпочитают рекомендации для шуток от человека, а не от алгоритма. [3] и предпочел бы полагаться на человека, чтобы предсказать количество пассажиров авиакомпаний из каждого штата США, а не на алгоритм. [4] Люди также, похоже, предпочитают медицинские рекомендации врачей-людей алгоритму. [5]
Факторы, влияющие неприятие на алгоритма
Были предложены различные концепции для объяснения причин неприятия алгоритмов, а также методов или системных функций, которые могут помочь уменьшить неприятие. [1] [6]
Контроль принятия решений [ править ]
Алгоритмы могут использоваться либо в консультативной роли (давая совет человеку, который примет окончательное решение), либо в роли делегатора (когда алгоритм принимает решение без контроля человека). Система рекомендаций фильмов, предоставляющая список предложений, будет выполнять консультативную роль, тогда как водитель-человек делегирует задачу управления автомобилем автопилоту Tesla . Как правило, отсутствие контроля над принятием решений приводит к увеличению неприятия алгоритмов. [ нужна ссылка ]
о возможностях и Представления алгоритма производительности
В целом люди склонны оценивать машины более критично, чем людей. [7] Было показано, что несколько системных характеристик или факторов влияют на то, как люди оценивают алгоритмы.
роль прозрачности Алгоритм системы Процесс и
Одной из причин, по которой люди проявляют сопротивление алгоритмам, является непонимание того, как алгоритм приходит к своим рекомендациям. [3] Люди также, кажется, лучше понимают, как другой человек будет давать рекомендации. Хотя люди предполагают, что другие люди будут учитывать уникальные различия между ситуациями, они иногда воспринимают алгоритмы как неспособные учитывать индивидуальные различия и соответственно сопротивляются им. [8]
Область принятия решения [ править ]
Люди, как правило, скептически относятся к тому, что алгоритмы могут делать точные прогнозы в определенных областях, особенно если задача включает в себя такие, казалось бы, человеческие качества, как мораль или сочувствие . Неприятие алгоритмов, как правило, выше, когда задача более субъективна, и ниже, когда задача объективна или поддается количественной оценке. [1]
Человеческие характеристики [ править ]
Экспертиза предметной области [ править ]
Было показано, что опыт в определенной области увеличивает неприятие алгоритмов. [2] и сократить использование алгоритмических правил принятия решений. [9] Чрезмерная самоуверенность может частично объяснить этот эффект; эксперты могут почувствовать, что алгоритм не способен принимать те суждения, которые они выносят. По сравнению с неспециалистами эксперты также обладают большими знаниями в этой области и поэтому могут более критично относиться к рекомендациям. Если неспециалист может принять рекомендацию («Алгоритм должен знать что-то, чего я не знаю»), эксперт может найти конкретную ошибку в рекомендации алгоритма («Эта рекомендация не учитывает конкретный фактор»).
Исследования в области принятия решений показали, что эксперты в определенной области склонны думать о решениях иначе, чем неспециалисты. [10] Эксперты фрагментируют и группируют информацию; например, по шахматам гроссмейстеры будут видеть открытые позиции (например, ферзевый гамбит или дебют слона ) вместо отдельных фигур на доске. Эксперты могут рассматривать ситуацию как функциональное представление (например, врач может видеть траекторию развития и прогнозируемый результат для пациента, а не список лекарств и симптомов). Эти различия могут также частично объяснить возросшее неприятие алгоритмов, наблюдаемое среди экспертов.
Культура [ править ]
Различные культурные нормы и влияния могут заставлять людей по-разному реагировать на алгоритмические рекомендации. То, как излагаются рекомендации (например, язык, тон и т. д.), может привести к тому, что люди отреагируют по-разному. [ нужна ссылка ]
Возраст [ править ]
Цифровые аборигены моложе и знакомы с технологиями всю свою жизнь, в отличие от цифровых иммигрантов. Возраст — часто упоминаемый фактор, который, как предполагается, влияет на то, принимают ли люди алгоритмические рекомендации или нет. Например, одно исследование показало, что доверие к алгоритмическому финансовому консультанту было ниже среди пожилых людей по сравнению с более молодыми участниками исследования. [11] Однако другие исследования показали, что отвращение к алгоритмам не меняется с возрастом. [2]
преодоления неприятия алгоритмов Предлагаемые методы
Алгоритмы часто способны превосходить людей или выполнять задачи гораздо эффективнее с точки зрения затрат. [4] [3]
Человек в курсе [ править ]
Один из способов уменьшить неприятие алгоритмов — предоставить человеку, принимающему решения, контроль над окончательным решением.
Прозрачность системы [ править ]
Было показано, что объяснение того, как работают алгоритмы, снижает отвращение. Эти объяснения могут принимать самые разные формы, в том числе о том, как работает алгоритм в целом, о том, почему он дает ту или иную рекомендацию в конкретном случае или насколько он уверен в своих рекомендациях. [1]
Обучение пользователей [ править ]
Алгоритмические рекомендации представляют собой новый тип информации во многих областях. Например, медицинский диагноз бактериальной инфекции с помощью искусственного интеллекта отличается от лабораторного анализа, указывающего на наличие бактерий. Когда лица, принимающие решения, впервые сталкиваются с задачей, они могут особенно неохотно использовать алгоритм. Было показано, что эффект обучения, достигаемый за счет повторяющихся задач, постоянной обратной связи и финансовых стимулов, может способствовать снижению неприятия алгоритмов. [12]
Оценка алгоритма [ править ]
Исследования не всегда показывают, что люди демонстрируют предвзятое отношение к алгоритмам, а иногда показывают обратное, предпочитая советы алгоритма, а не человека. Этот эффект называется оценкой алгоритма . [2] Результаты неоднозначны: люди иногда предпочитают советы, исходящие от алгоритма, а не от человека.
Например, клиенты с большей вероятностью проявят первоначальный интерес к торговым агентам-людям по сравнению с автоматическими торговыми агентами, но с меньшей вероятностью предоставят им контактную информацию. Это связано с «более низким уровнем ожидаемой производительности и ожидаемых усилий, связанных с человеческими торговыми агентами по сравнению с автоматизированными торговыми агентами». [13]
Ссылки [ править ]
- ↑ Перейти обратно: Перейти обратно: а б с д Юсупова Екатерина; Бенбасат, Изак; Хайнцль, Армин (2020). «Почему мы не любим алгоритмы? Комплексный обзор литературы по неприятию алгоритмов» . Двадцать восьмая Европейская конференция по информационным системам (ECIS2020) : 1–16.
- ↑ Перейти обратно: Перейти обратно: а б с д Логг, Дженнифер М.; Минсон, Джулия А.; Мур, Дон А. (01 марта 2019 г.). «Оценка алгоритмов: люди предпочитают алгоритмы человеческому суждению» . Организационное поведение и процессы принятия человеческих решений . 151 : 90–103. дои : 10.1016/j.obhdp.2018.12.005 . ISSN 0749-5978 .
- ↑ Перейти обратно: Перейти обратно: а б с Йоманс, Майкл; Шах, Анудж; Муллайнатан, Сендхил; Кляйнберг, Джон (2019). «Осмысление рекомендаций» . Журнал принятия поведенческих решений . 32 (4): 403–414. дои : 10.1002/bdm.2118 . ISSN 1099-0771 . S2CID 141066682 .
- ↑ Перейти обратно: Перейти обратно: а б Дитворст, Беркли Дж.; Симмонс, Джозеф П.; Мэсси, Кейд (2015). «Отвращение к алгоритмам: люди ошибочно избегают алгоритмов, увидев, что они ошибаются» . Журнал экспериментальной психологии: Общие сведения . 144 (1): 114–126. дои : 10.1037/xge0000033 . ISSN 1939-2222 . ПМИД 25401381 .
- ^ Кабица, Федерико (2019). «Предвзятости, влияющие на принятие человеком решений в условиях второго мнения, поддерживаемых ИИ» . MDAI 2019 — Международная конференция по моделированию решений для искусственного интеллекта . Конспекты лекций по информатике. Том. 11676. стр. 283–294. дои : 10.1007/978-3-030-26773-5_25 . ISBN 978-3-030-26773-5 . S2CID 201739274 .
- ^ Бертон, Джейсон В.; Штейн, Мари-Клара; Дженсен, Тина Блегинд (2020). «Систематический обзор неприятия алгоритмов при расширенном принятии решений» . Журнал принятия поведенческих решений . 33 (2): 220–239. дои : 10.1002/bdm.2155 . ISSN 1099-0771 . S2CID 210439660 .
- ^ Идальго, Сезар (2021). Как люди судят о машинах . Кембридж, Массачусетс: MIT Press . ISBN 978-0-262-04552-0 .
- ^ Лонгони, Кьяра; Бонецци, Андреа; Мореведж, Кэри К. (3 мая 2019 г.). «Сопротивление медицинскому искусственному интеллекту» . Журнал потребительских исследований . 46 (4): 629–650. дои : 10.1093/jcr/ucz013 . ISSN 0093-5301 .
- ^ Аркес, Хэл Р.; Доус, Робин М.; Кристенсен, Кэрин (1 февраля 1986 г.). «Факторы, влияющие на использование решающего правила в вероятностной задаче» . Организационное поведение и процессы принятия человеческих решений . 37 (1): 93–110. дои : 10.1016/0749-5978(86)90046-4 . ISSN 0749-5978 .
- ^ Фельтович, Пол Дж.; Приетула, Майкл Дж.; Эрикссон, К. Андерс (2006), Эрикссон, К. Андерс; Чарнесс, Нил; Фельтович, Пол Дж.; Хоффман, Роберт Р. (ред.), «Исследования экспертизы с психологической точки зрения» , Кембриджский справочник по экспертизе и эффективности работы экспертов , Кембриджские справочники по психологии, Кембридж: Cambridge University Press, стр. 41–68, doi : 10.1017/cbo9780511816796 .004 , ISBN 978-1-107-81097-6 , получено 8 сентября 2021 г.
- ^ Лоренсо, Карлос Х.С.; Делларт, Бенедикт Г.К.; Донкерс, Бас (01 февраля 2020 г.). «Чей алгоритм так говорит: взаимосвязь между типом фирмы, восприятием доверия и опыта, а также принятием финансовых роботизированных советов» . Журнал интерактивного маркетинга . 49 : 107–124. дои : 10.1016/j.intmar.2019.10.003 . hdl : 1765/123799 . ISSN 1094-9968 . S2CID 211029562 .
- ^ Филиз, Ибрагим; Юдек, Ян Рене; Лоренц, Марко; Спивокс, Маркус (01 сентября 2021 г.). «Уменьшение неприятия алгоритмов посредством опыта» . Журнал поведенческих и экспериментальных финансов . 31 : 100524. doi : 10.1016/j.jbef.2021.100524 . ISSN 2214-6350 .
- ^ Адам, Мартин; Ретке, Константин; Бенлиан, Александр (10 ноября 2022 г.). «Человеческие и автоматизированные торговые агенты: как и почему реакция клиентов меняется на разных этапах продаж» . Исследования информационных систем . 34 (3): 1148–1168. дои : 10.1287/isre.2022.1171 . ISSN 1047-7047 . S2CID 254271045 .