✖


Jump to content

Смягчение когнитивных искажений

Для более широкого освещения этой темы см. Debiasing .

Смягчение когнитивных искажений — это предотвращение и уменьшение негативных последствий когнитивных искажений — бессознательных, автоматических влияний на человеческое суждение и принятие решений, которые надежно приводят к ошибкам в рассуждениях.

Последовательные, всеобъемлющие теории смягчения когнитивных искажений отсутствуют. В этой статье описываются инструменты, методы, предложения и другие инициативы по устранению предвзятости в академических и профессиональных дисциплинах, связанных с эффективностью человеческого рассуждения, связанные с концепцией смягчения когнитивных предубеждений; большинство из них решают вопросы смягчения последствий скорее молчаливо, чем явно.

Давние дебаты относительно принятия решений человеком связаны с развитием теории и практики смягчения предвзятости. Эти дебаты противопоставляют стандарт рационального экономического агента для принятия решений стандарту, основанному на социальных потребностях и мотивациях человека. Дебаты также противопоставляют методы, используемые для анализа и прогнозирования принятия человеком решений, то есть формальный анализ, подчеркивающий интеллектуальные способности, и эвристический анализ , подчеркивающий эмоциональные состояния. В этой статье определяются элементы, имеющие отношение к этой дискуссии.

Контекст

[ редактировать ]

Большой массив доказательств [1] [2] [3] [4] [5] [6] [7] [8] [9] [10] установил, что определяющей характеристикой когнитивных искажений является то, что они проявляются автоматически и бессознательно в широком диапазоне человеческих рассуждений, поэтому даже те, кто знает о существовании этого явления, не могут обнаружить, не говоря уже о смягчении, их проявления только посредством осознания.

Реальные последствия когнитивных искажений

[ редактировать ]

Существует мало исследований, явно связывающих когнитивные искажения с реальными инцидентами с крайне негативными последствиями. Примеры:

  • Одно исследование [11] явно сосредоточено на когнитивной предвзятости как потенциальном факторе, способствующем событию уровня катастрофы; В этом исследовании изучались причины гибели нескольких членов двух экспедиционных групп на Эвересте в течение двух дней подряд в 1996 году . Это исследование пришло к выводу, что на горе «действовали» несколько когнитивных предубеждений, а также другие человеческие динамики. Это был случай, когда высококвалифицированные, опытные люди нарушали свои собственные правила, по-видимому, под влиянием эффекта самоуверенности , ошибки невозвратных затрат , эвристики доступности и, возможно, других когнитивных искажений. Пять человек, включая обоих руководителей экспедиции, погибли, несмотря на явные предупреждения на брифингах до и во время восхождения на Эверест. Помимо ошибок лидеров, большинство членов команды, хотя и осознавали ошибочность суждений своего лидера, не смогли настоять на выполнении установленных правил восхождения.
  • В MarketBeat 2010 года исследовании [12] Немецкие исследователи изучили роль, которую некоторые когнитивные искажения могли сыграть в мировом финансовом кризисе, начавшемся в 2007 году. Их вывод заключался в том, что уровень знаний биржевых аналитиков и трейдеров делал их крайне устойчивыми к сигналам, которые не соответствовали их убеждениям в продолжении экономического роста. статус-кво. В тисках сильной предвзятости подтверждения, усиленной эффектом чрезмерной самоуверенности и предвзятостью статус-кво , они, по-видимому, не могли увидеть сигналы финансового краха, даже после того, как они стали очевидными для неспециалистов.
  • Аналогичным образом, Канеман , лауреат Нобелевской премии по экономике, сообщает: [13] В рецензируемом исследовании выяснилось, что опытные финансовые менеджеры действовали «не лучше, чем случайно», во многом из-за тех же факторов, о которых сообщалось в исследовании выше, которые он назвал «иллюзией мастерства».

Существуют многочисленные расследования инцидентов, показавшие, что человеческая ошибка сыграла центральную роль в весьма негативных потенциальных или фактических реальных результатах, в которых проявление когнитивных искажений является вероятным компонентом. Примеры:

  • Инцидент Гимли с планером . [14] в котором 23 июля 1983 года у самолета Air Canada из Монреаля в Эдмонтон закончилось топливо на высоте 41 000 футов над Манитобой из-за ошибки измерения при дозаправке, результат, который позже был признан результатом ряда непроверенных предположений, сделанных наземным персоналом. Не имея возможности управлять радио, радаром или другими навигационными средствами, а также управляя поверхностями управления самолетом только вручную, летному экипажу удалось обнаружить заброшенную взлетно-посадочную полосу канадских ВВС недалеко от Гимли, Манитоба. Без мощности двигателя и с помощью только ручного торможения колес пилот опустил самолет с 61 пассажиром и экипажем и благополучно остановил его. Такой результат стал результатом мастерства (пилот имел опыт планера) и удачи (второй пилот просто узнал о взлетно-посадочной полосе); Погибших не было, повреждения самолета были скромными, и были знающие выжившие, которые могли сообщить об изменениях в процедурах заправки топливом во всех канадских аэропортах.
  • Гибель марсианского климатического орбитального аппарата . [15] который 23 сентября 1999 года «встретился с Марсом на неприемлемо низкой высоте» и был потерян. НАСА описало системную причину этой неудачи как организационный сбой, при этом конкретной, непосредственной причиной были непроверенные предположения команд миссии относительно сочетания метрических и обычных единиц измерения США, используемых в различных системах на корабле. В этой ситуации можно представить множество когнитивных искажений: предвзятость подтверждения , предвзятость ретроспективного взгляда , эффект чрезмерной уверенности, предвзятость доступности и даже слепое пятно предвзятости мета-предвзятости .
  • Инцидент шахте Салливан на [16] 18 мая 2006 года, когда два горняка и два фельдшера на закрытой шахте Салливан в Британской Колумбии, Канада, специально обученные мерам безопасности, погибли из-за того, что не смогли понять опасную для жизни ситуацию, которая, оглядываясь назад, была очевидна. Первый погибший человек не смог точно различить бескислородную среду на дне отстойника в помещении для отбора проб, куда можно было попасть по лестнице. После первой гибели трое других сотрудников, прошедших подготовку в опасных оперативных ситуациях, один за другим погибли точно таким же образом, каждый из которых, по-видимому, не принимал во внимание доказательства судьбы предыдущих жертв. Одной только силы предвзятости подтверждения было бы достаточно, чтобы объяснить, почему это произошло, но, вероятно, проявились и другие когнитивные предвзятости.
  • , службы скорой помощи в Лондоне Сбои в работе в ходе которых несколько сбоев системы компьютерной диспетчеризации (CAD) привели к задержкам оказания услуг, не соответствующим техническим требованиям, и сообщениям о смертельных случаях, связанных с этими задержками. Особенно серьезным был сбой в системе в 1992 году: задержки в обслуживании до 11 часов привели, по оценкам, к 30 ненужным смертям в дополнение к сотням отложенных медицинских процедур. [17] Этот инцидент является одним из примеров того, как крупные проекты разработки компьютерных систем демонстрируют серьезные недостатки в планировании, проектировании, исполнении, тестировании, развертывании и обслуживании. [18] [19]
  • Атул Гаванде , опытный профессионал в области медицины, рассказывает [20] результаты инициативы в крупной больнице США, в рамках которой пробный запуск показал, что врачи пропускали по крайней мере один из 5 шагов в 1/3 некоторых хирургических случаев, после чего медсестрам были предоставлены полномочия и ответственность ловить врачей, пропускающих какие-либо операции. шаги в простом контрольном списке, направленные на снижение инфекций центральной линии. За последующий 15-месячный период уровень заражения снизился с 11% до 0%, удалось избежать 8 смертей и сэкономить около 2 миллионов долларов США на предотвратимых затратах.
  • Другие примеры негативных результатов на уровне катастроф, возникающих в результате человеческой ошибки, возможно, включая множественные когнитивные предубеждения: авария на ядерном объекте в Три-Майл-Айленде , гибель космического корабля «Челленджер» , пожар на Чернобыльском ядерном реакторе, крушение пассажирского самолета «Иран Эйр », неэффективная реакция на погодное явление, вызванное ураганом Катрина , и многие другие.

Каждое из примерно 250 известных на сегодняшний день когнитивных искажений также может привести к негативным последствиям в нашей повседневной жизни, хотя и редко столь серьезным, как в примерах выше. Иллюстративная выборка, описанная в многочисленных исследованиях: [1] [2] [3] [4] [5] [6] [7] [8] [9] [10]

  • Предвзятость подтверждения , тенденция искать только ту информацию, которая поддерживает предубеждения, и игнорировать ту, которая не поддерживает. Например, услышать только одну сторону политических дебатов или не принять доказательства того, что чья-то работа стала ненужной.
  • Эффект фрейма — тенденция реагировать на то, как оформлена информация, выходя за рамки ее фактического содержания. Например, отказ от операции, когда говорят, что вероятность неудачи составляет 10%, тогда как можно было бы выбрать операцию, если бы сказали, что вероятность успеха составляет 90%, или решение не выбирать донорство органов в рамках продления водительских прав, когда по умолчанию это «Нет».
  • Предвзятость привязки , тенденция давать оценку около суммы реплики, которая могла быть или не быть предложена намеренно. Например, составление ценового предложения на основе предпочтений менеджера или согласование цены покупки дома на основе начальной суммы, предложенной агентом по недвижимости, а не на основе объективной оценки стоимости.
  • Заблуждение игрока (также известное как предвзятость невозвратных издержек ), неспособность изменить свои ожидания, исходя из текущей ситуации. Например, отказ снова платить за замену утерянного билета на желаемое развлечение или отказ продать значительную длинную позицию по акциям на быстро падающем рынке.
  • Эвристика репрезентативности — тенденция судить о принадлежности чего-либо к классу на основе нескольких существенных характеристик без учета базовых показателей этих характеристик. Например, вера в то, что человек не станет алкоголиком, потому что у него отсутствуют некоторые характеристики алкогольного стереотипа, или что у человека больше шансов выиграть в лотерею, потому что он покупает билеты у того же продавца, что и несколько известных крупных победителей.
  • Эффект ореола — тенденция приписывать человеку непроверенные способности на основе наблюдаемых способностей. Например, поверить утверждению оскароносного актера о добыче атлантических тюленей или предположить, что высокий красивый мужчина умен и добр.
  • Предвзятость ретроспективного взгляда — тенденция оценивать свои предыдущие решения как более эффективные, чем они были на самом деле. Например, «вспомнить» свой прогноз о том, что Ванкувер проиграет Кубок Стэнли 2011 года, или «вспомнить» о том, что удалось определить непосредственную причину Великой рецессии 2007 года.
  • Эвристика доступности — тенденция считать, что то, что легко запоминается, более вероятно, чем то, что нет. Например, предположить, что информационная встреча по муниципальному планированию будет скучной, потому что последняя такая встреча, на которой вы присутствовали (по другой теме), была такой же, или не поверить обещанию вашего члена парламента бороться за равенство женщин, потому что он не показал вплоть до сбора средств для него на распродаже домашней выпечки.
  • Эффект попутчика — тенденция делать или верить то, что делают или верят другие. Например, проголосовать за политического кандидата, потому что ваш отец неизменно голосовал за партию этого кандидата, или не возражать против притеснений хулигана, потому что остальные ваши сверстники этого не делают.

На сегодняшний день

[ редактировать ]

Все большее число академических и профессиональных дисциплин выявляют средства смягчения когнитивных искажений. Далее следует характеристика предположений, теорий, методов и результатов в дисциплинах, связанных с эффективностью человеческого мышления, которые правдоподобно влияют на теорию и/или практику смягчения когнитивных искажений. В большинстве случаев это основано на явной ссылке на когнитивные предубеждения или на их смягчение, в других – на неустановленной, но очевидной применимости. Эта характеристика организована по принципу, отражающему историческую сегментацию дисциплин, хотя на практике наблюдается значительное совпадение.

Теория принятия решений

[ редактировать ]

Теория принятия решений , дисциплина, уходящая своими корнями в неоклассическую экономику , явно ориентирована на человеческое рассуждение, суждение, выбор и принятие решений, прежде всего в «одноразовых играх» между двумя агентами с точной информацией или без нее. Теоретическая основа теории принятия решений предполагает, что все лица, принимающие решения, являются рациональными агентами, пытающимися максимизировать экономическую ожидаемую ценность/полезность своего выбора, и что для достижения этой цели они используют формальные аналитические методы, такие как математика, вероятность, статистика и логика в рамках когнитивных ресурсов. ограничения. [21] [22] [23]

Нормативная, или предписывающая, теория принятия решений касается того, что люди должны делать, учитывая цель максимизации ожидаемой ценности/полезности; в этом подходе в моделях практиков нет явного представления бессознательных факторов, таких как когнитивные искажения, т.е. все факторы считаются параметрами сознательного выбора для всех агентов. Практики склонны рассматривать отклонения от того, что мог бы сделать рациональный агент, как «ошибки иррациональности», подразумевая, что смягчение когнитивных искажений может быть достигнуто только в том случае, если лица, принимающие решения, станут более похожими на рациональных агентов, хотя никаких явных мер для достижения этого не предлагается.

Позитивная, или описательная, теория принятия решений касается того, что люди на самом деле делают; практики склонны признавать постоянное существование «иррационального» поведения, и хотя некоторые упоминают человеческую мотивацию и предубеждения как возможные причины такого поведения, эти факторы не отражены явно в их моделях. Практики склонны рассматривать отклонения от того, что мог бы сделать рациональный агент, как свидетельство важных, но пока еще не понятных переменных принятия решений, и пока что не вносят явного или неявного вклада в теорию и практику смягчения когнитивных искажений.

Теория игр

[ редактировать ]

Теория игр , дисциплина, уходящая корнями в экономику и системную динамику , представляет собой метод изучения принятия стратегических решений в ситуациях, включающих многоэтапное взаимодействие с несколькими агентами с точной информацией или без нее. Как и в случае с теорией принятия решений, теоретическая основа теории игр предполагает, что все лица, принимающие решения, являются рациональными агентами, пытающимися максимизировать экономическую ожидаемую ценность/полезность своего выбора, и что для достижения этой цели они используют формальные аналитические методы, такие как математика, теория вероятности, статистика и т. д. и логика в условиях ограничений когнитивных ресурсов. [24] [25] [26] [27]

Одним из основных различий между теорией принятия решений и теорией игр является понятие «равновесия» — ситуации, в которой все агенты соглашаются относительно стратегии, поскольку любое отклонение от этой стратегии наказывает отклоняющегося агента. Несмотря на аналитические доказательства существования по крайней мере одного равновесия в широком диапазоне сценариев, предсказания теории игр, как и теории принятия решений, часто не соответствуют реальному человеческому выбору. [28] Как и в случае с теорией принятия решений, практики склонны рассматривать такие отклонения как «иррациональные» и вместо того, чтобы пытаться моделировать такое поведение, косвенно считают, что смягчение когнитивных искажений может быть достигнуто только в том случае, если лица, принимающие решения, станут более похожими на рациональных агентов.

Во всем диапазоне моделей теории игр многие из них не гарантируют существования равновесия, т.е. существуют конфликтные ситуации, в которых не существует набора стратегий агентов, которые, по мнению всех агентов, отвечают их интересам. Однако даже когда теоретическое равновесие существует, т.е. когда оптимальные стратегии принятия решений доступны для всех агентов, лица, принимающие решения в реальной жизни, часто не находят их; на самом деле иногда они, по-видимому, даже не пытаются их найти, что позволяет предположить, что некоторые агенты не всегда «рациональны». Теория игр, по-видимому, не допускает какого-либо другого агента, кроме рационального агента.

Поведенческая экономика

[ редактировать ]

В отличие от неоклассической экономики и теории принятия решений, поведенческая экономика и связанная с ней область, поведенческие финансы , явно учитывают влияние социальных, когнитивных и эмоциональных факторов на экономические решения людей. Для достижения этой цели эти дисциплины сочетают в себе идеи психологии и неоклассической экономики . [29] [30] [31]

Теория перспектив [32] был первым источником вдохновения для этой дисциплины и получил дальнейшее развитие среди ее практиков. Это одна из самых ранних экономических теорий, которые открыто признают понятие когнитивной предвзятости, хотя сама модель учитывает лишь некоторые из них, включая неприятие потерь , предвзятость привязки и корректировки , эффект владения и, возможно, другие. В формальной теории перспектив смягчения когнитивных искажений не упоминается, и нет никаких свидетельств рецензируемых работ по смягчению когнитивных искажений в других областях этой дисциплины.

Однако Дэниел Канеман и другие авторы недавних статей в деловых и торговых журналах, посвященных идее смягчения когнитивных искажений в ограниченной форме. [33] В этих статьях утверждается, что смягчение когнитивных искажений необходимо, и предлагаются общие предложения о том, как этого добиться, хотя руководство ограничивается лишь несколькими когнитивными искажениями и не может быть самоочевидно распространено на других.

Нейроэкономика

[ редактировать ]

Нейроэкономика — это дисциплина, ставшая возможной благодаря достижениям в области технологий визуализации активности мозга. Эта дисциплина объединяет некоторые идеи экспериментальной экономики , поведенческой экономики, когнитивной науки и социальных наук в попытке лучше понять нейронную основу принятия решений человеком.

Эксперименты с фМРТ показывают, что лимбическая система постоянно участвует в разрешении ситуаций принятия экономических решений, имеющих эмоциональную валентность , причем вывод состоит в том, что эта часть человеческого мозга участвует в создании отклонений от рационального выбора агентов, отмечаемых при принятии эмоционально валентных экономических решений. Специалисты в этой области продемонстрировали корреляцию между активностью мозга в этой части мозга и проспективной активностью, а активация нейронов оказывает измеримое и последовательное влияние на принятие решений. [34] [35] [36] [37] [38] Эти результаты следует считать умозрительными и предварительными, но, тем не менее, они позволяют предположить возможность идентификации в реальном времени состояний мозга, связанных с проявлением когнитивных искажений, и возможность целенаправленного вмешательства на нейронном уровне для достижения смягчения когнитивных искажений.

Когнитивная психология

[ редактировать ]

Несколько направлений исследований в этой дисциплине примечательны своей возможной связью с теорией смягчения когнитивных искажений.

Один из подходов к смягчению последствий, первоначально предложенный Дэниелом Канеманом и Амосом Тверски , развитый другими и примененный в реальных ситуациях, — это прогнозирование референтного класса . Этот подход включает в себя три этапа: принимая во внимание конкретный проект, определить ряд прошлых проектов, которые имеют большое количество общих элементов с рассматриваемым проектом; для данной группы проектов установить вероятностное распределение прогнозируемого параметра; и сравнить конкретный проект с группой аналогичных проектов, чтобы установить наиболее вероятное значение выбранного параметра для конкретного проекта. Этот просто изложенный метод маскирует потенциальную сложность его применения в реальных проектах: немногие проекты можно охарактеризовать одним параметром; наличие нескольких параметров экспоненциально усложняет процесс; сбор достаточных данных для построения надежных распределений вероятностей проблематичен; результаты проектов редко бывают однозначными, а их отчеты часто искажаются интересами заинтересованных сторон. Тем не менее, этот подход имеет свои преимущества как часть протокола по снижению когнитивных искажений, когда процесс применяется с максимальной тщательностью, в ситуациях, когда доступны достоверные данные и можно ожидать сотрудничества со всеми заинтересованными сторонами.

, основанная на рассмотрении фактического механизма человеческого рассуждения, Концепция ограниченной рациональности может способствовать значительному прогрессу в смягчении когнитивных искажений. Первоначально задумано Гербертом А. Саймоном. [39] В 1960-е годы, приведя к концепции удовлетворения, а не оптимизации, эта идея нашла экспериментальное выражение в работах Герда Гигеренцера и других. Одно направление работы Гигеренцера привело к созданию «быстрого и экономного» механизма человеческого рассуждения. [40] который фокусировался на главенстве «распознавания» в принятии решений, подкрепленном эвристикой разрешения связей, действующей в среде с низким уровнем когнитивных ресурсов. В серии объективных испытаний модели, основанные на этом подходе, превзошли модели, основанные на рациональных агентах, максимизирующих свою полезность с помощью формальных аналитических методов. Одним из вкладов этого подхода в теорию и практику смягчения когнитивных искажений является то, что он направлен на смягчение последствий без явной ориентации на отдельные когнитивные искажения и фокусируется на самом механизме рассуждения, чтобы избежать проявления когнитивных искажений.

Интенсивное ситуационное обучение способно дать людям то, что кажется смягчением когнитивных искажений при принятии решений, но представляет собой фиксированную стратегию выбора единственного наилучшего ответа на распознанные ситуации независимо от «шума» в окружающей среде. Исследования и анекдоты, опубликованные в популярных СМИ [13] [20] [41] [42] Когда капитаны пожарных, командиры военных взводов и другие люди делают правильные и поспешные суждения в условиях крайней необходимости, можно предположить, что эти реакции, скорее всего, не поддаются обобщению и могут способствовать теории и практике смягчения когнитивных искажений только для общей идеи интенсивного обучения в конкретной области.

Аналогичным образом, подготовка на экспертном уровне по таким фундаментальным дисциплинам, как математика, статистика, теория вероятности, логика и т. д., может быть полезной для смягчения когнитивных искажений, когда ожидаемый уровень производительности отражает такие формальные аналитические методы. Тем не менее, исследование специалистов по разработке программного обеспечения [43] предполагает, что для задачи оценки проектов программного обеспечения, несмотря на сильный аналитический аспект этой задачи, стандарты производительности, ориентированные на социальный контекст на рабочем месте, были гораздо более доминирующими, чем формальные аналитические методы. Этот вывод, если его можно обобщить на другие задачи и дисциплины, сведет на нет потенциал обучения на экспертном уровне как подхода к смягчению когнитивных искажений и может внести узкую, но важную идею в теорию и практику смягчения когнитивных искажений.

Лабораторные эксперименты, в которых смягчение когнитивных искажений является явной целью, редки. Одно исследование 1980 года [44] исследовали идею уменьшения предвзятости оптимизма , показывая испытуемым результаты других испытуемых в результате решения задачи рассуждения, в результате чего их последующее принятие решений было несколько искаженным.

Недавнее исследование Мореведжа и его коллег (2015) выявило доказательства существования общепредметных форм устранения предвзятости. В двух лонгитюдных экспериментах методы обучения, направленные на устранение предвзятости, с использованием интерактивных игр, которые выявили шесть когнитивных искажений (привязка, предвзятое слепое пятно, предвзятость подтверждения, фундаментальная ошибка атрибуции, предвзятость проекции и репрезентативность), предоставили участникам индивидуализированную обратную связь, стратегии смягчения и практику. при немедленном сокращении совершения смещений более чем на 30% и в долгосрочной перспективе (отсрочка на 2–3 месяца) более чем на 20%. Обучающие видеоролики также были эффективны, но менее эффективны, чем игры. [45]

Эволюционная психология

[ редактировать ]

Эта дисциплина явно бросает вызов распространенному мнению, что люди являются рациональными агентами, максимизирующими ожидаемую ценность/полезность, используя для этого формальные аналитические методы. Такие практики, как Космидес , Туби, Хазелтон, Конфер и другие, утверждают, что когнитивные предубеждения правильнее называть когнитивной эвристикой и их следует рассматривать как набор когнитивных ярлыков. [46] [47] [48] [49] выбраны под давлением эволюции и, таким образом, являются особенностями, а не недостатками, как предполагается в преобладающей точке зрения. Существует множество теоретических моделей и анализов, подтверждающих эту точку зрения. [50] Эта точка зрения предполагает, что отрицательные результаты рассуждения возникают в первую очередь потому, что проблемы рассуждения, с которыми сталкиваются современные люди, а также социальный и политический контекст, в котором они представлены, предъявляют требования к нашему древнему «эвристическому набору инструментов», которые в лучшем случае создают путаницу в отношении того, какую эвристику применять. в данной ситуации и в худшем случае порождают то, что приверженцы распространенной точки зрения называют «ошибками рассуждения».

В том же ключе Мерсье и Спербер описывают теорию [51] для предвзятости подтверждения и, возможно, других когнитивных предубеждений, что является радикальным отходом от преобладающей точки зрения, согласно которой человеческое мышление предназначено для оказания помощи в принятии индивидуальных экономических решений. Их точка зрения предполагает, что оно развилось как социальное явление и что целью была аргументация, то есть убедить других и быть осторожными, когда другие пытаются убедить нас. Пока слишком рано говорить о том, применима ли эта идея в более общем плане к другим когнитивным искажениям, но точка зрения, поддерживающая теорию, может быть полезна при построении теории и практики смягчения когнитивных искажений.

Возникает сближение между эволюционной психологией и концепцией разделения нашего механизма рассуждения (приблизительно) на «Систему 1» и «Систему 2». [13] [46] С этой точки зрения Система 1 является «первой линией» когнитивной обработки всех восприятий, включая внутренне генерируемые «псевдовосприятия», которые автоматически, подсознательно и почти мгновенно производят эмоционально валентные суждения об их возможном влиянии на благополучие человека. . Напротив, Система 2 отвечает за «исполнительный контроль», воспринимая суждения Системы 1 как рекомендации, делая прогнозы на будущее посредством прогнозирования их реализации, а затем выбирая, какие рекомендации, если таковые имеются, действовать. С этой точки зрения, Система 2 медлительна, простодушна и ленива, обычно по умолчанию выполняет рекомендации Системы 1 и игнорирует их только тогда, когда интенсивно обучена этому или когда это может привести к когнитивному диссонансу. С этой точки зрения наш «эвристический инструментарий» в основном находится в Системе 1, что соответствует мнению о том, что когнитивные искажения являются бессознательными, автоматическими и их очень трудно обнаружить и преодолеть. Практики эволюционной психологии подчеркивают, что наш эвристический инструментарий, несмотря на кажущееся обилие приписываемых ему «ошибок рассуждения», на самом деле работает исключительно хорошо, учитывая скорость, с которой он должен работать, диапазон выносимых им суждений и ставки. Представление Системы 1/2 о механизме человеческого рассуждения кажется эмпирически правдоподобным (см. Неврология , далее, а также эмпирические и теоретические аргументы против см. [52] [53] [54] ) и, таким образом, может внести вклад в теорию и практику смягчения когнитивных искажений.

Нейронаука

[ редактировать ]

Нейронаука предлагает эмпирическую поддержку концепции разделения механизма человеческого мышления на Систему 1 и Систему 2, как описано выше, на основе экспериментов по визуализации активности мозга с использованием технологии фМРТ . Хотя это понятие должно оставаться спекулятивным до тех пор, пока не будет проведена дальнейшая работа, оно, по-видимому, является продуктивной основой для разработки вариантов построения теории и практики смягчения когнитивных искажений. [55] [56]

Антропология

[ редактировать ]

Антропологи представили общепринятые сценарии развития событий [57] [58] [59] [60] [61] о том, как жили наши прародители и что было важно в их жизни. Эти сценарии социальной, политической и экономической организации не являются единообразными на протяжении всей истории и географии, но существует определенная стабильность на протяжении всей эпохи палеолита и, голоцена в частности, . Это, наряду с результатами эволюционной психологии и нейробиологии, приведенными выше, позволяет предположить, что наши когнитивные эвристики проявляют себя лучше всего, когда действуют в социальной, политической и экономической среде, наиболее похожей на эпоху палеолита/голоцена. Если это правда, то одним из возможных способов добиться хотя бы некоторого смягчения когнитивных искажений является имитация, насколько это возможно, социальных, политических и экономических сценариев палеолита/голоцена, когда человек выполняет задачу рассуждения, которая может вызвать негативные эффекты когнитивного искажения.

Инженерия человеческой надежности

[ редактировать ]

Ряд парадигм, методов и инструментов повышения надежности работы человека [20] [62] [63] [64] [65] [66] были разработаны в рамках дисциплины проектирования надежности человека . Хотя некоторое внимание уделяется самому механизму человеческого мышления, доминирующий подход заключается в том, чтобы предвидеть проблемные ситуации, ограничивать человеческие действия с помощью процедурных мандатов и направлять человеческие решения с помощью фиксированных протоколов реагирования, специфичных для рассматриваемой области. Хотя этот подход может обеспечить эффективное реагирование на критические ситуации в условиях стресса, используемые протоколы следует рассматривать как имеющие ограниченную возможность обобщения за пределами области, для которой они были разработаны, при этом подразумевается, что решения в этой дисциплине могут обеспечить лишь общие рамки для теории и практики. смягчения когнитивных искажений.

Машинное обучение

[ редактировать ]

Машинное обучение , отрасль искусственного интеллекта , использовалось для исследования человеческого обучения и принятия решений. [67]

Одним из методов, особенно применимым для смягчения когнитивных искажений, является обучение нейронных сетей и выбор выбора . Этот подход основан на воображаемой структуре и функциях реальных биологических нейронных сетей в человеческом мозге . Многоуровневая структура сбора и распространения перекрестных сигналов, типичная для моделей нейронных сетей , где веса определяют вклад сигналов в каждое соединение, позволяет очень маленьким моделям выполнять довольно сложные задачи по принятию решений с высокой точностью.

В принципе, такие модели способны моделировать процесс принятия решений, учитывающий потребности и мотивацию человека в социальных контекстах, и предполагают их учет в теории и практике смягчения когнитивных искажений. Проблемы реализации этого потенциала: накопление значительного количества подходящих реальных «обучающих наборов» для нейронной сети таких моделей; описание реальных ситуаций и результатов принятия решений для эффективного управления моделями; и отсутствие прямого сопоставления внутренней структуры нейронной сети с компонентами механизма человеческого мышления.

Программная инженерия

[ редактировать ]

Эта дисциплина, хотя и не ориентирована на улучшение результатов человеческого мышления как конечной цели, является дисциплиной, в которой необходимость такого улучшения явно признана. [18] [19] хотя термин «смягчение когнитивных искажений» не используется повсеместно.

Одно исследование [68] определяет конкретные шаги по противодействию последствиям предвзятости подтверждения на определенных этапах жизненного цикла разработки программного обеспечения.

Еще одно исследование [43] делает шаг назад от сосредоточения внимания на когнитивных искажениях и описывает структуру для определения «норм производительности», критериев, по которым результаты рассуждений оцениваются как правильные или неправильные, чтобы определить, когда требуется смягчение когнитивных искажений, чтобы помочь в выявлении предубеждений, которые могут быть «в игре» в реальной ситуации и впоследствии предписывать меры по смягчению последствий. Это исследование относится к широкой исследовательской программе, целью которой является разработка теории и практики смягчения когнитивных искажений.

Другой

[ редактировать ]

Другие инициативы, направленные непосредственно на теорию и практику смягчения когнитивных искажений, могут существовать в других дисциплинах под другими названиями, отличными от использованных здесь.

См. также

[ редактировать ]

Ссылки

[ редактировать ]
  1. ^ Jump up to: а б Ариели, Д. (2008). Предсказуемо иррационально: скрытые силы, которые формируют наши решения, Харпер Коллинз.
  2. ^ Jump up to: а б Эпли, Н.; Гилович, Т. (2006). «Эвристика закрепления и корректировки: почему корректировок недостаточно». Психологическая наука . 17 (4): 311–318. дои : 10.1111/j.1467-9280.2006.01704.x . ПМИД   16623688 . S2CID   10279390 .
  3. ^ Jump up to: а б Гигеренцер, Г. (2006). «Ограниченное и рациональное». Современные дебаты в когнитивной науке. Р. Дж. Стейнтон, Blackwell Publishing: 115–133.
  4. ^ Jump up to: а б Гилович, Т. (1991). Откуда мы знаем, что не так: ошибочность человеческого разума в повседневной жизни. Нью-Йорк, Нью-Йорк, Свободная пресса.
  5. ^ Jump up to: а б Хаммонд, Дж. С.; Кини, РЛ; и др. (2006). «Скрытые ловушки при принятии решений». Гарвардское деловое обозрение . 84 (1): 118–126.
  6. ^ Jump up to: а б Хаселтон, М.Г., Д. Нетти и др. (2005). Эволюция когнитивных искажений. Справочник по эволюционной психологии. ДМ Бусс. Хобокен, Уайли: 724–746.
  7. ^ Jump up to: а б Генрих; и др. (2010). «Рынки, религия, размер сообщества и эволюция справедливости и наказания». Наука . 327 (5972): 1480–1484. Бибкод : 2010Sci...327.1480H . CiteSeerX   10.1.1.714.7830 . дои : 10.1126/science.1182238 . ПМИД   20299588 . S2CID   4803905 .
  8. ^ Jump up to: а б Лерер, Дж. (2009). Как мы решаем. Нью-Йорк, штат Нью-Йорк, Хоутон Миффлин Харкорт.
  9. ^ Jump up to: а б Нозик, Р. (1993). Природа рациональности. Юинг, Нью-Джерси, Издательство Принстонского университета.
  10. ^ Jump up to: а б Шактер, Д.Л. (1999). «Семь грехов памяти: выводы психологии и когнитивной нейронауки». Американский психолог . 54 (3): 182–203. дои : 10.1037/0003-066x.54.3.182 . ПМИД   10199218 . S2CID   14882268 .
  11. ^ Роберто, Массачусетс (2002). «Уроки Эвереста: взаимодействие когнитивных искажений, психологии, безопасности и сложности системы». Обзор управления Калифорнии (2002) 45 (1): 136–158.
  12. ^ Кнауф, М.; Будек, К.; Вольф, АГ; Гамбургер, К. (2010). «Алогичность биржевых брокеров: психологические эксперименты по влиянию предварительных знаний и предубеждений на логические рассуждения в торговле акциями» . ПЛОС ОДИН . 5 (10): e13483. Бибкод : 2010PLoSO...513483K . дои : 10.1371/journal.pone.0013483 . ПМЦ   2956684 . ПМИД   20976157 .
  13. ^ Jump up to: а б с Канеман, Д. (2011). Думать быстро и медленно, Doubleday Canada.
  14. ^ ID=19830723-0 (1983). «Отчет о происшествии с планером Гимли». Сеть авиационной безопасности http://aviation-safety.net
  15. ^ Стивенсон, Артур Г.; ЛаПиана, Лия С.; Малвилл, Дэниел Р.; Ратледж, Питер Дж.; Бауэр, Фрэнк Х.; Фолта, Дэвид; Дьюкман, Грег А.; Сакхейм, Роберт и др. (10 ноября 1999 г.). «Отчет комиссии по расследованию происшествий с марсианским климатическим орбитальным аппаратом, этап I». Национальное управление по воздуху и исследованию космического пространства.
  16. ↑ Министерство энергетики, шахт и нефтяных ресурсов Британской Колумбии: Отчет об аварии на шахте Салливан, 17 мая 2006 г.
  17. ^ Бейнон-Дэвис, П., «Отказ информационных систем: пример проекта LASCAD», Европейский журнал информационных систем, 1995.
  18. ^ Jump up to: а б Манн, CC (2002). «Почему программное обеспечение такое плохое». Обзор технологий, Массачусетский технологический институт, июль 2002 г.
  19. ^ Jump up to: а б Стейси, В.; Макмиллан, Дж. (1995). «Когнитивный уклон в разработке программного обеспечения» . Коммуникации АКМ . 38 (6): 57–63. дои : 10.1145/203241.203256 . S2CID   1505473 .
  20. ^ Jump up to: а б с Гаванде, А. (2010). Манифест контрольного списка : как все сделать правильно. Нью-Йорк, Нью-Йорк, Metropolitan Books.
  21. ^ Канеман, Д.; Талер, Р. (2006). «Максимизация полезности и опытная полезность» . Журнал экономических перспектив . 20 (1): 221–234. дои : 10.1257/089533006776526076 .
  22. ^ Фрей, Б.; Штутцер, А. (2002). «Чему экономисты могут научиться из исследований счастья?» (PDF) . Журнал экономической литературы . 40 (2): 402–35. дои : 10.1257/002205102320161320 . S2CID   13967611 .
  23. ^ Канеман, Д. (2000). «Ощущенная полезность и объективное счастье: сиюминутный подход». Глава 37 в: Д. Канеман и А. Тверски (ред.) «Выбор, ценности и рамки». Нью-Йорк: Издательство Кембриджского университета и Фонд Рассела Сейджа, 1999.
  24. ^ Бинмор, К. (2007). «Очень краткое введение в теорию игр». Издательство Оксфордского университета.
  25. ^ Камерер, К.Ф., Хо Т.-Х., Чонг, Дж.-К. (2002). «Теория когнитивной иерархии одноразовых игр и экспериментальный анализ». Форт, Ежеквартальный экономический журнал».
  26. ^ Бросета, Б., Коста-Гомес, М., Кроуфорд, В. (2000). «Познание и поведение в играх нормальной формы: экспериментальное исследование». Факультет экономики Калифорнийского университета в Сан-Диего, постоянная ссылка: http://www.escholarship.org/uc/item/0fp8278k .
  27. ^ Майерсон, РБ (1991). «Теория игр: анализ конфликта». Издательство Гарвардского университета.
  28. ^ Райт Дж.Р., Лейтон-Браун К., Поведенческие теоретико-игровые модели: байесовская основа для анализа параметров, появится в материалах 11-й Международной конференции по автономным агентам и мультиагентным системам (AAMAS 2012), (8 страниц), 2012 г. .
  29. ^ Фрей, Б.; Штутцер, А. (2002). «Чему экономисты могут научиться из исследований счастья?» (PDF) . Журнал экономической литературы . 40 (2): 402–35. дои : 10.1257/002205102320161320 . S2CID   13967611 .
  30. ^ Канеман, Д. «Карты ограниченной рациональности: психология для поведенческой экономики». Американский экономический обзор (декабрь 2003 г.): 1449–1475.
  31. ^ Муллайнатан, Сендхил и Ричард Талер. «Поведенческая экономика». Рабочий документ факультета экономики Массачусетского технологического института 00-27. (сентябрь 2000 г.).
  32. ^ Канеман, Д.; Тверский, А. (1979). «Теория перспектив: анализ решений в условиях риска». Эконометрика . 47 (2): 263–291. CiteSeerX   10.1.1.407.1910 . дои : 10.2307/1914185 . JSTOR   1914185 .
  33. ^ Канеман Д., Ловалло Д., Сибони О. (2011). «Прежде чем принять это важное решение». Harvard Business Review, июнь 2011 г.
  34. ^ Левенштейн, Джордж; Рик, Скотт; Коэн, Джонатан Д. (январь 2008 г.). «Нейроэкономика». Ежегодный обзор психологии . 59 (1): 647–672. doi : 10.1146/annurev.psych.59.103006.093710 . ПМИД   17883335 .
  35. ^ Рустичини, А (2009). «Нейроэкономика: что мы нашли и что нам искать?». Современное мнение в нейробиологии . 19 (6): 672–677. дои : 10.1016/j.conb.2009.09.012 . ПМИД   19896360 . S2CID   2281817 .
  36. ^ Падоа-Скиоппа, К.; Асад, Дж.А. (2007). «Представление экономической ценности в орбитофронтальной коре инвариантно для изменений меню» . Обзоры природы Неврология . 11 (1): 95–102. дои : 10.1038/nn2020 . ПМК   2646102 . ПМИД   18066060 .
  37. ^ Спренг, Р.Н., Мар, Р.А., Ким, ASN (2008). Общая нейронная основа автобиографической памяти, поиска, навигации, теории разума и режима по умолчанию: количественный метаанализ. Журнал когнитивной нейронауки (Epub перед печатью) (2010).
  38. ^ Джеймисон, Дж.; Вегенер, Дж. (2010). «Множество «Я» в межвременном выборе» (PDF) . Журнал экономической психологии . 31 (5): 832–839. дои : 10.1016/j.joep.2010.03.004 .
  39. ^ Саймон, ХА (1991). «Ограниченная рациональность и организационное обучение». Организационная наука . 2 (1): 125–134. дои : 10.1287/orsc.2.1.125 .
  40. ^ Гигеренцер, Г.; Гольдштейн, Д.Г. (1996). «Рассуждение быстро и экономно: модели ограниченной рациональности». Психологический обзор . 103 (4): 650–669. CiteSeerX   10.1.1.174.4404 . дои : 10.1037/0033-295x.103.4.650 . ПМИД   8888650 .
  41. ^ Гладуэлл, М. (2006). Блинк: Сила мышления без мышления. Нью-Йорк, Нью-Йорк, Литтл, Браун и компания.
  42. ^ Шермер, М. (2010). Рецензия на книгу Пола Тагарда «Мозг и смысл жизни». Журнал Скептик. Альтадена, Калифорния, Общество скептиков. 16:60–61.
  43. ^ Jump up to: а б Конрой П., Крухтен П. (2012). «Нормы производительности: подход к сокращению объема работ при разработке программного обеспечения», который появится в IEEE Xplore на Канадской конференции по электротехнике и вычислительной технике 2012 года.
  44. ^ Вайнштейн, Северная Дакота (1980). «Нереальный оптимизм в отношении событий будущей жизни». Кафедра экологии человека и социальных наук, Колледж Кука, Рутгерс, Государственный университет». Журнал личности и социальной психологии . 39 (5): 806–820. CiteSeerX   10.1.1.535.9244 . doi : 10.1037/0022-3514.39.5.806 .
  45. ^ Морведж, СК; Юн, Х.; Скопеллити, И.; Симборски, CW; Коррис, Дж. Х.; Кассам, Канзас (13 августа 2015 г.). «Устранение предвзятости решений: улучшение процесса принятия решений с помощью одного обучающего вмешательства» (PDF) . Политические выводы из наук о поведении и мозге . 2 (1): 129–140. дои : 10.1177/2372732215600886 . S2CID   4848978 .
  46. ^ Jump up to: а б Космидес Л., Туби Дж. «Эволюционная психология: учебник для начинающих». на http://www.psych.ucsb.edu/research/cep/primer.html. Архивировано 28 февраля 2009 г. в Wayback Machine ».
  47. ^ Хазелтон, Миннесота; Брайант, Джорджия; Вилке, А.; Фредерик, Д.А.; Гальперин А.; Франкенхейс, МЫ; Мур, Т. (2009). «Адаптивная рациональность: эволюционный взгляд на когнитивные искажения». Социальное познание . 27 (5): 733–763. CiteSeerX   10.1.1.220.6198 . дои : 10.1521/soco.2009.27.5.733 .
  48. ^ Хаселтон, М.Г., Д. Нетти и др. (2005). «Эволюция когнитивных искажений». Справочник по эволюционной психологии. ДМ Бусс. Хобокен, Уайли: 724–746.
  49. ^ Конференция; и др. (2010). «Эволюционная психология: противоречия, вопросы, перспективы и ограничения». Американский психолог . 65 (2): 110–126. CiteSeerX   10.1.1.601.8691 . дои : 10.1037/a0018413 . ПМИД   20141266 .
  50. ^ Чудек, М.; Генрих, Дж. (2011). «Коэволюция культур и генов, норм-психология и возникновение человеческой просоциальности». Тенденции в когнитивных науках . 15 (5): 218–226. дои : 10.1016/j.tics.2011.03.003 . ПМИД   21482176 . S2CID   16710885 .
  51. ^ Мерсье, Х.; Спербер, Д. (2011). «Аргументативная теория» . Поведенческие и мозговые науки . 34 (2): 57–74. дои : 10.1017/s0140525x10000968 . ПМИД   21447233 . S2CID   5669039 .
  52. ' ^ Эванс, JBT (2006). Дуальные теории познания: некоторые вопросы. Труды ежегодного собрания Общества когнитивных наук» , 28 (28). https://cloudfront.escholarship.org/dist/prd/content/qt76d4d629/qt76d4d629.pdf
  53. ^ Гарсиа-Маркес, Л.; Феррейра, МБ (2011). «Друзья и враги построения теорий в психологической науке: расплывчатые дихотомии, единые теории познания и новый экспериментализм». Перспективы психологической науки . 6 (2): 192–201. дои : 10.1177/1745691611400239 . ПМИД   26162138 . S2CID   118743 .
  54. ^ Фидлер, К. и Хюттер, М. (2014). Пределы автоматизма. Дж. Шерман, Б. Гавронски и Ю. Троуп (ред.), Двойные процессы в социальной психологии (стр. 497–513). Нью-Йорк: Guilford Publications, Inc. https://www.researchgate.net/profile/Mandy_Huetter/publication/308789747_The_limits_of_automaticity/links/58ad4fd24585155ae77aefac/The-limits-of-automaticity.pdf
  55. ^ Дамасио, А. (2010). На ум приходит «Я»: построение сознательного мозга. Нью-Йорк, Нью-Йорк, Пантеон.
  56. ^ Чангё, Ж.-ПП, А. Дамасио и др., Ред. (2007). Нейробиология человеческих ценностей (исследования и перспективы нейронаук). Гейдельберг, Германия, Шпрингер.
  57. ^ Эмбер, CR (1978). Мифы об охотниках-собирателях , Питтсбургский университет системы высшего образования Содружества, 17 (4), стр. 439–448.
  58. ^ Габоу, СЛ (1977). «Структура населения и скорость эволюции мозга гоминид». Журнал эволюции человека . 6 (7): 643–665. дои : 10.1016/s0047-2484(77)80136-x .
  59. ^ Гамильтон, MJ; Милн, Британская Колумбия; Уокер, РС; Бургер, О.; Браун, Дж. Х. (2007). «Сложная структура социальных сетей охотников-собирателей» . Труды Королевского общества Б. 2007 (274): 2195–2203. дои : 10.1098/rspb.2007.0564 . ПМК   2706200 . ПМИД   17609186 .
  60. ^ Кун, СЛ; Стинер, MC (2006). «Что делать матери? Разделение труда среди неандертальцев и современных людей в Евразии». Современная антропология . 47 (6): 953–981. дои : 10.1086/507197 . S2CID   42981328 .
  61. ^ Марлоу, ФР (2005). «Охотники-собиратели и эволюция человека». Эволюционная антропология: проблемы, новости и обзоры . 14 (2): 54–67. дои : 10.1002/evan.20046 . S2CID   53489209 .
  62. ^ Гертман Д., Блэкман Х., Марбл Дж., Байерс Дж. и Смит К. (2005). Метод анализа надежности человека SPAR-H.
  63. ^ Холлнагель, Э. (1998). Когнитивная надежность и метод анализа ошибок: CREAM. Эльзевир.
  64. ^ Рот, Э. и др. (1994). Эмпирическое исследование производительности операторов в моделируемых чрезвычайных ситуациях, требующих когнитивных функций. NUREG/CR-6208, Научно-технический центр Вестингауза. Отчет подготовлен для Комиссии по ядерному регулированию.
  65. ^ Вигманн, Д. и Шаппелл, С. (2003). Подход к анализу авиационных происшествий с учетом человеческих ошибок: система анализа и классификации человеческого фактора. Эшгейт.
  66. ^ Уилсон, младший (1993). SHEAN (упрощенный код анализа человеческих ошибок) и автоматизированный THERP. Номер технического отчета Министерства энергетики США WINCO–11908.
  67. ^ Саттон, Р.С., Барто, А.Г. (1998). Коллекция электронных книг MIT CogNet; MITCogNet 1998, Адаптивные вычисления и машинное обучение, ISBN   978-0-262-19398-6 .
  68. ^ Калики, Г., Бенер, А., Арсиан, Б. (2010). «Анализ влияния корпоративной культуры, образования и опыта на уровень предвзятости подтверждения среди разработчиков и тестировщиков программного обеспечения». 32-я Международная конференция ADM/IEEE по программной инженерии – ICSE 2010, том 2: стр. 187–190.
[ редактировать ]
Retrieved from "https://en.wikipedia.org/w/index.php?title=Cognitive_bias_mitigation&oldid=1189921813"
Arc.Ask3.Ru: конец переведенного документа.
Arc.Ask3.Ru
Номер скриншота №: ef7940425dc40818b05e7f8786c204e8__1702579320
URL1:https://arc.ask3.ru/arc/aa/ef/e8/ef7940425dc40818b05e7f8786c204e8.html
Заголовок, (Title) документа по адресу, URL1:
Cognitive bias mitigation - Wikipedia
Данный printscreen веб страницы (снимок веб страницы, скриншот веб страницы), визуально-программная копия документа расположенного по адресу URL1 и сохраненная в файл, имеет: квалифицированную, усовершенствованную (подтверждены: метки времени, валидность сертификата), открепленную ЭЦП (приложена к данному файлу), что может быть использовано для подтверждения содержания и факта существования документа в этот момент времени. Права на данный скриншот принадлежат администрации Ask3.ru, использование в качестве доказательства только с письменного разрешения правообладателя скриншота. Администрация Ask3.ru не несет ответственности за информацию размещенную на данном скриншоте. Права на прочие зарегистрированные элементы любого права, изображенные на снимках принадлежат их владельцам. Качество перевода предоставляется как есть. Любые претензии, иски не могут быть предъявлены. Если вы не согласны с любым пунктом перечисленным выше, вы не можете использовать данный сайт и информация размещенную на нем (сайте/странице), немедленно покиньте данный сайт. В случае нарушения любого пункта перечисленного выше, штраф 55! (Пятьдесят пять факториал, Денежную единицу (имеющую самостоятельную стоимость) можете выбрать самостоятельно, выплаичвается товарами в течение 7 дней с момента нарушения.)