Этика количественной оценки
Этика количественной оценки - это изучение этических проблем , связанных с различными формами видимых или невидимых форм количественной оценки. Они могут включать в себя алгоритмы , метрики/ индикаторы , статистическое и математическое моделирование , как отмечается в обзоре различных аспектов социологии количественной оценки . [1]
По мнению Эспеланда и Стивенса [2] этика количественной оценки естественным образом произошла бы от социологии количественной оценки , особенно в эпоху, когда демократия, заслуги, участие, подотчетность и даже «справедливость» считаются лучше всего обнаруженными и оцененными через цифры. В своей классической работе «Доверие к числам» Теодор М. Портер [3] отмечает, как цифры отвечают требованию количественной объективности и могут для этого использоваться бюрократией или институтами для достижения легитимности и эпистемического авторитета.
По мнению Энди Стирлинга из Центра STEPS в Университете Сассекса, такие понятия, как « ожидаемая полезность », « теория принятия решений », « оценка жизненного цикла », « экосистемные услуги », «обоснованные научные решения» и « политика, основанная на фактических данных », содержат элемент риторики. '. Инструментальное применение этих методов и использование количественной оценки для создания впечатления точности может вызвать этические проблемы. [4]
По мнению Шейлы Джасанофф, эти технологии количественной оценки можно назвать «технологиями высокомерия ». [5] чья функция состоит в том, чтобы успокоить общественность, сохраняя при этом вращение колес науки и промышленности. Обратной стороной технологий высокомерия является то, что они могут порождать чрезмерную самоуверенность из-за видимости исчерпываемости; они могут упредить политическую дискуссию, превратив политическую проблему в техническую; и остаются фундаментально ограниченными в обработке того, что происходит за пределами их ограниченного диапазона предположений. Ясанофф противопоставляет технологии высокомерия «технологиям смирения» [6] которые допускают существование двусмысленности, неопределенности и сложности и стремятся вывести на поверхность этическую природу проблем. Технологии смирения также чувствительны к необходимости смягчить известные причины уязвимости людей, обратить внимание на распределение выгод и рисков, а также выявить те факторы и стратегии, которые могут способствовать или препятствовать социальному обучению.
Для Салли Энгл Мерри , изучающей показатели прав человека , гендерного насилия и торговли людьми в целях сексуальной эксплуатации , количественная оценка является технологией контроля, но является ли она реформистской или авторитарной, зависит от того, кто использовал ее власть и с какой целью. Она отмечает, что для того, чтобы сделать показатели менее вводящими в заблуждение и искажающими, следует следовать некоторым принципам: [7]
- демократизировать производство показателей
- параллельно проводить качественные исследования для проверки обоснованности предположений
- пусть индикаторы будут простыми
- протестировать или принять несколько кадров
- признать пределы различных мер
Область алгоритмов и искусственного интеллекта — это режим количественной оценки, в котором дискуссия об этике является более продвинутой, см., например, «Оружие математического разрушения». [8] Кэти О'Нил . Хотя объективность и эффективность являются некоторыми положительными свойствами, связанными с использованием алгоритмов, эти инструменты, представленные в форме черных ящиков, создают этические проблемы. [9] Таким образом, алгоритмы имеют возможность воздействовать на данные и принимать решения, но они в значительной степени не подлежат сомнению. [8] [10] Существование надзорного капитализма в теме Шошаны Зубовой [11] Книга 2019 года. Более воинственное прочтение опасностей, исходящих от искусственного интеллекта, можно найти в книге «Сопротивление искусственному интеллекту: антифашистский подход к искусственному интеллекту» . Дэна Маккуиллана [12]
См. также
[ редактировать ]- Вебинар в Центре исследований науки и технологий (CWTS) Лейденского университета , 5 февраля 2021 г.: «Этика количественной оценки» Ведео .
- Симпозиум по этике количественной оценки Берген (N0), декабрь 2019 г.
- Научно-исследовательский семинар по этике количественной оценки, Берген (N0), декабрь 2019 г.
- Социология количественной оценки
- Общество социальных исследований количественной оценки - SSSQ
- Специальный выпуск «Коммуникации в гуманитарных и социальных науках: этика количественного анализа: большие данные и управление с помощью цифр», июль 2020 г.
- Этика в математике
Ссылки
[ редактировать ]- ^ Э. Попп Берман и Д. Хиршман, «Социология количественной оценки: где мы сейчас?», Contemp. Социол., вып. 47, нет. 3, стр. 257–266, 2018.
- ^ В. Н. Эспеланд и М. Л. Стивенс, «Социология количественной оценки», Eur. Ж. Социол., вып. 49, нет. 3, стр. 401–436, 2008 г.
- ^ Т.М. Портер, Доверие к цифрам: стремление к объективности в науке и общественной жизни . Издательство Принстонского университета, 1995.
- ^ А. Стирлинг, «Как политика устраняет неопределенность - Центр STEPS», Центр STEPS, 2019.
- ^ Джасанов, С. Технологии смирения: участие граждан в управлении наукой. Минерва 41, 223–244 (2003).
- ^ Джасанов, С. Технологии смирения. Природа 450, 33 (2007).
- ^ С. Энгл Мерри, Соблазн количественной оценки: измерение прав человека, гендерного насилия и торговли людьми в целях сексуальной эксплуатации. Издательство Чикагского университета, 2016.
- ^ Jump up to: а б К. О'Нил, Оружие математического разрушения: как большие данные увеличивают неравенство и угрожают демократии. Издательская группа Random House, 2016.
- ^ Дж. Данахер и др., «Алгоритмическое управление: разработка программы исследований с помощью силы коллективного разума», Big Data Soc., vol. 4, нет. 2, стр. 1–21, 2017.
- ^ Р. Китчин, «Критическое мышление и исследование алгоритмов», Inf. Коммун. Соц., вып. 20, нет. 1, стр. 14–29, январь 2017 г.
- ^ Зубофф, Шошана (январь 2019 г.). «Наблюдательный капитализм и проблема коллективных действий» . Новый трудовой форум . 28 (1): 10–29. дои : 10.1177/1095796018819461 . ISSN 1095-7960 . S2CID 159380755 .
- ^ Маккуиллан, Д. (2022). Сопротивление искусственному интеллекту: антифашистский подход к искусственному интеллекту, издательство Бристольского университета, https://bristoluniversitypress.co.uk/resisting-ai .