Сопротивление ИИ
| Автор | Дэн МакКиллан |
|---|---|
| Язык | Английский |
| Предметы | Искусственный интеллект |
| Издатель | Издательство Бристольского университета |
Дата публикации | 2022 |
| Страницы | 190 |
| ISBN | 978-1529213508 |
Сопротивление искусственному интеллекту: антифашистский подход к искусственному интеллекту — это книга об искусственном интеллекте Дэна Маккуиллана (ИИ), опубликованная в 2022 году издательством Bristol University Press .
Содержание
[ редактировать ]Сопротивление ИИ принимает форму расширенного эссе, [ 1 ] который противопоставляет оптимистические взгляды на потенциал ИИ, утверждая, что ИИ лучше всего рассматривать как продолжение и усиление бюрократических форм дискриминации и насилия, что в конечном итоге способствует авторитарным результатам. [ 2 ] По мнению Маккуиллана, обещание ИИ об объективной исчисляемости противоречит эгалитарному и справедливому обществу. [ 3 ] [ 4 ] Маккуиллан использует выражение «насилие ИИ», чтобы описать, как – на основе непрозрачных алгоритмов – различные субъекты могут дискриминировать категории людей при доступе к работе, кредитам, медицинскому обслуживанию и другим льготам. [ 2 ]
В книге предполагается, что ИИ имеет политический резонанс с мягкими евгеническими подходами к оценке жизни в современных государствах всеобщего благосостояния. [ 5 ] и что ИИ демонстрирует евгенические черты в своей базовой логике, а также в своих технических операциях. [ 5 ] Аналогично с историческими евгениками, которые добиваются спасения государства путем стерилизации дефективных людей, чтобы государству не приходилось заботиться об их потомстве. [ 5 ]
Анализ Маккуиллана выходит за рамки известной критики систем искусственного интеллекта, способствующих нестабильности рынков труда, и обращается к «некрополитике», политике того, кто имеет право жить, а кто умереть. [ 2 ] [ 6 ] предлагает краткую историю машинного обучения – с его потребностью в «скрытом и недостаточно оплачиваемом труде», Хотя Маккуиллан в начале книги [ 6 ] его больше волнуют социальные последствия ИИ, а не его технические аспекты. [ 7 ] [ 6 ] Маккуиллан рассматривает ИИ как продолжение существующих бюрократических систем, которые уже маргинализируют уязвимые группы населения, что усугубляется тем фактом, что системы ИИ, обученные на существующих данных, вероятно, будут усиливать существующую дискриминацию, например, в попытках оптимизировать распределение благосостояния на основе существующих моделей данных. [ 7 ] в конечном итоге создав систему «самоусиливающегося социального профилирования». [ 8 ]
Разрабатывая связь между существующим бюрократическим насилием и искусственным интеллектом, Маккуиллан обращается к Ханны Арендт концепции о бездумном бюрократе в книге «Эйхман в Иерусалиме: доклад о банальности зла» , которая теперь становится алгоритмом, который, при отсутствии намерения, не может нести ответственность. , и, таким образом, наделен «алгоритмическим бездумием». [ 9 ]
Маккуиллан защищает слово «фашист» в названии работы, утверждая, что, хотя не весь ИИ является фашистским, эта новая технология контроля может в конечном итоге быть использована фашистскими или авторитарными режимами. [ 10 ] По мнению Маккуиллана, ИИ может способствовать распространению исключений как технология, которую невозможно должным образом регулировать, и как механизм более широкого распространения исключений. Примером сценария, в котором системы наблюдения с помощью искусственного интеллекта могут поднять дискриминацию на новый уровень, является инициатива по созданию зон, свободных от ЛГБТ, в Польше. [ 11 ] [ 7 ]
Скептически относясь к этическим нормам контроля над технологиями, Маккуиллан предлагает создавать народные и рабочие советы, а также другие формы гражданской активности для противодействия ИИ. [ 7 ] Глава под названием «Пост-машинное обучение» призывает к сопротивлению через течения мысли от феминистской науки ( теория точки зрения ), постнормальной науки ( расширенные сообщества сверстников ) и нового материализма ; Маккуиллан призывает читателя усомниться в значении слова «объективность» и призывает к необходимости альтернативных способов познания. [ 12 ] Среди добродетельных примеров сопротивления, которые, возможно, будут переняты самими работниками ИИ, Маккуиллан отмечает: [ 13 ] План Лукаса рабочих Lucas Aerospace Corporation , [ 14 ] в котором управление взяла на себя объявленная избыточной рабочая сила , переориентировав предприятие на полезную продукцию. [ 10 ]
Работа МакКвиллана [ 15 ]
предостерегает от «смягченных форм взаимодействия» с ИИ, таких как гражданские жюри, которые на первый взгляд выглядят как демократическое обсуждение но на самом деле может скрыть важные решения об ИИ, которые находятся за пределами ситуации взаимодействия (McQuillan 2022, 128).
В интервью о книге Маккуиллан называет себя «сторонником отмены ИИ». [ 16 ]
Прием
[ редактировать ]Книгу хвалят за «мастерское разбирает ИИ как эпистемологическую, социальную и политическую парадигму, [ 17 ] и за исследование того, как «ампутируется» большая часть данных, поступающих в «приватизированную инфраструктуру искусственного интеллекта». [ 18 ] из контекста или воплощенного опыта и в конечном итоге обработаны посредством краудсорсинга».
Что касается критики, то в обзоре в академическом журнале « Справедливость, власть и сопротивление» выражается несогласие с «кошмарными видениями Большого Брата», предложенными Маккуилланом, и утверждается, что, хотя многие элементы ИИ могут вызывать беспокойство, критика не должна основываться на карикатура на то, что такое ИИ, и делается вывод, что работа Маккуиллана - это «не столько теория, сколько манифест». [ 3 ] В другом обзоре отмечается «разрыв между техническими аспектами ИИ и социально-политическим анализом, который предлагает Маккуиллан». [ 7 ]
Хотя книга была опубликована до того, как разгорелись дебаты о ChatGPT и больших языковых моделях , она не потеряла актуальности для обсуждения ИИ . [ 19 ] Отмечается [ 20 ] за предположение о связи между верой в искусственный интеллект и верой в расовые и гендерные представления об интеллекте в целом, согласно которым привилегирован определенный тип рационального, измеримого интеллекта, что приводит к «историческим представлениям об иерархиях бытия». [ 21 ]
Блог Reboot похвалил Маккуиллана за предложение теории вреда ИИ (почему ИИ может в конечном итоге причинить вред людям и обществу), которая не просто поощряет изолированное решение конкретных прогнозируемых проблем с системами, ориентированными на ИИ: предвзятость, неинклюзивность, эксплуатация, экологические проблемы. деструктивность, непрозрачность и неоспариваемость. [ 12 ]
Для [ 22 ] образовательная политика могла бы также обратить внимание на ИИ, следуя за чтением МакКвиллана:
В своей книге «Сопротивление ИИ» Дэн МакКиллан утверждает, что «Когда мы думаем о реальности ИИ, мы не можем отделить вычисления в коде от социального контекста его применения». современные применения ИИ усиливают существующее неравенство и несправедливость, а также углубляют социальные разногласия и нестабильность. В его книге приводятся веские аргументы в пользу предвидения этих последствий и активного сопротивления им на благо общества.
Видео [ 19 ] [ 23 ] и подкасты [ 1 ] [ 24 ] [ 25 ] с интересом к искусственному интеллекту и новым технологиям, обсудили книгу.
См. также
[ редактировать ]Ссылки
[ редактировать ]- ^ Jump up to: а б Садовский, Джатан; Онгвесо, Эдвард младший; Маккуиллан, Дэн (2022). «186. Отказ от повседневного фашизма искусственного интеллекта (при участии Дэна МакКиллана)» . Эта машина убивает (Подкаст) . Проверено 30 января 2024 г. - через SoundCloud .
- ^ Jump up to: а б с Росси, Никола А. (12 июля 2022 г.). « Сопротивление искусственному интеллекту – обзор» . OrwellSociety.com .
- ^ Jump up to: а б Селькяля, Тони (1 ноября 2022 г.). «Здоровая бесполезность: поиск другого ИИ» . Справедливость, сила и сопротивление . 5 (3): 322–330. дои : 10.1332/PLPB9191 .
- ^ Маккенна, Брайан (28 июля 2023 г.). « Сопротивление ИИ » . Компьютерный еженедельник .
- ^ Jump up to: а б с ван Тоорн, Г., Солдатич, К. (9 апреля 2024 г.). «Инвалидность, расизм и призрак евгеники в цифровом благосостоянии» . Журнал социологии . SAGE Publications Ltd: 14407833241244828. doi : 10.1177/14407833241244828 . ISSN 1440-7833 .
- ^ Jump up to: а б с Голумбия, Дэвид (1 октября 2023 г.). « Сопротивление искусственному интеллекту: антифашистский подход к искусственному интеллекту », Дэн Маккуиллан . Критический ИИ . 1 (1–2). дои : 10.1215/2834703x-10734967 . S2CID 263647209 .
- ^ Jump up to: а б с д и Штюрмер, Милан; Кэрриган, Марк (16 ноября 2023 г.). « Сопротивление искусственному интеллекту: антифашистский подход к искусственному интеллекту – обзор» . Блог о влиянии LSE . Лондонская школа экономики и политических наук .
- ^ Ноулз, Бран; Фледдерйоханн, Жасмин; Ричардс, Джон Т.; Варшней, Куш Р. (июнь 2023 г.). «Надежный ИИ и логика межсекционного сопротивления». FAccT '23: Материалы конференции ACM 2023 года по вопросам справедливости, подотчетности и прозрачности . Нью-Йорк: Ассоциация вычислительной техники . стр. 172–182. дои : 10.1145/3593013.3593986 .
- ^ Маккуиллан (2022) , стр. 62–63.
- ^ Jump up to: а б Кловиг Скелтон, Себастьян (1 июня 2023 г.). «Интервью с искусственным интеллектом: Дэн Маккуиллан, эксперт по критическим вычислениям» . Компьютерный еженедельник .
- ^ Маккуиллан (2022) , стр. 75–77.
- ^ Jump up to: а б Тан, Джойс; Маккейн, Андрус; Маккуиллан, Дэн (2022). «Сопротивление искусственному интеллекту при участии Дэна МакКиллана» . Перезагрузить . Проверено 3 марта 2024 г.
- ^ Маккуиллан (2022) , стр. 126, 141.
- ^ «План Лукаса: как зеленые и профсоюзные деятели могут объединиться для общего дела» . TheEcological.org . 2 ноября 2016 г.
- ^ Лисен Ф., Вятт С. (31 декабря 2024 г.). «Отказ от участия: колебания по поводу разработки ответственного взаимодействия пациентов с искусственным интеллектом в здравоохранении» . Журнал ответственных инноваций . 11 (1). Рутледж: 2300161. doi : 10.1080/23299460.2023.2300161 . ISSN 2329-9460 .
- ^ Кремакова Милена; Маккуиллан, Дэн (6 июня 2023 г.). «Дэн Маккуиллан в беседе: большие данные, глубокое обучение и сдерживание апокалипсиса». «Социологическое обозрение» Журнал . дои : 10.51428/tsr.inuk8253 .
- ^ Кабельо Фернандес-Дельгадо, Ф. (14 января 2024 г.). «Дэн Маккуиллан, Сопротивление искусственному интеллекту: антифашистский подход к искусственному интеллекту». Международный журнал коммуникации . 18 :4. ISSN 1932-8036 .
- ^ Маккуиллан (2022) , с. 13.
- ^ Jump up to: а б Шарп, Оли (2023). «Резюме и обзор книги: Сопротивление искусственному интеллекту Дэна Маккуиллана, комментарий» . Вперед, Мета . Проверено 30 января 2024 г. - через YouTube .
- ^ Браун, М. (2023). «Дымовая завеса» . AWorkingLibrary.com . Проверено 16 февраля 2024 г.
- ^ Маккуиллан (2022) , с. 90.
- ^ Уильямсон, Б. (1 марта 2024 г.). «Социальная жизнь ИИ в образовании» . Международный журнал искусственного интеллекта в образовании . 34 (1): 97–104. дои : 10.1007/s40593-023-00342-5 . ISSN 1560-4306 .
- ^ Скарф, Тим; Маккуиллан, Дэн (2023). «#109 – Доктор Дэн Маккуиллан – Сопротивление ИИ » . Уличный разговор о машинном обучении . Проверено 30 января 2024 г. - через YouTube .
- ^ Уикхэм, Эрик; Маккуиллан, Дэн (9 марта 2023 г.). «Почему мы должны противостоять искусственному интеллекту с Дэном МакКилланом» . Технологии нас не спасут (Подкаст). Медиа-сеть «Предвестник» . Проверено 30 января 2024 г. - через Apple Podcasts.
- ^ Эдвардс, Майло; Кесвани, Хусейн; Авизандум, Алиса; Маккуиллан, Дэн; и др. (4 апреля 2023 г.). "Dark satanic Data Mills с участием Дэна МакКиллана" . TrashFuture (Подкаст) . Проверено 30 января 2024 г. - через PodBean.
- Маккуиллан, Дэн (2022). Сопротивление искусственному интеллекту: антифашистский подход к искусственному интеллекту . Издательство Бристольского университета. ISBN 9781529213508 .