Цифровая красная черта
| Часть серии о |
| Дискриминация |
|---|
 |
«Цифровая красная линия» — это практика создания и сохранения неравенства между уже маргинализированными группами, в частности, за счет использования цифровых технологий, цифрового контента и Интернета. [ 1 ] Концепция «цифровой красной линии» является продолжением практики «красной линии» в сфере жилищной дискриминации. [ 2 ] [ 3 ] историческая юридическая практика в Соединенных Штатах и Канаде, восходящая к 1930-м годам, когда на картах были проведены красные линии для обозначения бедных и преимущественно черных кварталов, которые считались непригодными для кредитов или дальнейшего развития, что создавало большие экономические различия между районами. [ 4 ] [ 5 ] Этот термин был популяризирован доктором Крисом Гиллиардом, исследователем конфиденциальности, который определяет цифровую красную черту как «создание и поддержание технологических практик, политик, педагогики и инвестиционных решений, которые укрепляют классовые границы и дискриминируют определенные группы». [ 6 ] [ 7 ]
Хотя «цифровая красная черта» связана с цифровым неравенством и такими методами, как веб-связь и персонализация , она отличается от этих концепций как часть более крупных и сложных системных проблем. [ 8 ] [ 9 ] Это может относиться к практикам, которые создают неравенство в доступе к технологическим услугам в географических регионах, например, когда интернет-провайдеры решают не обслуживать определенные географические районы, потому что они считаются не такими прибыльными и, таким образом, сокращают доступ к важнейшим услугам и гражданскому участию. [ 10 ] Его также можно использовать для обозначения неравенства, вызванного политикой и практикой использования цифровых технологий. [ 2 ] Например, с помощью этих методов неравенство достигается за счет разделения, которое создается с помощью алгоритмов, скрытых от пользователя технологии; использование больших данных и аналитики допускает гораздо более тонкую форму дискриминации, которая может быть нацелена на конкретные уязвимые группы населения. [ 11 ] Эти алгоритмические средства реализуются за счет использования нерегулируемых технологий обработки данных, которые применяют оценку к людям, статистически классифицируя личностные черты или тенденции, которые аналогичны кредитному рейтингу , но являются собственностью технологических компаний и не находятся под внешним надзором. [ 12 ] [ 2 ]
Цифровая красная черта и география
[ редактировать ]Хотя корни «красной черты» кроются в исключении групп населения по географическому признаку, цифровая «красная черта» происходит как в географическом, так и в негеографическом контексте. [ 2 ] Пример обоих контекстов можно найти в обвинениях, выдвинутых против Facebook 28 марта 2019 года Министерством жилищного строительства и городского развития США (HUD) . HUD обвинил Facebook в нарушении Закона о справедливом жилищном обеспечении 1968 года, «поощряя, допуская и вызывая жилищную дискриминацию через рекламную платформу компании». [ 13 ] HUD заявил, что Facebook позволил рекламодателям «исключать людей, живущих в определенном районе, из просмотра рекламы, рисуя красную линию вокруг этой области». Дискриминация, о которой заявил HUD, включала в себя расистскую, гомофобную, эйблистскую и классистскую дискриминацию. [ 13 ] Помимо этого примера цифровой красной линии по географическому признаку, HUD также обвинил Facebook в том, что Facebook использовал информацию профиля и обозначения для исключения классов людей. В обвинениях говорилось: «Facebook позволял рекламодателям исключать людей, которых Facebook классифицировал как родителей; неамериканцев по рождению; нехристиан; заинтересованных в доступности; заинтересованных в латиноамериканской культуре; или широкий спектр других интересов, которые тесно связаны со справедливым жилищным обеспечением». Защищенные классы Закона" [ 13 ] Несколько средств массовой информации указали на историю HUD в сфере жилищной дискриминации посредством «красной линии», на принятие Закона о справедливом жилищном обеспечении для борьбы с «красной чертой», а также на то, как цифровая платформа воссоздает эту дискриминационную практику. [ 14 ] [ 15 ] [ 16 ] [ 17 ]
Цифровая красная черта в географическом контексте
[ редактировать ]Хотя «цифровая красная черта» относится к сложному и разнообразному набору практик, чаще всего она применяется к практикам географического измерения. Типичные примеры включают случаи, когда провайдеры интернет-услуг решают не обслуживать определенные географические районы, потому что эти районы считаются не такими прибыльными, что приводит к дискриминации сообществ с низкими доходами и, как следствие, влияет на доступ к важнейшим услугам и гражданское участие. [ 10 ] [ 18 ] AT&T столкнулась с особым вниманием к этой форме цифровой красной линии. Сообщалось, что AT&T придерживалась классического подхода в своих предложениях широкополосных интернет-услуг в более бедных регионах. [ 19 ]
Цифровая красная черта на географической основе может также применяться к цифровому контенту или распространению товаров, продаваемых через Интернет. географически привязанные игры, такие как Pokémon Go, предлагают больше виртуальных остановок и наград в географических регионах, которые менее этнически и расово разнообразны. Было доказано, что [ 20 ] В 2016 году Amazon упрекали в том, что она не предлагает услугу доставки Prime в тот же день многим сообществам, которые в основном состоят из афроамериканцев и имеют доходы ниже среднего по стране. [ 21 ] [ 22 ] Это может повлиять даже на такие службы, как электронная почта: многие администраторы электронной почты создают фильтры для пометки определенных сообщений электронной почты как спама на основе географического происхождения сообщения. [ 23 ]
Цифровая красная черта на основе личной идентичности
[ редактировать ]Хотя цифровая красная черта часто связана с дискриминацией, которая попадает в географический контекст, она также относится к случаям, когда уязвимые группы населения подвергаются нападкам или исключаются из определенного контента или доступа к Интернету таким образом, что это причиняет им вред на основании некоторых аспектов их идентичности. Было обнаружено, что профессиональные училища и общественные колледжи, в которых обычно обучается больше представителей рабочего класса, блокируют общедоступный интернет-контент от своих студентов, тогда как элитные исследовательские учреждения этого не делают. [ 24 ] Использование больших данных и аналитики допускает гораздо более тонкую форму дискриминации, которая может быть нацелена на конкретные уязвимые группы населения. [ 25 ] Например, Facebook критиковали за предоставление инструментов, которые позволяют рекламодателям таргетировать рекламу по этнической принадлежности и полу, эффективно блокируя меньшинствам просмотр конкретных объявлений о жилье и работе. [ 26 ] [ 27 ] [ 28 ] В октябре 2019 года против Facebook был подан крупный коллективный иск по обвинению в дискриминации по полу и возрасту в финансовой рекламе. [ 29 ] [ 30 ] Широкий круг потребителей может быть особенно уязвим к цифровой красной черте, когда она используется вне географического контекста. Помимо ориентации на уязвимые группы населения на основе традиционных и юридически признанных классификаций, таких как раса, пол, возраст и т. д., было показано, что персональные данные, полученные и затем перепроданные брокерами, могут использоваться для нападения на тех, кто, как было установлено, страдает болезнью Альцгеймера или деменция, или просто идентифицированные как импульсивные покупатели или доверчивые. [ 31 ] [ 32 ]
Различия в терминах
[ редактировать ]Различия между веб-линами и цифровыми «красными чертами»
[ редактировать ]Ранее были проведены различия между веблинингом (процессом взимания с клиентов разных цен на основе информации профиля) и Интернетом или цифровым «красным коридором», при котором цифровой «красный коридор» ориентирован не на ценообразование, а на доступ. [ 8 ] Еще в 2002 году Энциклопедия электронной коммерции Гейла выдвинула различие, которое более используется сегодня: веб-связь — это широко распространенная и общепринятая (или, по крайней мере, терпимая) практика персонализации доступа к продуктам и услугам способами, невидимыми для пользователя; «цифровая красная линия» — это когда такие персонализированные схемы, основанные на данных, увековечивают традиционные преимущества привилегированных демографических групп. [ 33 ] Поскольку веб-связь стала более повсеместной, этот термин вышел из употребления и уступил место более общему термину «персонализация».
Различия между цифровым неравенством и цифровой красной чертой
[ редактировать ]Ученые часто проводят связь между цифровым неравенством и цифровой красной чертой. [ 34 ] На практике цифровой разрыв рассматривается как одно из последствий «цифровой красной черты», а «цифровая красная черта» — это один из многих способов сохранения или расширения этого разрыва. [ 24 ] [ 35 ]
Критика
[ редактировать ]В отчете 2001 года было выяснено, связана ли причина разрыва в доступе к широкополосному Интернету для малообеспеченных слоев населения и представителей меньшинств с отсутствием доступности или с другими факторами. [ 34 ] В отчете обнаружено, что существует «мало свидетельств цифровой красной линии, основанной на доходах или концентрации чернокожих или латиноамериканцев», но существуют неоднозначные свидетельства красной линии, основанные на областях, в которых население коренных американцев или азиатов было больше. [ 34 ]
Ссылки
[ редактировать ]- ^ Гиллиард, Кристофер (21 ноября 2019 г.). Подготовлены показания и заявление для протокола Кристофера Гиллиарда, доктора философии, Слушания по банковским операциям на ваших данных и роли больших данных в ваших финансовых услугах, перед Целевой группой Комитета по финансовым услугам Палаты представителей по финансовым технологиям . Проверено 21 ноября 2019 г.
- ^ Jump up to: а б с д Подеста, Джон; Пенни, Притцкер; Мониш, Эрнест, Дж.; Холдрен, Джон; Зиентс, Джеффри (май 2014 г.). « Большие данные: использование возможностей, сохранение ценностей » Whitehouse.gov. Проверено 18 декабря 2018 г.
- ^ Гиллиард, Крис (3 июля 2017 г.). «Педагогика и логика платформ» . er.educause.edu . Обзор EDUCAUSE . Проверено 4 апреля 2019 г.
- ^ Мадригал, Алексис К. (22 мая 2014 г.). «Расистская жилищная политика, которая сделала ваш район» . Атлантика . Проверено 11 ноября 2018 г.
- ^ Харрис, Ричард; Форрестер, Дорис (1 декабря 2003 г.). «Пригородные истоки красной линии: канадский пример, 1935–54». Городские исследования . 40 (13): 2661–2686. дои : 10.1080/0042098032000146830 . ISSN 0042-0980 . S2CID 154651681 .
- ^ Оремус, Уилл (17 сентября 2021 г.). «Профессор колледжа Детройта борется с машиной наблюдения Кремниевой долины. Люди слушают» . Вашингтон Пост . ISSN 0190-8286 . Проверено 17 сентября 2021 г.
- ^ Эвелет, Р. (2020). Вперед [Аудиоподкаст]. Босс Бот. https://www.flashforwardpod.com/2020/09/29/boss-bot/
- ^ Jump up to: а б Бидголи, Хосейн (26 апреля 2004 г.). Интернет-энциклопедия, том 3 (P – Z) . Джон Уайли и сыновья. ISBN 9780471689973 .
- ^ Степанек, Марсия (2 апреля 2000 г.). «Веблининг» . Блумберг БизнесУик .
- ^ Jump up to: а б Нейдиг, Харпер (25 сентября 2017 г.). «AT&T подала вторую жалобу на дискриминацию районов с низкими доходами» . Холм . Проверено 11 ноября 2018 г.
- ^ О'Нил, Кэти (6 сентября 2016 г.). Оружие математического разрушения: как большие данные увеличивают неравенство и угрожают демократии . Корона/Архетип. ISBN 9780553418828 .
- ^ Тейлор, Астра; Садовский, Джатан. «Как компании превращают вашу активность в Facebook в кредитный рейтинг | The Nation» . Нация . ISSN 0027-8378 . Архивировано из оригинала 31 марта 2019 г. Проверено 11 ноября 2018 г.
- ^ Jump up to: а б с «HUD обвиняет Facebook в жилищной дискриминации из-за целевой рекламной практики компании» . www.hud.gov (в интернет-архиве) . 28 марта 2019 г. Архивировано из оригинала 10 апреля 2020 г. Проверено 26 апреля 2020 г.
- ^ Совет, Редакция (29 марта 2019 г.). «Мнение | Facebook грозит расплата за красную черту» . Нью-Йорк Таймс . ISSN 0362-4331 . Проверено 31 марта 2019 г.
- ^ Брэндом, Рассел (28 марта 2019 г.). «Правительство США обвинило Facebook в жилищной дискриминации» . Грань . Проверено 31 марта 2019 г.
- ^ Джонс, Сара (28 марта 2019 г.). «Facebook обвинен в дискриминации, несмотря на отмену закона Бена Карсона о справедливом жилищном обеспечении» . Интеллигент . Проверено 31 марта 2019 г.
- ^ Хиггинс, Эоин. « Похвально, если не просрочено»: HUD выдвинуло обвинения против Facebook за виртуальную красную черту» . Общие мечты . Проверено 31 марта 2019 г.
- ^ Нейдиг, Харпер (24 августа 2017 г.). «Адвокат по гражданским правам обвиняет AT&T в дискриминации сообществ с низкими доходами» . Холм . Проверено 11 ноября 2018 г.
- ^ Каллахан, Билл (6 августа 2019 г.). «Цифровая красная черта Далласа от AT&T: новое исследование доктора Брайана Уитакра» . Национальный альянс за цифровое внедрение . Проверено 29 октября 2019 г.
- ^ Ахтар, Аллана (9 августа 2016 г.). «Является ли Pokémon Go расизмом? Как приложение может изменить цветные сообщества» . США СЕГОДНЯ . Проверено 11 ноября 2018 г.
- ^ Ингольд, Дэвид; Сопер, Спенсер (16 апреля 2016 г.). «Amazon не учитывает расовую принадлежность своих клиентов. Должно ли это быть?» . Блумберг . Проверено 11 ноября 2018 г.
- ^ Талбот, Дэвид. «Служба доставки товаров в тот же день от Amazon усиливает неравенство» . Обзор технологий Массачусетского технологического института . Проверено 14 ноября 2018 г.
- ^ Люг, Кристофер; Джефф, Хуанг; Твидейл, Майкл (1 марта 2007 г.). «Возвращение к загадочному мясу: спам, меры по борьбе со спамом и цифровая красная линия» . Вебология . 4 .
- ^ Jump up to: а б Гиллиард, Крис; Кулик, Хью (24 мая 2016 г.). «Цифровая красная черта, доступ и конфиденциальность» . Образование здравого смысла . Архивировано из оригинала 31 марта 2019 г. Проверено 11 ноября 2018 г.
- ^ Подеста, Джон (01 мая 2014 г.). «Результаты обзора рабочей группы по большим данным и конфиденциальности» . Белый дом . Проверено 14 ноября 2018 г.
- ^ Ангвин, Джулия ; Пэррис-младший, Терри (28 октября 2016 г.). «Facebook позволяет рекламодателям исключать пользователей по расовому признаку» . ПроПублика . Проверено 11 ноября 2018 г.
- ^ Коул, Саманта; Кеблер, Джейсон (04 апреля 2019 г.). «Исследователи считают, что алгоритм таргетинга рекламы Facebook по своей сути предвзят» . Материнская плата . Проверено 4 апреля 2019 г.
- ^ Мухаммед, Али; Сапезинский, Петр; Боген, Миранда; Королева Александра; Мислов, Алан; Аарон, Рике (3 апреля 2019 г.). «Дискриминация посредством оптимизации: как доставка рекламы Facebook может привести к искаженным результатам». arXiv : 1904.02095 . Бибкод : 2019arXiv190402095A . дои : 10.1145/3359301 . S2CID 102353579 .
{{cite journal}}: Для цитирования журнала требуется|journal=( помощь ) - ^ Меррилл, Джон Детрикше, Джереми Б. (ноябрь 2019 г.). «Борьба с финансовыми рекламодателями, использующими Facebook для цифровой красной линии» . Кварц . Проверено 2 ноября 2019 г.
{{cite web}}: CS1 maint: несколько имен: список авторов ( ссылка ) - ^ «Facebook пострадал от массовой национальной групповой акции за гражданские права со стороны женщин и пожилых людей, которым годами отказывали в предоставлении финансовых услуг на Facebook | Outten & Golden LLP» . Ауттен и Голден . Архивировано из оригинала 28 апреля 2020 г. Проверено 2 ноября 2019 г.
- ^ Паскуале, Фрэнк (17 ноября 2017 г.). « Алгоритмы: как решения компаний относительно данных и контента влияют на потребителей » Письменные показания Фрэнка Паскуале, профессора юридического университета Мэриленда, перед подкомитетом Комитета Палаты представителей США по энергетике и торговле по цифровой коммерции и защите потребителей. Проверено в 2018-11- 14
- ^ «Манипулирование цифровым рынком» (PDF) . Обзор права Джорджа Вашингтона . 03.10.2014 . Проверено 2 ноября 2019 г.
- ^ Малонис, Джейн А. (2002). Гейл Энциклопедия электронной коммерции . Группа Гейл. стр. 758–760.
- ^ Jump up to: а б с Пригер, Джеймс Э. (декабрь 2001 г.). Сторона предложения цифрового разрыва: есть ли «красная черта» на рынке широкополосного доступа в Интернет? Рабочий документ Совместного центра AEI-Брукингса № 01-16. Доступно в SSRN: https://ssrn.com/abstract=297499 или https://dx.doi.org/10.2139/ssrn.297499.
- ^ Ферро Э., Кантамесса М. и Паолуччи Э. (2005). Городской и региональный разрыв: сравнение и классификация цифрового разрыва. В «Электронном правительстве: на пути к электронной демократии» (стр. 81-90). Шпрингер, Берлин, Гейдельберг. Доступ: 13 декабря 2008 г., https://www.researchgate.net/publication/221460528_Urban_Versus_Regional_Divide_Comparing_and_Classifying_Digital_Divide .