Утечка из Facebook 2021 года

В 2021 году утечка внутренних документов компании, тогда известной как Facebook (теперь Meta Platforms или Meta), показала, что она осознавала вредные социальные последствия своих платформ, но продолжала отдавать приоритет прибыли, а не устранению этого вреда. Утечка, обнародованная информатором Фрэнсис Хауген , привела к появлению репортажей из The Wall Street Journal в сентябре, серии The Facebook Files , а также Facebook Papers , опубликованной консорциумом новостных агентств в следующем месяце.

Прежде всего, отчеты показали, что на основе внутренних исследований компания полностью осознавала негативное воздействие Instagram на подростков-пользователей и вклад активности Facebook в насилие в развивающихся странах. Другие выводы утечки включают влияние платформ компании на распространение ложной информации и политику Facebook по продвижению подстрекательских постов.Более того, Facebook полностью осознавал, что через алгоритмы Facebook через алгоритмы Facebook продвигался вредоносный контент, доходящий до молодых пользователей. Типы контента включали посты, пропагандирующие нервную анорексию , и фотографии членовредительства .

В октябре 2021 года Whistleblower Aid подала восемь анонимных информаторов жалоб в Комиссию по ценным бумагам и биржам США (SEC) от имени Хаугена о мошенничестве с ценными бумагами со стороны компании после того, как Хауген слил документы компании в предыдущем месяце. После публичного раскрытия своей личности в программе «60 минут » Хауген дал показания перед Торговым подкомитетом Сената США по защите потребителей, безопасности продукции и безопасности данных о содержании просочившихся документов и жалобах. После того как компания переименовала себя в Meta Platforms , В феврале 2022 года Whistleblower Aid подала в SEC две дополнительные жалобы на мошенничество с ценными бумагами против компании от имени Хаугена.

Фон

Возник конфликт интересов между тем, что хорошо для общественности, и тем, что хорошо для Facebook. И Facebook снова и снова выбирал оптимизацию в своих интересах, например, в зарабатывании большего количества денег.

Информатор Фрэнсис Хауген в программе «60 минут» , 3 октября 2021 г.

В середине сентября 2021 года The Wall Street Journal начала публиковать в Facebook статьи, основанные на внутренних документах неизвестного происхождения. Среди разоблачений были сообщения о специальных надбавках к публикациям высокопоставленных пользователей («XCheck»), сдержанные ответы на помеченную информацию о торговцах людьми и наркокартелях , иск акционеров относительно стоимости генерального директора Facebook (теперь Meta) Марка Цукерберга личной ответственности . защита в разрешении скандала с данными Cambridge Analytica , инициатива по увеличению количества новостей в поддержку Facebook в новостных лентах пользователей, а также внутренние знания о том, как Instagram усугубляет негативную самооценку у опрошенных девочек-подростков.

Шива Вайдхьянатан написал для The Guardian , что документы были созданы командой Facebook, «занимающейся социальными науками и анализом данных, которые должны помочь руководителям компании понять последствия их политики и технологических разработок». Кейси Ньютон из The Verge написал, что это самая большая проблема для компании после скандала с данными Cambridge Analytica .

Утечка документов включает внутреннее исследование Facebook, в котором изучалось влияние Instagram на психическое здоровье подростков. Хотя Facebook ранее заявлял, что его правила в равной степени применяются ко всем на платформе, внутренние документы, которыми поделился The Wall Street Journal, указывают на специальные исключения из политики, предназначенные для VIP-пользователей, включая знаменитостей и политиков. После этого сообщения наблюдательный совет Facebook заявил, что проведет проверку системы.

3 октября 2021 года бывшая сотрудница Facebook, стоящая за утечкой, Фрэнсис Хауген , раскрыла свою личность в программе «60 минут» .

Отчеты

Начиная с 22 октября группа новостных агентств начала публиковать статьи, основанные на документах, предоставленных адвокатами Хаугена, под общим названием The Facebook Papers .

Выборы в США 2020 года и нападение на Капитолий США 6 января

The New York Times указала на внутренние дискуссии, в ходе которых сотрудники выразили обеспокоенность тем, что Facebook распространял контент о теории заговора QAnon более чем за год до выборов в США в 2020 году . После выборов специалист по данным упомянул во внутренней заметке, что 10 процентов всех просмотров политического контента в США были постами, в которых утверждалось, что выборы были сфальсифицированы . Среди десяти анонимных жалоб информаторов, поданных Whistleblower Aid в SEC от имени Хаугена, в одной жалобе утверждалось, что Facebook ввел в заблуждение инвесторов компании и широкую общественность относительно своей роли в распространении дезинформации, связанной с выборами 2020 года и политическим экстремизмом, который стал причиной событий 6 января в США. Атака Капитолия Штатов . Хауген работал в Facebook с июня 2019 года по май 2021 года, начиная с группы гражданской честности компании, которая занималась расследованием и решением проблем выборов во всем мире на платформе, а также тем, как платформу можно использовать для распространения политической дезинформации и дезинформации , чтобы подстрекать к насилию и подвергаться злоупотреблениям со стороны злонамеренных правительств, пока компания не распустила команду в декабре 2020 года.

Через несколько недель после президентских выборов в США в 2020 году Facebook начал отменять многие меры по обеспечению соблюдения политики в отношении контента, которые он применял во время выборов, несмотря на внутренние данные отслеживания компании, показывающие рост количества контента, нарушающего политику, на платформе, в то время как учетная запись Дональда Трампа в Facebook была заблокирована. внесен в белый список в программе компании XCheck. В другой жалобе осведомителя, которую Хауген подал в SEC, утверждалось, что компания ввела в заблуждение инвесторов и широкую общественность относительно соблюдения своих условий обслуживания из-за внесения в белый список в рамках программы XCheck. Специальный комитет Палаты представителей США в ходе видеоконференции дал интервью по поводу нападения 6 января в ноябре 2021 года о ее работе в Facebook, документах компании, которые она предоставила Конгрессу, корпоративной структуре компании и ее показаниях перед Конгрессом в предыдущем месяце, но ничего из этого не произошло. информация, которую она предоставила Комитету, была включена в его окончательный отчет.

Влияние Instagram на подростков

Файлы показывают, что Facebook (теперь Meta) проводит внутреннее исследование того, как Instagram влияет на молодых пользователей, в течение последних трех лет. Хотя полученные данные указывают на то, что Instagram наносит вред значительной части молодых пользователей, больше всего пострадали девочки-подростки. Исследователи компании сообщили, что «мы усугубляем проблемы с телом у каждой третьей девочки-подростка». Кроме того, внутреннее исследование показало, что мальчики-подростки также подвергаются негативному социальному сравнению: в 2019 году их было 14%. Был сделан вывод, что Instagram способствует решению проблем, более специфичных для использования приложения, таких как социальное сравнение среди подростков. Facebook опубликовал некоторые результаты своего внутреннего исследования 29 сентября 2021 года, заявив, что эти отчеты неверно характеризуют цель и результаты исследования.

Обучение детей предподросткового возраста

Файлы показывают, что Facebook сформировал команду для изучения детей предподросткового возраста, поставил трехлетнюю цель по созданию большего количества продуктов для этой группы населения и заказал стратегические документы о долгосрочных бизнес-перспективах привлечения подросткового возраста. В документе Facebook от 2020 года говорится: «Почему мы заботимся о подростках?» и отвечает на этот вопрос, говоря, что «они представляют собой ценную, но неиспользованную аудиторию».

Насилие в развивающихся странах

Внутренняя записка, с которой ознакомилась газета Washington Post, показала, что Facebook знает о разжигании ненависти и призывах к насилию в отношении таких групп, как мусульмане и кашмирцы , включая публикации фотографий груд мертвых тел кашмирцев с прославляющими подписями на своей платформе в Индии. Тем не менее, ни один из их издателей не был заблокирован. Документы показывают, что Facebook отреагировал на эти инциденты, удалив посты, нарушающие их политику, но не предпринял никаких существенных усилий для предотвращения повторных нарушений. Поскольку 90% ежемесячных пользователей Facebook сейчас находятся за пределами США и Канады, Facebook утверждает, что языковые барьеры являются одним из препятствий, мешающих широкомасштабным реформам.

Продвижение провоцирующих гнев постов

В 2015 году, помимо кнопки «Нравится» на публикациях, Facebook представил набор других вариантов эмоциональных реакций: любовь, хаха, ура, вау, грусть и злость. Газета Washington Post сообщила, что в течение трех лет алгоритмы Facebook продвигали посты, которые вызывали «гневную» реакцию пользователей. Согласно внутреннему анализу, показавшему, что такие посты приводят к в пять раз большему вовлечению, чем посты с обычными лайками. Спустя годы исследователи Facebook отметили, что посты с «гневной» реакцией с гораздо большей вероятностью будут токсичными, поляризующими, фальшивыми или низкокачественными.

В 2018 году Facebook пересмотрел свой алгоритм ленты новостей, внедрив новый алгоритм, отдающий предпочтение «Значительным социальным взаимодействиям» или «MSI». Новый алгоритм увеличил вес публикуемого материала - шаг, направленный на то, чтобы «обратить вспять снижение количества комментариев и стимулировать более оригинальные публикации». Несмотря на то, что алгоритм оказался успешным, наблюдались такие последствия, как сообщения пользователей об ухудшении качества корма, а также рост гнева на сайте. Утечка документов показывает, что сотрудники представили несколько потенциальных изменений, чтобы исправить некоторые из выявленных проблем в их алгоритме. Однако в документах утверждается, что Марк Цукерберг отверг предложенные изменения, опасаясь, что они могут привести к тому, что меньше пользователей будут взаимодействовать с Facebook. В документах также указывается на другое исследование, проведенное Facebook в 2019 году, в ходе которого в Индии была создана фальшивая учетная запись, которую изучали, чтобы выяснить, какой тип контента она представляла и с чем взаимодействовала. Результаты исследования показали, что в течение трех недель новостная лента фейкового аккаунта была представлена ​​порнографией и «наполнена поляризующим и графическим контентом, разжиганием ненависти и дезинформацией», согласно внутреннему отчету компании.

Недовольство сотрудников

Politico цитирует слова нескольких сотрудников Facebook, выражающих обеспокоенность по поводу готовности и способности компании реагировать на ущерб, причиненный платформой . В сообщении 2020 года говорится: «Это ненормально, когда большое количество людей из команды «сделать сайт безопасным» уходят со словами: «Эй, мы активно делаем мир хуже, к вашему сведению». Каждый раз, когда этот вопрос поднимается, на него отмахиваются словами: «Эй, люди все время меняют работу», но это НЕ нормально».

Угроза Apple удалить Facebook и Instagram

В 2019 году из-за опасений по поводу того, что Facebook и Instagram используются для торговли горничными на Ближнем Востоке, Apple пригрозила удалить свои приложения для iOS из App Store.

XПроверить

В документах показана частная программа, известная как «XCheck» или «перекрестная проверка», которую Facebook использовал для внесения в белый список сообщений пользователей, считающихся «высокопоставленными». Система начиналась как мера контроля качества, но с тех пор выросла, чтобы защитить «миллионы VIP-пользователей от обычного процесса обеспечения соблюдения требований компании». Благодаря XCheck знаменитости и другие общественные деятели были освобождены от наказания, которое обычный пользователь Facebook мог бы получить за нарушение правил. В 2019 году футболист Неймар опубликовал обнаженные фотографии женщины, обвинившей его в изнасиловании, которые хранились более суток. По данным The Wall Street Journal , «в 2020 году число пользователей XCheck выросло как минимум до 5,8 миллиона», согласно внутренним документам Facebook. Целью XCheck было «никогда публично не вступать в конфликт с кем-либо, кто достаточно влиятелен, чтобы причинить вам вред».

Сотрудничество по цензуре с правительством Вьетнама

В 2020 году коммунистическое правительство Вьетнама пригрозило закрыть Facebook, если компания социальных сетей не будет сотрудничать в цензуре политического контента в стране, большом рынке Meta (тогда известного как Facebook) в Юго-Восточной Азии . Решение подчиниться лично одобрил Марк Цукерберг.

Подавление политических движений на своей платформе

В 2021 году Facebook разработал новую стратегию борьбы с вредным контентом на своем сайте, реализовав меры, направленные на сокращение и подавление распространения движений, которые считались разжигающими ненависть. По словам высокопоставленного представителя службы безопасности Facebook, компания «будет стремиться пресечь движения на платформе только в том случае, если будут убедительные доказательства того, что они являются продуктом тесно сплоченных кругов пользователей, связанных с насилием в реальном мире или другим вредом и совершающих нарушения». Правила Facebook». В рамках недавно скоординированной инициативы это включало уменьшение рекламы публикаций движения в ленте новостей пользователей, а также отказ от уведомления пользователей о новых публикациях с этих страниц. Конкретные группы, которые были отмечены как затронутые политикой социального вреда Facebook, включают Партию патриотов , ранее связанную с атакой на Капитолий , а также новую немецкую заговорщическую группу, известную как Querdenken , которая была помещена под наблюдение немецкой разведки после протестов против нее. организованные неоднократно, «привели к насилию и ранениям сотрудников полиции».

Проблемы искусственного интеллекта Facebook

По данным The Wall Street Journal , документы показывают, что в 2019 году Facebook сократил время, затрачиваемое рецензентами на рассмотрение жалоб на разжигание ненависти, сместившись в сторону более сильной зависимости от своих систем искусственного интеллекта для регулирования этого вопроса. Однако во внутренних документах сотрудников утверждается, что их ИИ в целом оказался безуспешным: возникли проблемы с обнаружением видео с авариями автомобилей, петушиными боями, а также с пониманием разжигания ненависти на иностранных языках. Внутренние инженеры и исследователи Facebook подсчитали, что их ИИ смог обнаружить и удалить только 0,6% «всего контента, нарушающего политику Facebook против насилия и подстрекательства».

Включение Breitbart News в качестве надежного источника новостей

The Wall Street Journal сообщила, что руководители Facebook сопротивлялись удалению крайне правого веб-сайта Breitbart News из вкладки новостей Facebook, чтобы не разозлить Дональда Трампа и республиканцев , несмотря на критику со стороны сотрудников Facebook. членов Конгресса- Внутреннее исследование Facebook, проведенное в августе 2019 года, показало, что Breitbart News является источником новостей, которому меньше всего доверяют, а также считается источником новостей низкого качества в источниках, которые он просматривал в США и Великобритании.

The Wall Street Journal Подкаст

Для The Facebook Files серии репортажей The Wall Street Journal подкаст подготовила на своем канале The Journal , разделенный на восемь эпизодов:

• Часть 1: Белый список
• Часть 2: «Мы усугубляем проблемы с изображением тела»
• Часть 3: «Этого не должно происходить на Facebook»
• Часть 4: Алгоритм возмущения
• Часть 5. Стремление привлечь молодых пользователей
• Часть 6: Информатор
• Часть 7: Задача искусственного интеллекта
• Часть 8: Новая стратегия правоприменения

Ответ Facebook

В отчете о прибылях и убытках за третий квартал 2021 года генеральный директор Facebook Марк Цукерберг обсудил недавние утечки, охарактеризовав их как скоординированные попытки создать ложное представление о своей компании путем выборочной утечки документов.

Согласно просочившейся внутренней электронной почте, с которой ознакомилась The New York Times , Facebook попросил своих сотрудников «сохранять внутренние документы и сообщения с 2016 года» — практика, называемая юридическим удержанием . В электронном письме продолжается: «Как это часто бывает после подобных сообщений, от правительств и законодательных органов был начат ряд запросов на деятельность компании».

Лоббирование

появились новости, В декабре 2021 года в The Wall Street Journal указывающие на лоббистские усилия Меты по расколу американских законодателей и «мутению воды» в Конгрессе, чтобы помешать регулированию после утечек информаторов в 2021 году. Лоббистская команда Facebook в Вашингтоне предположила законодателям-республиканцам, что информатор «пытался помочь демократам», в то время как сотрудникам Демократической партии было сказано, что республиканцы «сосредоточены на решении компании запретить выражения поддержки Кайлу Риттенхаусу », The Wall Street Об этом сообщает журнал . Согласно статье, целью компании было «мутить воду, разделить законодателей по партийным линиям и предотвратить межпартийный альянс» против Facebook (теперь Meta) в Конгрессе.

См. также

• Критика Facebook
• Сравнение пользовательских возможностей платформ обмена сообщениями
• Влияние Instagram на людей
• Проблемное использование социальных сетей
• Твиттер-файлы

Дальнейшее чтение

• Хауген, Фрэнсис (2023). Сила одного: как я нашел в себе силы сказать правду и почему я дал сигнал на Facebook . Нью-Йорк: Литтл, Браун и компания. ISBN  978-0316475228 .
• Сила информатора: основные выводы из документов Facebook , заархивированных 26 октября 2021 г. в Wayback Machine (WaPo, 25 октября 2021 г.)
• Документы Facebook и их последствия. Архивировано 28 октября 2021 г. в Wayback Machine (NYT, 25 октября 2021 г.).
• «ИСТОРИЯ НЕ СУДИТ НАС ДОБРО» Архивировано 28 октября 2021 г. в Wayback Machine (Адриенн ЛаФранс, Atlantic, 25 октября 2021 г.).
• Документы Facebook: документы раскрывают внутреннюю ярость и несогласие по поводу политики сайта. Архивировано 28 октября 2021 г. в Wayback Machine (NBC News, 25 октября 2021 г.).
• Не останавливаясь под лозунгом «Остановим воровство»: документы Facebook рисуют разоблачающую картину роли компании в восстании. Архивировано 28 октября 2021 г. в Wayback Machine (CNN, 24 октября 2021 г.).
• Документы Facebook представляют собой сокровищницу антимонопольной войны Вашингтона. Архивировано 27 октября 2021 г. в Wayback Machine (Politico, 25 октября 2021 г.).
• Вот все истории Facebook Papers, заархивированные 28 октября 2021 г. в Wayback Machine (протокол).
• Кранц, Алекс (3 октября 2021 г.). «Facebook поощряет разжигание ненависти ради получения прибыли, — говорит осведомитель» . Грань . Архивировано из оригинала 4 октября 2021 года . Проверено 4 октября 2021 г.
• Милмо, Дэн (4 октября 2021 г.). «Как «потеря друга из-за дезинформации» привела к разоблачению в Facebook» . Хранитель . ISSN   0261-3077 . Архивировано из оригинала 3 ноября 2021 года . Проверено 4 октября 2021 г.
• Руз, Кевин (4 октября 2021 г.). «Facebook слабее, чем мы думали» . Нью-Йорк Таймс . ISSN   0362-4331 . Архивировано из оригинала 3 ноября 2021 года . Проверено 4 октября 2021 г.
• Судерман, Алан; Гудман, Джошуа (23 октября 2021 г.). «На фоне бунта в Капитолии Facebook столкнулся с собственным восстанием» . АП Новости . Архивировано из оригинала 24 октября 2021 года . Проверено 24 октября 2021 г.
• Закшевский, Кот; Де Винк, Геррит; Масих, Ниха; Махтани, Шибани (24 октября 2021 г.). «Как Facebook пренебрег остальным миром, разжигая разжигание ненависти и насилия в Индии» . Вашингтон Пост . Архивировано из оригинала 30 октября 2021 года . Проверено 24 октября 2021 г.

Внешние ссылки

• Официальный сайт ( Файлы Facebook , The Wall Street Journal )
• «Информатор из Facebook свидетельствует о защите детей в Интернете» . С-ПАН . 5 октября 2021 г. . Проверено 16 мая 2022 г.
• «Информатор Facebook дает показания перед комитетом парламента Великобритании» . C-SPAN. 25 октября 2021 г. . Проверено 28 июля 2023 г.
• «Эксперты свидетельствуют об ответственности крупных технологических компаний» . C-SPAN. 1 декабря 2021 г. . Проверено 28 июля 2023 г.