Дезинформационная атака

Дезинформационные атаки – это стратегические кампании по обману включая манипулирование средствами массовой информации и интернет-манипулированием , распространять заведомо ложную информацию , стремясь запутать , парализовать поляризовать аудиторию и . Дезинформацию можно считать атакой, когда она проявляется в виде враждебной нарративной кампании, которая использует в качестве оружия многочисленные риторические стратегии и формы знания, включая не только ложь, но также правду, полуправду и ценностные суждения, чтобы эксплуатировать и усиливать противоречия, основанные на идентичности. . В ходе дезинформационных атак используются манипуляции со СМИ, нацеленные на вещательные СМИ, такие как государственные телеканалы и радио. Из-за растущего использования интернет-манипуляций в социальных сетях , их можно считать киберугрозой . Цифровые инструменты, такие как боты , алгоритмы и технологии искусственного интеллекта , а также агенты-люди, включая влиятельных лиц , распространяют и усиливают дезинформацию среди целевых групп населения на онлайн-платформах, таких как Instagram , Twitter , Google , Facebook и YouTube .

Согласно отчету Европейской комиссии за 2018 год , дезинформационные атаки могут представлять угрозу демократическому управлению , снижая легитимность и честность избирательных процессов . Дезинформационные атаки используются правительствами , корпорациями , учеными, журналистами, активистами и другими частными лицами и против них. Эти атаки обычно используются для изменения взглядов и убеждений, реализации определенной программы или побуждения целевой аудитории к определенным действиям. Тактика включает распространение неверной или вводящей в заблуждение информации, создание неопределенности и подрыв легитимности официальных источников информации.

Новая область исследований сосредоточена на противодействии дезинформационным атакам. С технологической точки зрения защитные меры включают в себя приложения машинного обучения , которые могут выявлять дезинформацию на цифровых платформах . В социальном плане также разрабатываются образовательные программы, призванные научить людей лучше различать факты и дезинформацию в Интернете. и рекомендации журналистов по оценке источников. изменения в алгоритмах, рекламе и методах влияния на цифровых платформах. С коммерческой точки зрения предлагаются Индивидуальные вмешательства включают действия, которые могут быть предприняты отдельными лицами для улучшения своих собственных навыков работы с информацией (например, медиаграмотность ), а также индивидуальные действия по борьбе с дезинформацией.

Цели

Дезинформационные атаки включают в себя преднамеренное распространение ложной информации с конечной целью введения в заблуждение, запутывания и разжигания насилия. получить деньги, власть или репутацию. В них могут участвовать политические, экономические и отдельные субъекты. Они могут пытаться повлиять на взгляды и убеждения, продвигать конкретную повестку дня, заставить людей действовать определенным образом или подорвать доверие к отдельным лицам или учреждениям. Представление неверной информации может быть наиболее очевидной частью дезинформационной атаки, но это не единственная цель. Зачастую целью также является создание неопределенности и подрыв как достоверной информации, так и доверия к источникам информации.

Убеждать людей верить неверной информации

Те, кто сеет дезинформацию, добиваются успеха, когда дезинформация распространяется в социальных сетях как убеждения, которые невозможно проверить фактами.

Если людей можно убедить в чем-то, что фактически неверно, они могут принимать решения, которые на самом деле противоречат интересам их самих и окружающих. Если большинство людей в обществе можно убедить в чем-то, что фактически неверно, дезинформация может привести к политическим и социальным решениям, которые не отвечают интересам этого общества. Это может иметь серьезные последствия как на индивидуальном, так и на общественном уровне.

В 1990-е годы британский врач, обладавший патентом на однократную вакцину против кори, способствовал росту недоверия к комбинированной вакцине MMR . Его мошеннические заявления были призваны стимулировать продажи его собственной вакцины. Последовавшее за этим безумие в СМИ усилило страх, и многие родители решили не делать прививки своим детям. За этим последовал значительный рост случаев заболевания, госпитализаций и смертей, которые можно было бы предотвратить с помощью вакцины MMR. Это также привело к трате значительных денег на последующие исследования, которые проверяли утверждения, содержащиеся в дезинформации. и о кампаниях по информированию общественности, пытающихся исправить дезинформацию. На мошенническое заявление продолжают ссылаться, что усиливает сомнения в отношении вакцинации .

В случае с президентскими выборами в США 2020 года дезинформация использовалась в попытке убедить людей поверить во что-то, что не соответствует действительности, и изменить результат выборов. Неоднократные дезинформационные сообщения о возможности фальсификации выборов появлялись за годы до реальных выборов, еще в 2016 году. Исследователи обнаружили, что большая часть фейковых новостей исходит от отечественных правых группировок. Непартийное Партнерство по обеспечению честности выборов сообщило перед выборами: «То, что мы видим сейчас, — это, по сути, сеяные семена, десятки семян каждый день, ложных историй... Все они сажаются так, чтобы их можно было цитировать и возобновлен... после выборов». Основа была заложена посредством многочисленных и неоднократных атак по дезинформации, утверждающих, что голосование было несправедливым, и делегитимизации результатов выборов после их проведения. Хотя результаты президентских выборов в США в 2020 году были подтверждены, некоторые люди до сих пор верят в « большую ложь ».

Люди, которые получают информацию из различных источников новостей, а не только из источников с определенной точки зрения, с большей вероятностью обнаруживают дезинформацию. Советы по обнаружению дезинформации включают чтение авторитетных источников новостей на местном или национальном уровне, а не использование социальных сетей. Остерегайтесь сенсационных заголовков, призванных привлечь внимание и вызвать эмоции. Проверяйте информацию широко, а не только на одной обычной платформе или среди друзей. Проверьте первоисточник информации. Спросите, что было сказано на самом деле, кто это сказал и когда. Рассмотрите возможные намерения или конфликты интересов со стороны говорящего или тех, кто передает информацию.

Подрыв достоверной информации

Иногда подрыв веры в правильную информацию является более важной целью дезинформации, чем убеждение людей придерживаться новых убеждений. В случае с комбинированными вакцинами MMR дезинформация изначально была предназначена для того, чтобы убедить людей в конкретном мошенническом утверждении и тем самым способствовать продажам конкурирующего продукта. Однако влияние дезинформации стало гораздо шире. Опасения, что один тип вакцины может представлять опасность, подогревали общие опасения, что вакцины могут представлять опасность. Вместо того, чтобы убедить людей предпочесть один продукт другому, вера в целую область медицинских исследований была подорвана.

Создание неопределенности

Широко распространено мнение, что дезинформация сеет путаницу. Это не просто побочный эффект; сбивать с толку и подавлять людей – это намеренная цель. Независимо от того, используются ли дезинформационные атаки против политических оппонентов или «коммерчески неудобной науки», они сеют сомнения и неуверенность как способ подорвать поддержку оппозиционной позиции и помешать эффективным действиям.

В документе 2016 года тактика политической дезинформации, основанная на социальных сетях, описывается как «пожарный шланг лжи», который «развлекает, сбивает с толку и подавляет аудиторию». В отношении российской пропаганды были проиллюстрированы четыре характеристики. Дезинформация используется 1) в больших объемах и по многоканальным каналам 2) непрерывно и повторяется 3) игнорирует объективную реальность и 4) игнорирует последовательность. Оно становится эффективным, создавая путаницу и затемняя, разрушая и умаляя правду. Когда одна ложь будет раскрыта, «пропагандисты отбросят ее и перейдут к новому (хотя и не обязательно более правдоподобному) объяснению». Цель состоит не в том, чтобы убедить людей в конкретной истории, а в том, чтобы «отрицать, отклонять, отвлекать».

Противодействовать этому сложно, отчасти потому, что «на придумывание фактов уходит меньше времени, чем на их проверку». Есть свидетельства того, что «каскады» ложной информации распространяются дальше, быстрее и шире, чем правдивая информация, возможно, из-за новизны и эмоциональной нагрузки. Попытки бороться с многоголовой гидрой дезинформации могут быть менее эффективными, чем повышение осведомленности о том, как работает дезинформация и как ее идентифицировать до того, как произойдет атака. Например, Украина смогла предупредить граждан и журналистов о потенциальном использовании спонсируемых государством дипфейков перед реальной атакой, что, вероятно, замедлило ее распространение.

Еще один способ противостоять дезинформации — сосредоточиться на выявлении ее реальной цели и противодействии ей. Например, если дезинформация пытается отпугнуть избирателей, найдите способы расширить возможности избирателей и повысить достоверность информации о том, когда, где и как голосовать. Если выдвигаются обвинения в фальсификации результатов голосования, предоставьте четкое сообщение о том, как происходит процесс голосования, и направьте людей обратно к авторитетным источникам, которые могут решить их проблемы.

Подрыв доверия

Дезинформация – это нечто большее, чем просто конкуренция между неточной и точной информацией. Дезинформация, слухи и теории заговора ставят под сомнение основу доверия на многих уровнях. Подрыв доверия может быть направлен против ученых, правительств и средств массовой информации и иметь вполне реальные последствия. Общественное доверие к науке имеет важное значение для работы политиков и эффективного управления, особенно в вопросах медицины, общественного здравоохранения и наук об окружающей среде. Крайне важно, чтобы отдельные лица, организации и правительства имели доступ к точной информации при принятии решений.

Примером может служить дезинформация вокруг вакцин против COVID-19. Дезинформация нацелена на сами продукты, на исследователей и организации, которые их разработали, на медицинских работников и организации, которые ими управляют, а также на политиков, которые поддерживали их разработку и рекомендовали их использование. Страны, где граждане имели более высокий уровень доверия к обществу и правительству, по-видимому, более эффективно мобилизовались против вируса, о чем свидетельствует более медленное распространение вируса и более низкие уровни смертности.

Исследования убеждений людей относительно количества дезинформации и дезинформации в средствах массовой информации показывают, что недоверие к традиционным средствам массовой информации, как правило, связано с зависимостью от альтернативных источников информации, таких как социальные сети. Структурная поддержка свободы прессы, более сильная независимая пресса и доказательства надежности и честности прессы могут помочь восстановить доверие к традиционным СМИ как поставщику независимой, честной и прозрачной информации.

Подрыв доверия

Основной тактикой дезинформации является нападение и попытка подорвать доверие к людям и организациям, чьи исследования или авторитетное положение позволяют им противостоять дезинформационному нарративу. Сюда могут входить политики, государственные чиновники, ученые, журналисты, активисты, правозащитники и другие.

Например, в отчете New Yorker за 2023 год были раскрыты подробности кампании, проводимой ОАЭ , в рамках которой президент Эмиратов Мохамед бен Заид заплатил миллионы евро швейцарскому бизнесмену Марио Бреро за «темный пиар» против своих целей. Бреро и его компания Alp Services использовали деньги ОАЭ для создания разоблачающих статей в Википедии и публикации пропагандистских статей против Катара и тех, кто связан с «Братьями-мусульманами» . В число целей входила компания Lord Energy, которая в конечном итоге объявила о банкротстве из-за бездоказательных обвинений в связях с терроризмом. ОАЭ также заплатили Альпу за публикацию 100 пропагандистских статей в год против Катара.

Дезинформационные атаки на ученых и науку, в том числе атаки, финансируемые табачной промышленностью и промышленностью по добыче ископаемого топлива, были тщательно задокументированы в таких книгах, как « Торговцы сомнениями» , Сомнение - их продукт , и «Триумф сомнения : темные деньги и наука обмана» (2020). В то время как ученые, врачи и преподаватели считаются самыми заслуживающими доверия профессионалами во всем мире. учёных беспокоит, не снизилось ли доверие к науке. Судип Парих , генеральный директор Американской ассоциации содействия развитию науки (AAAS) в 2022 году, сказал: «Теперь у нас есть значительное меньшинство населения, которое враждебно относится к научному предприятию… Нам придется много работать. вернуть доверие». Тем не менее, в то время как дезинформация представляет собой угрозу, широкое использование социальных сетей учеными предлагает беспрецедентную возможность для научного общения и взаимодействия между учеными и общественностью, что потенциально может увеличить общественные знания.

Американский совет по науке и здоровью дает советы ученым, столкнувшимся с кампанией по дезинформации, и отмечает, что кампании по дезинформации часто включают в себя некоторые элементы правды, чтобы сделать их более убедительными. Пять рекомендаций включают в себя выявление и признание любых частей истории, которые на самом деле правдивы; объяснение того, почему другие части не соответствуют действительности, вырваны из контекста или ими манипулируют; выявление мотивов, которые могут стоять за дезинформацией, таких как финансовые интересы или власть; подготовка «проверки обвинений» в ожидании дальнейших нападений; и сохранение спокойствия и самоконтроля. Другие рекомендуют узнать больше о платформах, которые вы используете, и об инструментах конфиденциальности, которые платформы предлагают для защиты личной информации, а также отключения звука, блокировки онлайн-участников и сообщения о них. Дезинформаторы и онлайн-тролли вряд ли будут вести аргументированную дискуссию или добросовестно взаимодействовать, а ответ на них редко бывает полезным.

Исследования четко документируют преследование ученых, как лично, так и с точки зрения научной достоверности. В 2021 году исследование Nature показало, что почти 60% ученых, сделавших публичные заявления о COVID-19, подверглись атаке. Нападения непропорционально сильно затронули представителей недоминирующих групп идентичности, таких как женщины, трансгендеры и цветные люди. Ярким примером является Энтони С. Фаучи . Он пользуется глубоким уважением на национальном и международном уровне как эксперт по инфекционным заболеваниям. Он также подвергался запугиванию, преследованиям и угрозам смертью, подогреваемым дезинформационными атаками и теориями заговора. Несмотря на этот опыт, Фаучи призывает начинающих ученых «не отпугивать, потому что удовлетворение и степень вклада, который вы можете внести в общество, поступив на государственную службу и в общественное здравоохранение, неизмеримы».

Подрыв коллективных действий, включая голосование

Индивидуальные решения, например, курить или нет, являются основными объектами дезинформации. То же самое относится и к процессам разработки политики, таким как формирование политики общественного здравоохранения, рекомендации и принятие политических мер, а также принятие или регулирование процессов и продуктов. Общественное мнение и политика взаимодействуют: общественное мнение и популярность мер общественного здравоохранения могут сильно влиять на политику правительства, а также на создание и соблюдение отраслевых стандартов. Дезинформация пытается подорвать общественное мнение и помешать организации действий по сбору платежей, включая политические дебаты, действия правительства, регулирование и судебные разбирательства.

Важным видом коллективной деятельности является голосование. На всеобщих выборах в Кении в 2017 году 87% опрошенных кенийцев сообщили, что столкнулись с дезинформацией перед августовскими выборами, а 35% сообщили, что в результате не смогли принять осознанное решение при голосовании. Кампании по дезинформации часто нацелены на конкретные группы, такие как чернокожие или латиноамериканские избиратели, чтобы препятствовать голосованию и гражданской активности . Фейковые аккаунты и боты используются для усиления неуверенности в том, действительно ли голосование имеет значение, «ценятся» ли избиратели и чьи интересы волнуют политиков. Микротаргетинг может предоставлять сообщения, точно предназначенные для выбранной группы населения, а геозонирование может точно определять людей в зависимости от того, куда они идут, например, прихожан. В некоторых случаях атаки по подавлению избирателей приводили к распространению неверной информации о том, где и когда голосовать. Во время праймериз демократов в США в 2020 году возникли дезинформационные нарративы вокруг использования масок и использования бюллетеней для голосования по почте, касающиеся того, будут ли люди голосовать и каким образом.

Подрыв функционального правительства

Дезинформация подрывает основу демократического правления: «идею о том, что истина познаваема и что граждане могут ее распознать и использовать для управления собой». Кампании по дезинформации разрабатываются как иностранными, так и внутренними субъектами с целью получения политических и экономических преимуществ. Подрыв функционального правительства ослабляет верховенство закона и может позволить как иностранным, так и внутренним игрокам получить политическую и экономическую выгоду. Внутри страны и за рубежом цель состоит в том, чтобы ослабить противников. Выборы являются особенно важной целью, но при этом подрывается и повседневная способность управлять страной.

Оксфордский интернет-институт Оксфордского университета сообщает, что в 2020 году организованные кампании манипулирования в социальных сетях были активны в 81 стране, по сравнению с 70 странами в 2019 году. 76 из этих стран использовали дезинформационные атаки. В докладе описывается, что дезинформация производится по всему миру «в промышленных масштабах».

Российское агентство, известное как Агентство интернет-исследований (АИРА), потратило тысячи долларов на рекламу в социальных сетях, чтобы повлиять на президентские выборы в США в 2016 году , запутать общественность по ключевым политическим вопросам и посеять раздор. Эта политическая реклама использовала пользовательские данные для микротаргетинга на определенные группы населения и распространения вводящей в заблуждение информации с конечной целью усиления поляризации и подрыва общественного доверия к политическим институтам. Проект вычислительной пропаганды Оксфордского университета обнаружил, что реклама ИРА специально была направлена ​​на то, чтобы посеять недоверие к правительству США среди американцев мексиканского происхождения и снизить явку избирателей среди афроамериканцев .

Исследование активности в Твиттере перед президентскими выборами во Франции 2017 года показывает, что 73% дезинформации, отмеченной Le Monde, были связаны с двумя политическими сообществами: одно связано с Франсуа Фийоном (правое, с 50,75% акций фейковых ссылок) и еще один с Марин Ле Пен (крайне правое крыло, 22,21%). 6% аккаунтов в сообществе Фийона и 5% в сообществе Ле Пен были первыми распространителями дезинформации. Разоблачение дезинформации исходило из других сообществ и чаще всего было связано с Эммануэлем Макроном (39,18% разоблачений) и Жан-Люком Меланшоном (14% разоблачений).

Другой анализ дезинформационной кампании #MacronLeaks 2017 года иллюстрирует частые модели кампаний по дезинформации, связанных с выборами. Такие кампании часто достигают пика за 1–2 дня до выборов. Масштаб такой кампании, как #MacronLeaks, может быть сопоставим с объемом регулярных дискуссий в тот период времени, что позволяет предположить, что она может привлечь значительное коллективное внимание. Около 18 процентов пользователей, участвовавших в #MacronLeaks, были идентифицированы как боты. Всплески содержания ботов, как правило, происходили немного раньше, чем всплески контента, созданного людьми, что позволяет предположить, что боты способны запускать каскады дезинформации. Некоторые бот-аккаунты демонстрировали образец предыдущего использования: создание незадолго до президентских выборов в США в 2016 году, затем кратковременное использование и отсутствие дальнейшей активности до начала мая 2017 года, перед выборами во Франции. Представители альтернативных правых СМИ, в том числе британец Пол Джозеф Уотсон и американец Джек Пособец, активно делились контентом MacronLeaks перед выборами во Франции. Эксперты обеспокоены тем, что дезинформационные атаки будут все чаще использоваться для влияния на национальные выборы и демократические процессы.

Внешние видео
«Психология и политика теорий заговора» , журнал Knowable Magazine , 27 октября 2021 г.

В книге «Многие говорят: новый заговор и нападение на демократию» (2020) Нэнси Л. Розенблюм и Рассел Мюрхед исследуют историю и психологию теорий заговора , а также способы, которыми они используются для делигитимации политической системы. Они различают классическую теорию заговора, в которой реальные проблемы и события (такие как убийство Джона Ф. Кеннеди ) исследуются и объединяются для создания теории, и новую форму «заговора без теории», которая опирается на повторение ложных заявлений и слухов. без фактического обоснования.

Такая дезинформация эксплуатирует человеческую предвзятость к принятию новой информации. Люди постоянно делятся информацией и полагаются на других, предоставляющих информацию, которую они не могут проверить сами. Большая часть этой информации будет правдой, независимо от того, спросят ли они, холодно ли на улице или холодно в Антарктиде. В результате они склонны верить тому, что слышат. Исследования показывают « эффект иллюзорной правды »: чем чаще люди слышат утверждение, тем больше вероятность, что они посчитают его правдой. Это происходит даже тогда, когда люди считают утверждение ложным в первый раз, когда они его видят; они, вероятно, оценят вероятность того, что это правда, выше после многократного воздействия. Социальные сети особенно опасны как источник дезинформации, поскольку роботы и многочисленные фейковые аккаунты используются для повторения и усиления воздействия ложных заявлений. Алгоритмы отслеживают, на что нажимают пользователи, и рекомендуют контент, похожий на то, что выбрали пользователи, создавая предвзятость подтверждения и фильтруя пузырьки . В более сфокусированных сообществах эффект эхо-камеры усиливается.

Автократы использовали атаки по дезинформации внутренних избирателей, чтобы скрыть коррупцию на выборах . Дезинформация избирателей может включать публичные заявления, в которых утверждается легитимность местных избирательных процессов, а также заявления, дискредитирующие наблюдателей за выборами. Компании по связям с общественностью могут быть наняты для проведения специализированных кампаний дезинформации, включая рекламу в СМИ и закулисное лоббирование , чтобы продвигать идею честных и демократических выборов. Независимый мониторинг избирательного процесса имеет важное значение для борьбы с электоральной дезинформацией. В мониторинге могут участвовать как гражданские наблюдатели за выборами, так и международные наблюдатели, если они заслуживают доверия. Нормы точной характеристики выборов основаны на этических принципах, эффективных методологиях и беспристрастном анализе. Демократические нормы подчеркивают важность открытых данных о выборах, свободного осуществления политических прав и защиты прав человека.

Рост поляризации и легитимизация насилия

Дезинформационные атаки могут усилить политическую поляризацию и изменить общественный дискурс. Иностранные кампании манипулирования могут быть направлены на усиление крайних позиций и ослабление целевого общества, в то время как внутренние субъекты могут попытаться демонизировать политических оппонентов. Государства с сильно поляризованным политическим ландшафтом и низким уровнем общественного доверия к местным СМИ и правительству особенно уязвимы для атак дезинформации.

Есть опасения, что Россия будет использовать дезинформацию, пропаганду и запугивание, чтобы дестабилизировать членов НАТО , таких как страны Балтии , и заставить их принять российские идеи и программы. Во время российско-украинской войны 2014 года Россия в своей наступательной стратегии объединила традиционную боевую войну с дезинформационными атаками в форме гибридной войны , чтобы посеять сомнения и замешательство среди вражеского населения и запугать противников, подорвать доверие общества к украинским институтам и повысить позиции России. репутация и легитимность. После эскалации российско-украинской войны с вторжением России на Украину в 2022 году модель дезинформации России была описана CBC News как «Отрицать, отклонять, отвлекать».

Были опровергнуты тысячи историй, включая подделанные фотографии и дипфейки. По меньшей мере 20 основных «тем» продвигаются российской пропагандой, ориентированной на аудиторию далеко за пределами Украины и России. Многие из них пытаются подкрепить идеи о том, что Украина каким-то образом контролируется нацистами, что ее вооруженные силы слабы и что ущерб и зверства вызваны действиями Украины, а не России. Многие из изображений, которые они исследуют, опубликованы на Telegraph . Правительственные организации и независимые журналистские группы, такие как Bellingcat, работают над подтверждением или опровержением таких сообщений, часто используя данные из открытых источников и сложные инструменты для определения того, откуда и когда возникла информация и являются ли претензии законными. Bellingcat стремится предоставлять точную информацию о событиях по мере их возникновения и создавать постоянные, проверенные и долгосрочные записи.

Теории запугивания и заговора используются для поощрения поляризации, продвижения исключающих нарративов и легитимизации разжигания ненависти и агрессии. Как было тщательно задокументировано, период, предшествовавший Холокосту, был отмечен неоднократной дезинформацией и усилением преследований со стороны нацистского правительства . кульминацией которых стало массовое убийство из 165 200 немецких евреев «государством-геноцидом». Сегодня считается, что население Африки, Азии, Европы и Южной Америки подвергается серьезному риску нарушений прав человека. Изменение условий в Соединенных Штатах также было определено как увеличивающийся фактор риска насилия.

Выборы представляют собой особенно напряженный политический переходный момент, эмоционально напряженный в любое время и все чаще подвергающийся дезинформации. Эти условия повышают риск индивидуального насилия, гражданских беспорядков и массовых злодеяний. Такие страны, как Кения, чья история была связана с этническим насилием или насилием, связанным с выборами, иностранным или внутренним вмешательством, а также с высокой зависимостью от использования социальных сетей для политического дискурса, считаются подверженными более высокому риску. В Рамочной программе Организации Объединенных Наций по анализу зверских преступлений выборы определяются как индикатор риска злодеяний: дезинформация может выступать в качестве мультипликатора угрозы жестоких преступлений . Признание серьезности этой проблемы имеет важное значение для мобилизации правительств, гражданского общества и платформ социальных сетей на принятие мер по предотвращению вреда как онлайн, так и оффлайн.

Каналы дезинформации

Научные исследования

Дезинформационные атаки направлены на подрыв доверия к науке, особенно в области общественного здравоохранения. и экология . Примеры включают отрицание опасности этилированного бензина , курение , и изменение климата .

Модель дезинформационных атак с использованием научных источников возникла в 1920-х годах. Он иллюстрирует тактику, которая продолжает использоваться. Еще в 1910 году промышленный токсиколог Элис Гамильтон задокументировала опасности, связанные с воздействием свинца . В 1920-х годах Чарльз Кеттеринг , Томас Миджли-младший и Роберт А. Кехо из Ethyl Gasoline Corporation ввели свинец в бензин. После сенсационного безумия и гибели рабочих на их заводах в 1925 году была проведена конференция Службы общественного здравоохранения для рассмотрения вопроса об использовании тетраэтилсвинца (ТЭС). Гамильтон и другие предупредили о потенциальной опасности этилированного бензина для людей и окружающей среды. Они поставили под сомнение методологию исследования, использованную Кехо, который утверждал, что свинец является «естественной» частью окружающей среды и что высокий уровень свинца у рабочих является «нормальным». Кеттеринг, Миджли и Кехо подчеркнули, что добавка к газу необходима, и заявили, что до тех пор, пока «не будет показано... что в результате возникает реальная опасность для населения», компании должно быть разрешено производить свою продукцию. Вместо того, чтобы требовать от промышленности подтверждения безопасности своей продукции перед ее продажей, бремя доказывания было возложено на защитников общественного здравоохранения, которые должны были предоставить неоспоримые доказательства причинения вреда. Критиков TEL охарактеризовали как «истеричных». При поддержке промышленности Кехо стал видным отраслевым экспертом и защитником позиции, согласно которой этилированный бензин безопасен, обладая «почти полной монополией» на исследования в этой области. Пройдут десятилетия, прежде чем его работа будет окончательно дискредитирована. В 1988 году Агентство по охране окружающей среды подсчитало, что за предыдущие 60 лет 68 миллионов детей пострадали от сильного токсичного воздействия свинца, содержащегося в этилированном топливе.

К 1950-м годам производство и использование предвзятых «научных» исследований было частью последовательной «схемы дезинформации», используемой табачными компаниями. пестицид и промышленности ископаемого топлива. Во многих случаях одни и те же исследователи, исследовательские группы и фирмы по связям с общественностью нанимались в разных отраслях. Они неоднократно утверждали, что продукты безопасны, хотя и знали, что они небезопасны. Когда утверждения о безопасности были оспорены, утверждалось, что эти продукты необходимы. Посредством скоординированных и широкомасштабных кампаний они пытались повлиять на общественное мнение и манипулировать государственными чиновниками и регулирующими органами, чтобы предотвратить действия регулирующих или юридических органов, которые могли бы помешать получению прибыли.

Подобная тактика продолжает использоваться в кампаниях научной дезинформации. Когда представлены доказательства причинения вреда, утверждается, что доказательств недостаточно. Аргумент о том, что необходимы дополнительные доказательства, используется для того, чтобы отложить действие на какое-то будущее. Задержки используются, чтобы блокировать попытки ограничить или регулировать отрасль, а также избежать судебных разбирательств, продолжая при этом получать прибыль. Эксперты, финансируемые промышленностью, проводят исследования, которые слишком часто могут быть оспорены по методологическим соображениям, а также из-за конфликта интересов. Дезинформаторы используют плохие исследования как основу для утверждений о том, что учёные не согласны друг с другом, и для создания конкретных утверждений в рамках дезинформационного нарратива. Оппоненты часто подвергаются нападкам как на личном уровне, так и с точки зрения их научной работы.

В меморандуме табачной промышленности этот подход резюмируется словами: «Сомнение – наш продукт». Ученые обычно рассматривают вопрос с точки зрения вероятности того, что вывод подтвердится, учитывая вес наилучших имеющихся научных доказательств. Доказательства, как правило, включают измерения, а измерения могут привести к ошибке. Ученый может сказать, что имеющихся доказательств достаточно, чтобы поддержать вывод о проблеме, но редко будет утверждать, что проблема полностью понята или что вывод на 100% определен. Дезинформационная риторика пытается подорвать науку и повлиять на общественное мнение, используя «стратегию сомнения». Переосмысливая обычный научный процесс, можно сказать, что дезинформация часто предполагает, что любая уверенность ниже 100% подразумевает сомнение, а это сомнение означает отсутствие консенсуса по вопросу. Дезинформация пытается подорвать уверенность как в конкретном вопросе, так и в самой науке. Десятилетия дезинформационных атак значительно подорвали общественное доверие к науке.

Научная информация может искажаться по мере ее распространения среди первичных научных источников, популярной прессы и социальных сетей. Это может происходить как намеренно, так и непреднамеренно. Некоторые особенности современных научных публикаций, такие как использование серверов препринтов, облегчают публикацию неточной информации, особенно если сообщаемая информация является новой или сенсационной.

Шаги по защите науки от дезинформации и вмешательства включают как индивидуальные действия со стороны ученых, рецензентов и редакторов, так и коллективные действия через исследовательские, грантовые, профессиональные организации и регулирующие органы.

Традиционные СМИ

Традиционные каналы СМИ могут использоваться для распространения дезинформации. Например, Russia Today — финансируемый государством новостной канал, вещающий на международном уровне. Его цель — повысить репутацию России за рубежом, а также представить западные страны, такие как США, в негативном свете. Он служил платформой для распространения пропаганды и теорий заговора, призванных ввести в заблуждение и дезинформировать свою аудиторию.

В Соединенных Штатах распространение дезинформации и пропаганды было связано с развитием все более «партизанских» СМИ, наиболее сильно в правых источниках, таких как Breitbart , The Daily Caller и Fox News . Поскольку количество местных новостных агентств пришло в упадок, увеличилось количество партизанских СМИ, которые «маскируются» под местные источники новостей. Влияние партийности и ее усиление через средства массовой информации документально подтверждено. Например, отношение к климатическому законодательству было двухпартийным в 1990-х годах, но к 2010 году оно стало сильно поляризованным. смешанный.

«Вратным убеждением», которое влияет на принятие людьми научных позиций и политики, является их понимание степени научного согласия по теме. Поэтому подрыв научного консенсуса является частой тактикой дезинформации. Указание на наличие научного консенсуса (и объяснение задействованной науки) может помочь противостоять дезинформации. Указание на широкий консенсус экспертов может помочь согласовать восприятие и понимание людей с эмпирическими данными. Представление сообщений таким образом, чтобы оно соответствовало чьей-то культурной системе взглядов, повышает вероятность того, что они будут приняты.

Важно избегать ложного баланса , когда противоположные утверждения представляются непропорционально фактическим доказательствам каждой стороны. Одним из способов противодействия ложному балансу является представление заявления о весомости доказательств, которое явно указывает на баланс доказательств для различных позиций.

Социальные сети

Преступники в основном используют социальные сети как средство распространения дезинформации, используя различные инструменты. Исследователи собрали множество действий, посредством которых происходят дезинформационные атаки в социальных сетях, которые обобщены в таблице ниже.

Режимы дезинформационной атаки в социальных сетях.
Срок	Описание
Алгоритмы	Алгоритмы используются для усиления распространения дезинформации. Алгоритмы фильтруют и адаптируют информацию для пользователей и изменяют потребляемый ими контент. Исследование показало, что алгоритмы могут быть конвейерами радикализации, поскольку они представляют контент в зависимости от уровня вовлеченности пользователей. Пользователей больше привлекает радикальный, шокирующий и кликбейтовый контент. В результате экстремистские, привлекающие внимание посты могут привлечь высокий уровень вовлеченности благодаря алгоритмам. Кампании по дезинформации могут использовать алгоритмы для усиления экстремистского содержания и посеять радикализацию в Интернете.
Астротурфинг	Централизованно скоординированная кампания, которая имитирует массовый активизм, заставляя участников притворяться обычными гражданами. Astroturfing публикует огромное количество контента, продвигающего похожие сообщения с нескольких фейковых аккаунтов. Это создает впечатление широкого консенсуса вокруг сообщения, имитируя реакцию широких масс, скрывая при этом его происхождение. Флуд — это рассылка социальных сетей сообщениями с целью сформировать повествование или заглушить оппозицию. Повторное воздействие сообщения с большей вероятностью закрепит его в чьем-то сознании. Субъекты дезинформации часто адаптируют сообщения к конкретной аудитории, чтобы взаимодействовать с отдельными людьми и завоевывать у них доверие, прежде чем подвергать их более крайним или вводящим в заблуждение взглядам.
Боты	Боты — это автоматизированные агенты, которые могут создавать и распространять контент на социальных онлайн-платформах. Многие боты могут взаимодействовать с другими ботами и людьми. В кампаниях по дезинформационным атакам они используются для быстрого распространения дезинформации и взлома цифровых социальных сетей. Боты могут создать иллюзию, что одна часть информации поступает из множества разных источников. При этом кампании по дезинформационным атакам делают свой контент правдоподобным за счет многократного и разнообразного воздействия. Наполняя каналы социальных сетей повторяющимся контентом, боты также могут изменять алгоритмы и переключать внимание онлайн на дезинформационный контент.
Кликбейт	Намеренное использование вводящих в заблуждение заголовков и миниатюр для увеличения онлайн-трафика с целью получения прибыли или популярности.
Теории заговора	Опровержения официальных версий, предлагающих альтернативные объяснения, согласно которым отдельные лица или группы действуют тайно.
Культурные войны	Явление, при котором несколько групп людей, придерживающихся устоявшихся ценностей, пытаются спорно управлять государственной политикой.
Глубокие фейки	Дипфейк — это цифровой контент (аудио и видео) , которым манипулировали. Технологию глубоких фейков можно использовать для клеветы, шантажа и выдачи себя за другое лицо. Благодаря низкой стоимости и эффективности глубокие фейки могут использоваться для распространения дезинформации быстрее и в большем объеме, чем люди. Кампании по дезинформационным атакам могут использовать технологию глубоких фейков для создания дезинформации о людях, государствах или повествованиях. Технологию дипфейков можно использовать в качестве оружия для введения в заблуждение аудитории и распространения лжи.
Эхо-камеры	Эпистемическая среда, в которой участники сталкиваются с убеждениями и мнениями, совпадающими с их собственными.
Фальсификация	Новости, в которых ложные факты выдаются за законные
Фейковые новости	Намеренное создание псевдожурналистики и использование этого термина в качестве инструмента для делегитимации средств массовой информации.
Люди	Персонажи и веб-сайты могут создаваться с целью представления и распространения неверной информации таким образом, чтобы она выглядела достоверной. Поддельный веб-сайт может представлять собой сайт профессиональной или образовательной организации. Человек может подразумевать, что у него есть полномочия или опыт. Субъекты дезинформации могут создавать целые сети взаимосвязанных предполагаемых «авторитетов». Предполагаем ли мы, что кто-то правдив, и решаем ли мы проверять факты, то, что мы видим, являются предикторами восприимчивости к дезинформации. Тщательно рассмотрите источники и утверждения авторитетов; перекрестная проверка информации по широкому кругу источников.
Пропаганда	Организованная массовая коммуникация со скрытой повесткой дня и с целью изменить убеждения и действия, обходя индивидуальные рассуждения.
Лженаука	Отчеты, которые заявляют об объяснительной силе науки, заимствуют ее язык и легитимность, но существенно расходятся с ее критериями качества.
Слух	Необоснованные новости, которые распространяются, но не подтверждены и не подтверждены.
Троллинг	Сетевые группы цифровых влиятельных лиц, которые управляют «армиями кликов», призванными мобилизовать общественные настроения.

Приложение под названием «Рассвет радостных новостей», разработанное членами «Исламского государства» , помогает организации быстро распространять дезинформацию в социальных сетях. Когда пользователь загружает приложение, ему предлагается связать его со своей учетной записью Twitter и предоставить приложению доступ к твитам из своей личной учетной записи. Это приложение позволяет автоматически рассылать твиты с реальных учетных записей пользователей и помогает создавать тенденции в Твиттере, которые усиливают дезинформацию, создаваемую Исламским государством, в международном масштабе.

Во многих случаях отдельным лицам и компаниям в разных странах платят за создание ложного контента и распространение дезинформации, иногда получая за это как выплаты, так и доходы от рекламы. «Акторы, занимающиеся дезинформацией по найму», часто продвигают несколько проблем или даже несколько сторон одной и той же проблемы исключительно ради материальной выгоды. Другие мотивированы политически или психологически.

Бизнес -модели цифровых платформ, таких как YouTube , работают по трем частям: (1) информация и развлечения ( информационно-развлекательные развлечения ) предоставляются по низкой цене, (2) в обмен на внимание пользователя и данные наблюдения за пользователями, (3) затем эта информация передается монетизируется с помощью таргетированной рекламы.

В более широком смысле социальные сети можно рассматривать с точки зрения их рыночной практики и способов, с помощью которых их структуры и практики « монетизируют » взаимодействие с зрителями. Средства массовой информации (1) предоставляют публике контент по низкой цене или бесплатно, (2) привлекают и переориентируют внимание общественности и (3) собирают, используют и перепродают пользовательские данные. Рекламные компании, издатели, влиятельные лица, бренды и клиенты могут извлечь выгоду из дезинформации разными способами.

В 2022 году Journal of Communication опубликовал исследование политической экономии, лежащей в основе дезинформации о вакцинах. Исследователи выявили 59 англоязычных «актеров», которые предоставили «почти исключительно публикации против вакцинации». Их веб-сайты монетизировали дезинформацию посредством призывов к пожертвованиям, продажи контентных СМИ и других товаров, сторонней рекламы и членских взносов. Некоторые содержали группу связанных веб-сайтов, привлекая посетителей на одном сайте и предлагая деньги и продавая товары на других. То, как они привлекли внимание и получили финансирование, их деятельность отражало «гибридную стратегию монетизации». Они привлекли внимание, объединив привлекательные аспекты «мусорных новостей» и продвижения знаменитостей в Интернете. В то же время они создали сообщества, ориентированные на конкретные кампании, для пропаганды и легитимизации своей позиции, подобно радикальным социальным движениям.

Социальная инженерия

Эмоции используются и манипулируются ими для распространения дезинформации и ложных убеждений. Вызывающие эмоции могут быть убедительными. Когда люди твердо убеждены в чем-то, они с большей вероятностью сочтут это правдой. Эмоции также могут привести к тому, что люди станут менее ясно думать о том, что они читают, и о достоверности его источника. Контент, вызывающий эмоции, с большей вероятностью быстро распространится в Интернете. Страх, замешательство и отвлечение внимания могут мешать людям критически мыслить и принимать правильные решения.

Человеческая психология используется для того, чтобы сделать дезинформационные атаки более мощными и вирусными. Психологические явления, такие как стереотипы, предвзятость подтверждения , избирательное внимание и эхо-камеры , способствуют вирусности и успеху дезинформации на цифровых платформах. Дезинформационные атаки часто считаются разновидностью психологической войны из-за использования психологических методов для манипулирования населением.

Восприятием идентичности и чувством принадлежности манипулируют, чтобы влиять на людей. Чувство социальной принадлежности усиливается, чтобы поощрять принадлежность к группе и препятствовать инакомыслию. Это может сделать людей более восприимчивыми к «влиятельным лицам» или лидерам, которые могут поощрять своих «активных последователей » нападать на других. Тип поведения сравнивают с коллективным поведением мобов и аналогичен динамике внутри культов .

Меры защиты

Как отметил Институт Первой поправки Найта при Колумбийском университете, «проблема дезинформации является социальной, а не только технологической или юридической». Это поднимает серьезные этические проблемы относительно того, как мы взаимодействуем друг с другом. Саммит 2023 года «Правда, доверие и надежда», проведенный Нобелевским комитетом и Национальной академией наук, определил дезинформацию как более опасную, чем любой другой кризис, поскольку она препятствует рассмотрению и разрешению всех проблем. другие проблемы.

Защитные меры против дезинформации могут приниматься на самых разных уровнях, в разных обществах, при разных законах и условиях. Ответы на дезинформацию могут включать учреждения, отдельных лиц и технологии, включая государственное регулирование, саморегулирование, мониторинг со стороны третьих сторон, действия частных лиц, влияние толпы и технологические изменения в архитектуре платформ и алгоритмическом поведении. Важно разрабатывать и обмениваться передовым опытом противодействия дезинформации и повышения устойчивости к ней.

Существующие социальные, правовые и нормативные принципы могут быть нелегко применимы к действиям в международном виртуальном мире, где частные корпорации конкурируют за прибыльность, часто на основе участия пользователей. Этические проблемы касаются некоторых возможных ответов на дезинформацию, поскольку люди обсуждают вопросы модерации контента, свободы слова, права на неприкосновенность частной жизни, человеческой идентичности, человеческого достоинства, подавления прав человека и свободы вероисповедания, а также использования данных. Масштаб проблемы означает, что «построение устойчивости к манипулятивным информационным кампаниям и противодействие им является задачей всего общества».

Национальные и международные законы

Хотя авторитарные режимы решили использовать дезинформационные атаки в качестве инструмента политики, их использование представляет особую опасность для демократических правительств: использование аналогичной тактики еще больше усилит общественное недоверие к политическим процессам и подорвет основу демократического и легитимного правительства. «Демократические страны не должны стремиться тайно влиять на общественные дебаты, намеренно распространяя ложную или вводящую в заблуждение информацию или прибегая к вводящим в заблуждение практикам, таким как использование вымышленных онлайн-персон». Кроме того, демократическим странам рекомендуется использовать свои сильные стороны, включая верховенство закона, уважение прав человека, сотрудничество с партнерами и союзниками, мягкую силу и технические возможности для борьбы с киберугрозами.

Конституционные нормы, управляющие обществом, необходимы как для того, чтобы сделать управление эффективным, так и для предотвращения тирании . Предоставление точной информации и противодействие дезинформации являются законной деятельностью правительства. ОЭСР таких предполагает, что публичное информирование о мерах реагирования должно следовать принципам открытого правительства, как честность, прозрачность, подотчетность и участие граждан. Обсуждение способности правительства США юридически реагировать на дезинформацию показывает, что ответные меры должны основываться на принципах прозрачности и всеобщности. В ответах следует избегать нападок ad hominem , расовых призывов или избирательности в отношении человека, которому отвечают. Критика должна быть сосредоточена в первую очередь на предоставлении правильной информации и, во вторую очередь, на объяснении того, почему ложная информация неверна, а не на говорящем или повторении ложного повествования.

В случае с пандемией COVID-19 множество факторов создали «пространство для распространения дезинформации». Реакция правительства на эту проблему общественного здравоохранения указывает на несколько слабых мест, включая пробелы в базовых знаниях в области общественного здравоохранения, отсутствие координации в правительственных коммуникациях и путаницу в отношении того, как решать ситуацию, связанную со значительной неопределенностью. Уроки пандемии включают необходимость признать неопределенность, когда она существует, и четко различать то, что известно, и то, что еще не известно. Наука — это процесс, и важно признать и сообщить, что научное понимание и соответствующие рекомендации будут меняться со временем на основе новых данных.

Регулирование дезинформации поднимает этические проблемы. Право во на свободу выражения мнения признано в качестве права человека Всеобщей декларации прав человека и международных законах о правах человека Организации Объединенных Наций . Во многих странах есть конституционные законы , защищающие свободу слова. Законы страны могут определять конкретные категории высказываний, которые охраняются или не защищаются, а также конкретные стороны, действия которых ограничиваются.

Соединенные Штаты

Первая поправка к Конституции США защищает как свободу слова, так и свободу прессы от вмешательства Конгресса США . В результате регулирование дезинформации в Соединенных Штатах, как правило, остается на усмотрение частных лиц, а не действий правительства.

Первая поправка не защищает высказывания, используемые для подстрекательства к насилию или нарушения закона. или «непристойность, детская порнография, клеветнические высказывания, ложная реклама, настоящие угрозы и бранные слова». За этими исключениями ожидается, что обсуждение вопросов, представляющих «общественный или общий интерес», «свободным, решительным и широко открытым» образом принесет пользу демократическому обществу.

Первая поправка имеет тенденцию полагаться на контрречи как на работоспособную корректирующую меру, предпочитая опровержение лжи регулированию. Существует основополагающее предположение, что идентифицируемые партии будут иметь возможность поделиться своими взглядами на относительно равных условиях, где общественный деятель, вовлеченный в дебаты, будет иметь расширенный доступ к средствам массовой информации и шанс на опровержение. Это может больше не соответствовать действительности, когда против отдельного человека или группы осуществляются быстрые и массовые дезинформационные атаки через анонимных или нескольких третьих лиц, где «задержка на полдня — это целая жизнь для онлайн-ложи».

Другие гражданские и уголовные законы предназначены для защиты отдельных лиц и организаций в случаях, когда высказывания клеветой или клеветой связаны с или мошенничеством . В таких случаях неправоты недостаточно для оправдания юридических или правительственных действий. Неверная информация должна явно причинить вред другим людям или позволить лжецу получить неоправданную выгоду. Тот, кто сознательно распространил дезинформацию и использовал эту дезинформацию для получения денег, может быть обвинен в мошенничестве. Неясно, в какой степени существующие законы могут эффективно применяться против атак дезинформации. Согласно этому подходу, разновидность дезинформации, которая не только не соответствует действительности, но и «распространяется с целью получения прибыли или преимущества путем обмана и в результате причиняет вред», может рассматриваться как «мошенничество в отношении общественности». и больше не считается типом защищенной речи. Большая часть высказываний, представляющих собой дезинформацию, не соответствует этому критерию.

Евросоюз

Закон о цифровых услугах (DSA) — это нормативный акт в законодательстве ЕС , который устанавливает правовую основу в Европейском Союзе для управления контентом посредников, включая незаконный контент, прозрачную рекламу и дезинформацию. Европейский парламент одобрил DSA вместе с Законом о цифровых рынках 5 июля 2022 года. Европейский совет окончательно утвердил Положение о Законе о цифровых услугах 4 октября 2022 года. Он был опубликован в Официальном журнале Европейского Союза 19 октября 2022 года. Затронутые поставщики услуг должны будут соблюдать его положения до 1 января 2024 года. DSA стремится гармонизировать различные законы на национальном уровне в Европейском Союзе. включая Германию ( NetzDG ), Австрию («Kommunikationsplattformen-Gesetz») и Францию ​​(« Loi Avia »). Платформы с более чем 45 миллионами пользователей в Европейском Союзе , включая Facebook , YouTube , Twitter и TikTok, будут подпадать под новые обязательства. Компании, не выполняющие эти обязательства, могут быть оштрафованы на сумму до 10% от их годового оборота.

По состоянию на 25 апреля 2023 года Arc.Ask3.Ru была одной из 17 платформ, которые были признаны Комиссией ЕС очень большой онлайн-платформой (VLOP), а правила вступили в силу 25 августа 2023 года. В дополнение к любым шагам, предпринятым Фондом Викимедиа, соответствие Википедии Закону о цифровых услугах будет проходить независимый аудит на ежегодной основе, начиная с 2024 года.

Россия и Китай

Было высказано предположение, что Китай и Россия совместно изображают Соединенные Штаты и Европейский Союз враждебно с точки зрения использования информации и технологий. Затем этот нарратив используется Китаем и Россией для оправдания ограничения свободы выражения мнений, доступа к независимым СМИ и свободы Интернета. Они совместно призвали к «интернационализации управления Интернетом», что означает передачу контроля над Интернетом отдельным суверенным государствам. Напротив, призывы к глобальному управлению Интернетом подчеркивают существование свободного и открытого Интернета, в управлении которым участвуют граждане и гражданское общество. Демократические правительства должны осознавать потенциальное воздействие мер, используемых для ограничения дезинформации как внутри страны, так и за рубежом. Это не аргумент, который должен блокировать законодательство, но его следует учитывать при формировании законодательства.

Частное регулирование

В Соединенных Штатах Первая поправка ограничивает действия Конгресса, а не частных лиц, компаний и работодателей. Частные организации могут устанавливать свои собственные правила (в соответствии с местными и международными законами) обращения с информацией. Платформы социальных сетей, такие как Facebook, Twitter и Telegram, могли бы на законном основании установить правила модерации информации и дезинформации на своих платформах. В идеале платформы должны попытаться сбалансировать свободу выражения мнений своих пользователей и модерацию или удаление вредных и незаконных высказываний.

Обмен информацией через средства массовой информации и газеты в значительной степени является саморегулируемым. Он опирался на добровольное самоуправление и установление стандартов профессиональными организациями, такими как Общество профессиональных журналистов США (SPJ). SPJ имеет этический кодекс профессиональной ответственности, который включает поиск и сообщение истины, минимизацию вреда, подотчетность и прозрачность. Кодекс гласит, что «тот, кто пользуется особой степенью свободы, например профессиональный журналист, обязан перед обществом использовать свои свободы и полномочия ответственно». Любой может написать письмо редактору « Нью-Йорк Таймс» , но « Таймс» не опубликует это письмо, если он этого не захочет.

Возможно, платформы социальных сетей больше похожи на почтовое отделение, которое передает информацию, не проверяя ее, чем на журналистов и издателей печатных изданий, которые принимают редакционные решения и должны нести ответственность за то, что они публикуют. Те этические, социальные и правовые рамки, которые разработали журналистика и печатные издания, не были применены к платформам социальных сетей.

Было отмечено, что платформам социальных сетей, таким как Facebook и Twitter, не хватает стимулов для контроля дезинформации или саморегулирования. Поскольку платформы полагаются на рекламу для получения дохода, им выгодно максимизировать вовлечение пользователей, а их внимание явно привлекает сенсационный контент. Алгоритмы, которые продвигают контент на основе истории поиска пользователей, частых кликов и платной рекламы, приводят к несбалансированной, плохо полученной и активно вводящей в заблуждение информации. Это также очень выгодно. При противодействии дезинформации использование алгоритмов мониторинга контента обходится дешевле, чем наем людей для просмотра и проверки контента. Люди более эффективно обнаруживают дезинформацию. Люди также могут привнести в задачу модерации свои собственные предубеждения (или предубеждения своего работодателя).

Частные платформы социальных сетей, такие как Facebook и Twitter, могут на законных основаниях разрабатывать правила, процедуры и инструменты для выявления и борьбы с дезинформацией на своих платформах. Например, Twitter может использовать приложения машинного обучения, чтобы отмечать контент, который не соответствует его условиям обслуживания, и выявлять экстремистские публикации, поощряющие терроризм. Facebook и Google разработали систему иерархии контента, с помощью которой специалисты по проверке фактов могут выявлять и понижать ранг возможной дезинформации и соответствующим образом корректировать алгоритмы. Компании также рассматривают возможность использования процессуальных правовых систем для регулирования контента на своих платформах. В частности, они рассматривают возможность использования апелляционной системы: сообщения могут быть удалены за нарушение условий обслуживания и создание угрозы дезинформации, но пользователи могут оспорить это действие через иерархию апелляционных органов.

Технология блокчейн была предложена в качестве потенциального механизма защиты от интернет-манипуляций. Хотя изначально блокчейн был разработан для создания реестра транзакций цифровой валюты биткойн , в настоящее время он широко используется в приложениях, где требуется постоянный учет или история активов, транзакций и действий. Это обеспечивает потенциал прозрачности и подотчетности, Технология блокчейн может быть применена для повышения безопасности передачи данных в онлайн-пространстве и сетях Интернета вещей , что затруднит изменение или цензуру контента и проведение дезинформационных атак. Применение таких методов, как блокчейн и водяные знаки с ключами, в социальных сетях/платформах обмена сообщениями также может помочь обнаружить и обуздать атаки дезинформации. Плотность и скорость пересылки сообщений можно отслеживать, чтобы выявить закономерности активности, которые предполагают использование ботов и активность фейковых аккаунтов для дезинформационных атак. Блокчейн может поддерживать как обратное, так и прямое отслеживание событий, связанных с распространением дезинформации. Если контент будет признан опасным или неприемлемым, его распространение может быть немедленно ограничено.

Понятно, что методы противодействия дезинформации, включающие алгоритмическое управление, вызывают этические проблемы. Использование технологий, которые отслеживают информацию и манипулируют ею, поднимает вопросы о том, «кто несет ответственность за их работу, могут ли они создавать несправедливость и подрывать гражданские нормы, и как нам следует устранять их (не)предвиденные последствия».

Исследование Исследовательского центра Pew сообщает, что общественная поддержка ограничения дезинформации со стороны как технологических компаний, так и правительства возросла среди американцев в период с 2018 по 2021 год. Однако взгляды на то, должны ли правительство и технологические компании предпринимать такие шаги, в течение того же периода становились все более партийными и поляризованными. период времени.

Совместные меры

Эксперты по кибербезопасности утверждают, что сотрудничество между государственным и частным секторами необходимо для успешной борьбы с дезинформационными атаками. Рекомендуемые стратегии совместной защиты включают:

• Создание «консорциумов по обнаружению дезинформации», в которых заинтересованные стороны (т. е. частные компании социальных сетей и правительства) собираются для обсуждения дезинформационных атак и выработки стратегий взаимной защиты.
• Обмен важной информацией между частными социальными сетями и правительством для разработки более эффективных стратегий защиты.
• Координация между правительствами для создания единого и эффективного ответа на транснациональные кампании дезинформации.

Однако в США Республиканская партия активно выступает против как исследований дезинформации, так и участия правительства в борьбе с дезинформацией. Республиканцы получили большинство в Палате представителей в январе 2023 года. С тех пор Юридический комитет Палаты представителей использовал судебные иски для отправки писем, повесток в суд и угроз судебного иска исследователям, требуя заметок, электронных писем и других записей от исследователей и даже студентов-стажеров. Начиная с 2015 года. Затронутые учреждения включают Стэнфордскую интернет-обсерваторию в Стэнфордском университете , Вашингтонский университет , лабораторию цифровых криминалистических исследований Атлантического совета и фирму, занимающуюся аналитикой социальных сетей. Графика. В число проектов входит Партнерство по обеспечению честности выборов, созданное для выявления попыток «подавить голосование, сократить участие, запутать избирателей или делигитимизировать результаты выборов без доказательств». и Проект вирусальности, который изучил распространение ложных утверждений о вакцинах. Исследователи утверждают, что у них есть академическая свобода изучать социальные сети и дезинформацию, а также свобода слова, чтобы сообщать о своих результатах. Несмотря на заявления консерваторов о том, что правительство осуществляло цензуру высказываний в Интернете, «не появилось никаких доказательств того, что правительственные чиновники принуждали компании принять меры против счетов».

На уровне штатов правительства штатов, которые были политически связаны с активистами, выступающими против вакцинации, успешно добились предварительного судебного запрета , чтобы помешать администрации Байдена призывать компании социальных сетей бороться с дезинформацией об общественном здравоохранении. Приказ, изданный Апелляционным судом пятого округа США в 2023 году, «серьезно ограничивает возможности Белого дома, главного хирурга и Центров по контролю и профилактике заболеваний… общаться с компаниями социальных сетей по поводу контента». связанных с Covid-19... что правительство рассматривает как дезинформацию».

Укрепление гражданского общества

Сообщения о дезинформации в Армении и Азия выявить ключевые проблемы и дать рекомендации. Их можно применить ко многим другим странам, особенно к тем, которые переживают «как глубокие потрясения, так и возможности для перемен». В докладе подчеркивается важность укрепления гражданского общества путем защиты честности выборов и восстановления доверия к государственным институтам. Шаги по поддержке честности выборов включают: обеспечение свободного и справедливого процесса, разрешение независимого наблюдения и мониторинга, предоставление независимого доступа журналистам и расследование нарушений на выборах. Другие предложения включают переосмысление государственных коммуникационных стратегий, чтобы позволить всем уровням правительства более эффективно общаться и противостоять атакам дезинформации.

Национальный диалог, объединяющий различных общественных, общественных, политических, государственных и негосударственных субъектов в качестве заинтересованных сторон, рекомендуется для эффективного долгосрочного стратегического планирования. Рекомендуется создать единую стратегию законодательства по вопросам информационных пространств. Крайне важно найти баланс между озабоченностью свободой выражения мнений и защитой отдельных лиц и демократических институтов.

Еще одной проблемой является развитие здоровой информационной среды, которая поддерживает журналистику, основанную на фактах, правдивый дискурс и независимые репортажи, и в то же время отвергает манипулирование информацией и дезинформацию. Ключевые вопросы поддержки устойчивых независимых СМИ включают прозрачность собственности, финансовую жизнеспособность, редакционную независимость, этику и профессиональные стандарты СМИ, а также механизмы саморегулирования.

Во время всеобщих выборов в Мексике в 2018 году был создан совместный журналистский проект Verificado 2018 для борьбы с дезинформацией. В нем приняли участие не менее восьмидесяти организаций, включая местные и национальные средства массовой информации, университеты, гражданское общество и правозащитные группы. Группа исследовала онлайн-заявления и политические заявления и опубликовала совместные проверки. В ходе выборов они подготовили более 400 заметок и 50 видеороликов, документирующих ложные утверждения и подозрительные сайты, а также отследили случаи, когда фейковые новости становились вирусными. Во время выборов сайт Verificado.mx посетили 5,4 миллиона человек, а его партнерские организации зарегистрировали еще миллионы. Чтобы справиться с обменом зашифрованными сообщениями через WhatsApp , Verificado создал горячую линию, по которой пользователи WhatsApp могли отправлять сообщения для проверки и разоблачения. На горячую линию Verificado подписались более 10 000 пользователей.

Внешние видео
«Стратегии физической безопасности для репортеров» , PEN America , 12 июня 2020 г.

Организации, продвигающие гражданское общество и демократию, независимые журналисты, правозащитники и другие активисты все чаще становятся объектами кампаний дезинформации и насилия. Их защита имеет важное значение. Журналисты, активисты и организации могут быть ключевыми союзниками в борьбе с ложными повествованиями, содействии инклюзивности и поощрении гражданской активности. Органы надзора и этики также имеют решающее значение. К организациям, которые разработали ресурсы и прошли тренинги для более эффективной поддержки журналистов в борьбе с онлайн- и офлайн-насилием и насилием в отношении женщин, относятся Коалиция против онлайн-насилия , Найт Центр журналистики в Америке , Международный женский медиа-фонд , ЮНЕСКО , ПЕН-Америка . и другие.

Образование и осведомленность

Внешние видео
«Понимание и противодействие дезинформации» , сеть YALI, 29 сентября 2022 г.

Обучение медиаграмотности и информация о том, как выявлять дезинформацию и бороться с ней, рекомендуется для государственных школ и университетов. В 2022 году страны Европейского Союза вошли в рейтинг медиаграмотности, измеряющий устойчивость к дезинформации. Финляндия , страна с самым высоким рейтингом, разработала обширную учебную программу, которая учит критическому мышлению и сопротивлению информационной войне, и интегрировала ее в свою систему государственного образования. Финны также пользуются высоким доверием к государственным органам и средствам массовой информации. После кибератаки 2007 года , которая включала в себя тактику дезинформации, Эстония . сосредоточила усилия на совершенствовании своей киберзащиты и сделала образование медиаграмотности основным направлением деятельности от детского сада до средней школы

В 2018 году исполнительный вице-президент Европейской комиссии за Европу, готовую к цифровой эпохе, собрал группу экспертов для подготовки отчета с рекомендациями по обучению цифровой грамотности. Предлагаемые учебные программы по цифровой грамотности знакомят учащихся с веб-сайтами проверки фактов, такими как Snopes и FactCheck.org . Эта учебная программа направлена ​​на то, чтобы вооружить учащихся навыками критического мышления, позволяющими отличать фактическое содержание от дезинформации в Интернете. Предлагаемые области, на которых следует сосредоточиться, включают навыки критического мышления , информационная грамотность , научная грамотность и медицинская грамотность .

Другой подход заключается в создании интерактивных игр , таких как игра Cranky Uncle , которая учит критическому мышлению и прививает игроков от методов дезинформации и отрицания науки. Игра Cranky Uncle находится в свободном доступе и переведена как минимум на 9 языков. Видео для обучения критическому мышлению и борьбе с дезинформацией также можно найти в Интернете.

Обучение и передовой опыт выявления дезинформации и противодействия ей разрабатываются и распространяются группами журналистов, ученых и других лиц (например, Климатические действия против дезинформации, ПЕН-Америка , ЮНЕСКО , Союз неравнодушных ученых , Инициатива молодых африканских лидеров ).

Исследования показывают, что ряд тактик оказался полезным против научной дезинформации об изменении климата. К ним относятся: 1) предоставление четких объяснений того, почему происходит изменение климата 2) указание на наличие научного консенсуса относительно существования изменения климата и его основы в действиях человека 3) представление информации способами, которые культурно соответствуют слушателю 4) «прививка» людей путем четкого выявления дезинформации (в идеале до того, как миф будет обнаружен, но также и позже, путем разоблачения).

В «Наборе инструментов для борьбы с дезинформацией и манипулированием в Интернете» рассматриваются исследования индивидуально-ориентированных мер по борьбе с дезинформацией и их возможная эффективность. Тактика включает в себя:

• Подсказки о точности. Социальные сети и другие источники информации могут побудить людей задуматься о точности, прежде чем делиться информацией в Интернете.
• Разоблачение. Чтобы разоблачить ложную информацию, сначала сосредоточьтесь на освещении истинных фактов, прежде чем указывать на то, что будет предоставлена ​​вводящая в заблуждение информация, и только затем конкретизируйте дезинформацию и объясните, почему она неверна. Наконец, правильное объяснение должно быть подкреплено. Этот способ противодействия дезинформации иногда называют « сэндвичем правды ».
• Избегайте конфронтации. Имеющиеся данные свидетельствуют о том, что когда кто-то чувствует, что ему бросает вызов или угрожает информация, которая не соответствует его существующему мировоззрению, он «удвоит» свои прежние убеждения, а не принимает во внимание новую информацию. Однако если четкие доказательства могут быть представлены в дружественной и неконфронтационной форме, не вызывая агрессии или враждебности, новая информация с большей вероятностью будет принята во внимание.
• Трение. Кликбейт, направленный на распространение дезинформации, пытается заставить людей реагировать быстро и эмоционально. Побуждение людей замедлиться и подумать о своих действиях (например, путем отображения подсказки типа «Хотите прочитать это, прежде чем поделиться?») может ограничить распространение дезинформации.
• Прививка. Превентивное предупреждение людей о возможной дезинформации и методах, применяемых для распространения дезинформации, до того, как они подвергнутся воздействию предполагаемого ложного сообщения, может помочь им выявить ложные сообщения и попытки манипулирования. Короткие видеоролики, описывающие конкретные тактики, такие как разжигание страха, использование эмоционального языка или фальшивых экспертов, помогают людям противостоять методам онлайн-убеждения.
• Латеральное чтение – проверка фактов путем поиска независимых и авторитетных источников. Проверьте достоверность информации на веб-сайте, самостоятельно выполнив поиск в Интернете, а не просто просматривая исходный сайт.
• Советы по медийной грамотности. Конкретные стратегии выявления ложных новостей, например, те, которые используются в «Советах Facebook по обнаружению ложных новостей» 2017 года (например, «относитесь скептически к заголовкам», «внимательно смотрите на URL-адрес») могут помочь пользователям лучше различать реальные и фейковые новости.
• Опровержение научного отрицания. Научное отрицание может включать как неточные утверждения по конкретной теме (опровержение темы), так и риторические приемы и стратегии, которые подрывают, вводят в заблуждение или отрицают ценность науки как деятельности (опровержение техники). Противодействие отрицанию науки должно охватывать оба типа тактик. Исследования отрицания науки поднимают вопросы о понимании обществом науки и научных процессов, а также о том, как улучшить естественнонаучное образование.
• Инструменты саморефлексии. В убеждениях, суждениях и решениях участвуют различные когнитивные, социальные и эмоциональные факторы. Индивидуальные различия в личностных качествах, таких как экстраверсия и склонность испытывать гнев , тревогу , стресс или депрессию , а также страх, связаны с более высокой вероятностью распространения слухов в Интернете. Более высокий уровень доброжелательности, добросовестности и непредвзятости, а также более низкий уровень экстраверсии связаны с большей точностью при определении правдивых или ложных заголовков. Люди, которые более точно определяют заголовки, также сообщают, что тратят меньше времени на чтение новостей каждую неделю. Инструменты саморефлексии, которые помогают людям осознать свою возможную уязвимость, могут помочь им выявить микротаргетинг, направленный на индивидуальные черты.
• Социальные нормы. Дезинформация часто подрывает социальные нормы, нормализуя и процветая в атмосфере замешательства, недоверия, страха и насилия. Напротив, изменение или подчеркивание позитивных социальных норм часто находится в центре внимания программ, пытающихся улучшить здоровье и социальное поведение. Социальные нормы могут помочь подчеркнуть важность точной информации и препятствовать распространению и использованию ложной информации. Сильные социальные нормы могут влиять на приоритеты, ожидания и связи членов группы друг с другом. Они могут поощрять внедрение лучших практик и более высоких стандартов борьбы с дезинформацией со стороны новостной индустрии, технологических компаний, образовательных учреждений и отдельных лиц.
• Предупреждающие и проверяющие факты ярлыки. Интернет-платформы время от времени предпринимают попытки пометить информацию, содержание или источник которой считаются сомнительными. Предупреждающие надписи могут указывать на то, что часть информации или источник могут вводить в заблуждение. Ярлыки проверки фактов могут давать рейтинги профессиональным или независимым специалистам по проверке фактов, используя оценочную шкалу (например, как ложные или измененные) или указывая основания для их оценки.

См. также

• Алгоритм
• Дипфейк
• Дезинформация
• Думскроллинг
• Фейковые новости
• Агентство интернет-исследований
• Манипулирование СМИ
• Пропаганда
• Психологическая война
• Русские веб-бригады
• Социальные сети