Модерация контента

На веб -сайтах , которые позволяют пользователям создавать контент, модерация контента - это процесс обнаружения вкладов, которые являются нерелевантными, непристойными, незаконными, вредными или оскорбительными, в отличие от полезных или информативных вкладов, часто для цензуры или подавления противоположных точек зрения. Цель модерации контента состоит в том, чтобы удалить или применять предупреждающую метку к проблемному контенту или позволить пользователям блокировать и фильтровать контент сами. [ 1 ]
Различные типы интернет-сайтов разрешают сгенерированный пользователем контент , такие как сообщения, комментарии, видео, включая интернет-форумы , блоги и новостные сайты, работающие на сценариях, таких как PHPBB , вики или PHP-Nuke и т. Д. В зависимости от содержания сайта и предполагаемой аудитории Администраторы сайта решат, какие подходящие комментарии пользователей, а затем делегируйте ответственность просмотреть комментарии к меньшим модераторам . Чаще всего они пытаются устранить троллинг , спам или пылание , хотя это широко варьируется от сайта к сайту.
Основные платформы используют комбинацию алгоритмических инструментов, пользовательских отчетов и обзора человека. [ 1 ] Сайты социальных сетей могут также использовать модераторов контента для вручную или удалять контент, помеченный для ненавистников или другого нежелательного контента. Другие проблемы контента включают в себя порно мести , графическое содержание , материалы для жестокого обращения с детьми и пропаганду . [ 1 ] Некоторые веб -сайты также должны сделать свой контент гостеприимным для рекламных объявлений. [ 1 ]
В Соединенных Штатах модерация контента регулируется разделом 230 Закона о порядочении связи , и это показало, что несколько случаев, касающихся этой проблемы, попадают в Верховный суд Соединенных Штатов , такие как нынешние Moody v. Netchoice, LLC .
Супервайзер Модерация
[ редактировать ]Также известный как односторонняя модерация, такая система модерации часто наблюдается на интернет -форумах . Группа людей выбирается администраторами сайта (обычно на долгосрочной основе) для выступления в качестве делегатов, обеспечивая соблюдение правил сообщества от их имени. Этим модераторам предоставляются особые привилегии для удаления или редактирования вкладов других и/или исключения людей на основе их адреса электронной почты или IP-адреса , и, как правило, пытаются удалить негативные вклады во всем сообществе. [ 2 ]
Коммерческая модерация контента
[ редактировать ]Коммерческая модерация контента-это термин, придуманный Сарой Т. Робертс для описания практики «мониторинга и проверки контента с генерируемым пользователем (UGC) на платформы социальных сетей всех типов, чтобы гарантировать, что контент соответствует законным и регулирующим потребностям, Руководство сайта/сообщества, пользовательские соглашения и то, что он подходит в рамках норм вкуса и приемлемости для этого сайта и его культурного контекста ». [ 3 ]
Промышленная композиция
[ редактировать ]Индустрия модерации контента оценивается в 9 миллиардов долларов США. Несмотря на то, что официальные цифры не предоставляются, оценки 10 000 модераторов контента для Tiktok ; 15 000 для Facebook и 1500 для Twitter с 2022 года. [ 4 ]
Глобальная цепочка создания стоимости модерации контента обычно включает в себя платформы социальных сетей, крупные фирмы MNE и поставщики модерации контента. Платформы социальных сетей (например, Facebook, Google) в основном базируются в Соединенных Штатах, Европе и Китае. MNES (например , Accenture , FOIWE ), как правило, со штаб -квартирой на мировом севере или Индии, в то время как поставщики умеренности содержания в значительной степени расположены в глобальных южных странах, таких как Индия и Филиппины. [ 5 ] : 79–81
Хотя в свое время эта работа, возможно, была выполнена добровольцами в онлайн-сообществе, для коммерческих сайтов это в значительной степени достигается путем аутсорсинга задачи специализированным компаниям, часто в районах с низкой заработной платой, таких как Индия и Филиппины. Аутсорсинг рабочих мест для модерации контента вырос в результате бума в социальных сетях . Благодаря огромному росту пользователей и UGC, компаниям нужно было гораздо больше сотрудников, чтобы смягчить контент. В конце 1980 -х и начале 1990 -х годов технологические компании начали передавать рабочие места в зарубежные страны, которые имели образованную рабочую силу, но были готовы работать по дешевке. [ 6 ]
Условия труда
[ редактировать ]Сотрудники работают, просмотрев, оценивая и удаляя тревожный контент. [ 7 ] Wired сообщил в 2014 году, они могут понести психологический ущерб [ 8 ] [ 9 ] [ 10 ] [ 2 ] [ 11 ] В 2017 году опекун сообщил, что может возникнуть вторичная травма , с симптомами, похожими на ПТСР . [ 12 ] Некоторые крупные компании, такие как Facebook, предлагают психологическую поддержку [ 12 ] и все чаще полагаются на использование искусственного интеллекта для разбора наиболее графического и неуместного контента, но критики утверждают, что его недостаточно. [ 13 ] В 2019 году NPR назвал это опасностью работы. [ 14 ] Соглашения о неразглашении являются нормой, когда модераторы контента нанимаются. Это делает модераторов более нерешительными, чтобы говорить о условиях труда или организации. [ 4 ]
Психологические опасности, включая стресс и посттравматическое стрессовое расстройство , в сочетании с препаратом алгоритмического управления и низкой заработной платы, делают модерацию контента чрезвычайно сложной задачей. [ 15 ] : 123 Количество выполненных задач, например, маркировки контента как нарушение авторского права, удаление поста, содержащего ненавистную речь или рецензирование графического содержания, определено количественно для обеспечения производительности и качества . [ 4 ]
В феврале 2019 года в отчете о расследовании, проведенном Verge , описывался плохие условия труда в Фениксе офисе Cognizant в , штат Аризона . [ 16 ] Сотрудники Cognizant, которым поручено, чтобы смягчить контент для Facebook разработали с психическим здоровьем проблемы , включая посттравматическое стрессовое расстройство , в результате воздействия на графическое насилие , ненавистнические речи и теории заговора в видео, которые им было поручено оценить. [ 16 ] [ 17 ] Модераторы в офисе Феникса сообщили о злоупотреблении наркотиками , злоупотреблением алкоголем и половым актом на рабочем месте, и опасались возмездия со стороны прекращенных работников, которые угрожали им нанести вред. [ 16 ] [ 18 ] В ответ на познательный представитель заявил, что компания рассмотрит вопросы в отчете. [ 16 ]
The Verge опубликовал последующее расследование в офисе Cognizant , штат Флорида , в июне 2019 года. [ 19 ] [ 20 ] Сотрудники в Тампе описали условия труда, которые были хуже, чем условия в офисе Феникса. [ 19 ] [ 21 ] [ 22 ]
Модераторы должны были подписать соглашения о неразглашении с Cognizant для получения этой работы, хотя три бывших работника нарушили соглашения, чтобы предоставить информацию на грани . [ 19 ] [ 23 ] В офисе Тампа работники сообщили о неадекватных ресурсах психического здоровья. [ 19 ] [ 24 ] В результате воздействия видео, изображающих графическое насилие, злоупотребление животными и сексуальное насилие над детьми , некоторые сотрудники развили психологические травмы и посттравматическое стрессовое расстройство. [ 19 ] [ 25 ] В ответ на негативное освещение, связанное с его контрактами с модерацией контента, директор Facebook указал, что Facebook находится в процессе разработки «глобальной группы устойчивости», которая поможет его подрядчикам. [ 19 ]
Facebook увеличил количество модераторов контента с 4500 до 7500 в 2017 году из -за юридических требований и других споров . В Германии Facebook отвечал за удаление ненавистнической речи в течение 24 часов после ее размещения. [ 26 ] В конце 2018 года Facebook создал Совет по надзору или внутренний «Верховный суд», чтобы решить, какой контент остается и какой контент удален. [ 14 ]
По словам Фрэнсис Хауген , число сотрудников Facebook, ответственных за модерацию контента, было намного меньше с 2021 года. [ 27 ]
Сайт социальных сетей Twitter имеет политику приостановки . В период с августа 2015 года по декабрь 2017 года он приостановил более 1,2 миллиона счетов для террористического контента, чтобы уменьшить количество подписчиков и объем содержания, связанного с Исламским государством. [ 28 ] После приобретения Twitter Элоном Маск в октябре 2022 года правила контента были ослаблены по всей платформе в попытке расставить приоритеты в свободе слова. [ 29 ] Тем не менее, последствия этой кампании были поставлены под сомнение. [ 30 ] [ 31 ]
Распределенная умеренность
[ редактировать ]Пользовательская модерация
[ редактировать ]Модерация пользователя позволяет любому пользователю модерировать взносы любого другого пользователя. Миллиарды людей в настоящее время принимают решения о том, что делиться, продвигать или дать видимость ежедневно. [ 32 ] На большом участке с достаточно большим активным населением это обычно работает хорошо, поскольку относительно небольшое количество нарушителей нарушителя прожигается голосами остальной части сообщества.
Модерация пользователя также может быть охарактеризована реактивной модерацией. Этот тип модерации зависит от пользователей платформы или сайта, чтобы сообщать о контенте, который является неуместным и нарушает стандарты сообщества . В этом процессе, когда пользователи сталкиваются с изображением или видео, которые они считают непригодными, они могут нажать кнопку «Отчет». Жалоба подана и в очереди на модераторы. [ 33 ]
Союз
[ редактировать ]150 модераторов контента, которые заключили контракт на Meta , Bytedance и Openai, собравшиеся в Найроби, штат Кения , чтобы запустить первый африканский союз модераторов контента 1 мая 2023 года. Этот союз был запущен через 4 года после того, как Даниэль Мотаунг был уволен и ответил против организации профсоюза в сама , который заключает контракты на Facebook. [ 34 ]
Смотрите также
[ редактировать ]- Как кнопка
- Мета-система
- Moody v. Netchoice, LLC
- Рекомендованная система
- Доверие метрика
- Мы должны были удалить этот пост
Ссылки
[ редактировать ]- ^ Jump up to: а беременный в дюймовый Григиэль, Дженнифер; Браун, Нина (июнь 2019 г.). «Мотивированы ли компании социальных сетей хорошими корпоративными гражданами? Исследование связи между корпоративной социальной ответственностью и безопасностью социальных сетей» . Телекоммуникационная политика . 43 (5): 2, 3. doi : 10.1016/j.telpol.2018.12.003 . S2CID 158295433 . Получено 25 мая 2022 года .
- ^ Jump up to: а беременный «Невидимые уборщики данных выпивают лучшие веб -сайты - Al Jazeera America» . aljazeera.com .
- ^ «За экраном: коммерческая модерация контента (CCM)» . Сара Т. Робертс | Иллюзия воли . 2012-06-20 . Получено 2017-02-03 .
- ^ Jump up to: а беременный в Вамай, Жаклин Вамбуи; Калум, Морин Чади; Гачуки, Моника; Мукам, Агнес (2023). «Новый социальный договор для социальных сетей: определение приоритетов прав и условий труда для создателей контента и модераторов | Международная организация труда» . Международный журнал исследований труда . 12 (1–2). Международная организация труда . Получено 2024-07-21 .
- ^ Ахмад, Сана; Кшивдзински, Мартин (2022), Грэм, Марк; Ferrari, Fabian (Eds.), «Модерация в безвестности: как индийские модераторы контента работают в глобальных цепочках модерации контента» , цифровая работа на планетарном рынке , MIT Press , стр. 77–95, ISBN 978-0-262-36982-4 Получено 2024-07-22
- ^ Эллиотт, Виттория; Пармар, Текендра (22 июля 2020 года). « Тьма и отчаяние людей достанут тебя » . Остальной мир .
- ^ Стоун, Брэд (18 июля 2010 г.). «Забота о тех, кто проверяет Интернет на варварство» . New York Times .
- ^ Адриан Чен (23 октября 2014 г.). «Рабочие, которые держат картинки и обезглавливания из вашего корма в Facebook» . Проводной . Архивировано с оригинала 2015-09-13.
- ^ «Интернет-невидимые греховные экраны» . AWL . Архивировано с оригинала 2015-09-08.
- ^ «Профессор раскрывает скрытую рабочую силу Интернета» . Западные новости . 19 марта 2014 года.
- ^ "Должен ли Facebook блокировать наступательные видео перед публикацией?" Полем Проводной . 26 августа 2015 года.
- ^ Jump up to: а беременный Оливия Солон (2017-05-04). «Facebook нанимает модераторов. Но работает ли работа слишком ужасна?» Полем Хранитель . Получено 2018-09-13 .
- ^ Оливия Солон (2017-05-25). «Недооплачиваемое и перегруженное: жизнь модератора Facebook» . Хранитель . Получено 2018-09-13 .
- ^ Jump up to: а беременный Гросс, Терри. «Для модераторов контента Facebook травмирующий материал представляет собой опасность работы» . Npr.org .
- ^ Гиллеспи, Тарлетон (2018). Хранители Интернета: платформы, модерация контента и скрытые решения, которые формируют социальные сети (PDF) . Издательство Йельского университета . ISBN 978-0-300-23502-9 .
- ^ Jump up to: а беременный в дюймовый Ньютон, Кейси (25 февраля 2019 г.). «Секретная жизнь модераторов Facebook в Америке» . Грава . Архивировано из оригинала 21 февраля 2021 года . Получено 20 июня 2019 года .
- ^ Фейнер, Лорен (25 февраля 2019 г.). «Рецензенты по контенту Facebook справляются с симптомами ПТСР, занимаясь сексом и занимаясь наркотиками на работе, говорится в сообщении» . CNBC . Архивировано из оригинала 20 июня 2019 года . Получено 20 июня 2019 года .
- ^ Сильверштейн, Джейсон (25 февраля 2019 г.). «Facebook клятвится улучшить обзор контента после того, как модераторы говорят, что они пострадали» . CBS News . Архивировано из оригинала 20 июня 2019 года . Получено 20 июня 2019 года .
- ^ Jump up to: а беременный в дюймовый и фон Ньютон, Кейси (19 июня 2019 г.). «Три модератора Facebook нарушают свои NDA, чтобы разоблачить компанию в кризисе» . Грава . Архивировано из оригинала 12 сентября 2022 года . Получено 20 июня 2019 года .
- ^ Мост, Марк (20 июня 2019 г.). «Работник в Facebook, который умер от сердечного приступа, находился под« не связанным с давлением » . Время . ISSN 0140-0460 . Архивировано из оригинала 20 июня 2019 года . Получено 20 июня 2019 года .
- ^ Карбон, Кристофер (20 июня 2019 г.). «Модератор Facebook умирает после просмотра ужасных видеороликов, другие делятся тревожными инцидентами: отчет» . Fox News . Архивировано из оригинала 21 июня 2019 года . Получено 21 июня 2019 года .
- ^ Eadicicco, Лиза (19 июня 2019 г.). «Модератор контента в Facebook умер после сердечного приступа на работу» . Сан-Антонио Экспресс-Ньюс . Архивировано с оригинала 30 ноября 2019 года . Получено 20 июня 2019 года .
- ^ Фейнер, Лорен (19 июня 2019 г.). «Модераторы контента Facebook нарушают NDA, чтобы выявить шокирующие условия труда, включающие ужасные видео и калыки, намазанные на стенах» . CNBC . Архивировано из оригинала 19 июня 2019 года . Получено 20 июня 2019 года .
- ^ Джонсон, О'Рян (19 июня 2019 г.). «Компания получения 200 миллионов долларов от Facebook до умеренного насильственного контента на фоне утверждений о« грязных »условиях работы: отчет» . CRN . Архивировано из оригинала 20 июня 2019 года . Получено 20 июня 2019 года .
- ^ Буфкин, Элли (19 июня 2019 г.). «Отчет показывает отчаянные условия труда модераторов Facebook, включая смерть» . Вашингтонский экзаменатор . Архивировано из оригинала 20 июня 2019 года . Получено 20 июня 2019 года .
- ^ «Искусственный интеллект создаст новые виды работы» . Экономист . Получено 2017-09-02 .
- ^ Cafesmann, январь (2021-12-10). Фейсбук -информатор Фрэнсис Хаугс рассказывает о документах в Facebook . The: ZDF Magazine Royale .
- ^ Гартенштейн-Росс, Дэйвед; Koduvayur, Varsha (26 мая 2022 г.). «Новый закон в социальных сетях Техаса создаст убежище для глобальных экстремистов» . ForeignPolicy.com . Внешняя политика . Получено 27 мая 2022 года .
- ^ «Элон Маск на x:» @essagar приостановить аккаунт в Твиттере крупной новостной организации для публикации правдивой истории, очевидно, невероятно неуместным » . Twitter Получено 2023-08-21 .
- ^ Бурель, Грегуар; Алани, Харит; Фаррелл, Трейси (2022-05-12). «Элон Маск мог бы отбросить модерацию социальных сетей - так же, как мы узнаем, как это может остановить дезинформацию» . Разговор . Получено 2023-08-21 .
- ^ Фанг, Брайан (2 июня 2023 г.). «Твиттер теряет своего высшего чиновника модерации контента в ключевой момент» . CNN News .
- ^ Хартманн, Ивар А. (апрель 2020 г.). «Новая структура для модерации онлайн -контента» . Компьютерный закон и обзор безопасности . 36 : 3. doi : 10.1016/j.clsr.2019.105376 . S2CID 209063940 . Получено 25 мая 2022 года .
- ^ Grimes-Viort, Blaise (7 декабря 2010 г.). «6 типов модерации контента, о которых вам нужно знать». Социальные сети сегодня .
- ^ Перриго, Билли (2023-05-01). «150 работников искусственного интеллекта голосуют за Unionize на собрании в Найроби» . Время . Получено 2024-07-21 .
Дальнейшее чтение
[ редактировать ]- Сара Т. Робертс (2019). За экраном: модерация контента в тени социальных сетей . Издательство Йельского университета. ISBN 978-0300235883 .
- Альхуори, Хамед; Альварес, Омар; Фурута, Ричард; Муньиз, Мигель; Urbina, Eduardo (2009), «Поддержка создания научных библиографий сообществами посредством онлайн -репутации социального сотрудничества» , Research and Advanced Technology для цифровых библиотек , Vol. 5714, Берлин, Гейдельберг: Springer , с. 180–191, doi : 10.1007/978-3-642-04346-8_19 , ISBN 978-3-642-04345-1 Получено 2024-07-24
Внешние ссылки
[ редактировать ]
- Запрос работников данных. Сотрудничество между Институтом Вайзенбаума , Техническим университетом Берлина и Дэиром
- Клифф Лампе и Пол Реник: Слэш (DOT) и Burn: Распределенная умеренность в крупных онлайн -процессах разговора на конференции Sigchi по человеческим факторам в вычислительных системах. Связь, Вена, Австрия 2005, 543–550.