Фотодна

PhotoDNA -это проприетарная идентификации изображений и фильтрации контента технология ^{[ 1 ]} широко используется онлайн -поставщиками услуг . ^{[ 2 ]}^{[ 3 ]}

История

Photodna была разработана Microsoft Research и Hany Farid , профессором Dartmouth College , начиная с 2009 года. Из базы данных известных изображений и видеофайлов она создает уникальные хэши для представления каждого изображения, которое затем можно использовать для определения других экземпляров этих изображений Полем ^{[ 4 ]}

Метод хеширования первоначально полагался на преобразование изображений в черно-белый формат, разделяя их на квадраты и количественно оценивая затенение квадратов, ^{[ 5 ]} не использовал технологию распознавания лиц и не мог идентифицировать человека или объект на изображении. ^{[ Цитация необходима ]} Метод стремился быть устойчивым к изменениям на изображении, включая изменение размера и незначительные изменения цвета. ^{[ 4 ]} С 2015 года ^{[ 6 ]} Аналогичные методы используются для отдельных видео кадров в видеофайлах. ^{[ 7 ]}

Microsoft пожертвовала ^{[ неудачная проверка ]} Технология PhotoDNA для проекта VIC , управляемой и поддерживаемой Международным центром пропавших и эксплуатируемых детей (ICMEC) и используется в рамках цифровых криминалистических операций ^{[ 8 ]}^{[ 9 ]} Хранив «отпечатки пальцев», которые можно использовать для однозначного идентификации отдельной фотографии. ^{[ 9 ]}^{[ 10 ]} База данных включает хэши для миллионов предметов. ^{[ 11 ]}

В декабре 2014 года Microsoft сделала фотодну доступной для квалифицированных организаций в программном обеспечении в качестве модели услуг бесплатно через рынок Azure . ^{[ 12 ]}

В 2010 и 2020 -х годах была выдвинута фотодна в связи с политическими предложениями, связанными с модерацией контента и цензурой в Интернете , ^{[ 13 ]} Включая слушания в Сенате США (2019 год по «цифровой ответственности», ^{[ 2 ]} 2022 г. в Законе о заработной плате ^{[ 14 ]}) и различные предложения Европейской комиссии, получившей название « Фильтры загрузки » гражданским обществом ^{[ 15 ]}^{[ 16 ]} такие как так называемые добровольные коды (в 2016 году ^{[ 17 ]} на ненавистнической речи ^{[ 18 ]} После мероприятий 2015 года , 2018 ^{[ 19 ]} и 2022 ^{[ 20 ]} о дезинформации), законодательство об авторском праве (главным образом, в Директиве 2019 года в 2019 году обсуждается между 2014 году ^{[ 21 ]} и 2021 ^{[ 22 ]}), связанные с терроризмом правила ( Terreg ) ^{[ 23 ]} и правила интернет -прослушивания (2021 «Контроль чата»). ^{[ 24 ]}

В 2016 году Хэни Фарид предложил расширить использование технологии до терроризмом . контента, связанного с ^{[ 25 ]} В декабре 2016 года Facebook, Twitter, Google и Microsoft объявили о планах использовать Photodna для удаления экстремистского контента, такого как видеоролики террористов или насильственные террористические образы. ^{[ 26 ]} В 2018 году Facebook заявила, что фотодна использовалась для автоматического удаления Al-Qaeda . видео ^{[ 13 ]}

К 2019 году крупные технологические компании, включая Microsoft, Facebook и Google, объявили, что с 2017 года они запускают GIFC в качестве общей базы данных контента для автоматической цензуры. ^{[ 2 ]} Считалось , что по состоянию на 2021 год Apple использует Neuralhash для аналогичных целей. ^{[ 27 ]}

В 2022 году New York Times рассмотрела историю двух пап, чьи учетные записи Google были закрыты после того, как фотографии, которые они сделали для своего ребенка в медицинских целях, были автоматически загружены на серверы Google. ^{[ 28 ]} В статье сравнивается фотодна, которая требует базы данных известных хэшей, с технологией Google AI, которая может распознавать ранее невидимые эксплуатационные изображения. ^{[ 29 ]}^{[ 30 ]}

Использование

Первоначально Microsoft использовала PhotoDNA в своих собственных услугах, включая Bing и OneDrive . ^{[ 31 ]} По состоянию на 2022 год фотодна широко использовалась поставщиками онлайн -услуг для их по модерации контента усилий ^{[ 10 ]}^{[ 32 ]}^{[ 33 ]} Включая Gmail 's Gmail , Twitter , ^{[ 34 ]} Facebook , ^{[ 35 ]} Adobe Systems , ^{[ 36 ]} Reddit , ^{[ 37 ]} и разногласия . ^{[ 38 ]}

Британский интернет -фонд , который собирал справочную базу данных фотодны, по сообщениям, имело более 300 000 хэшей известных детских материалов для сексуальной эксплуатации. ^{[ Цитация необходима ]} Другим источником базы данных был Национальный центр для пропавших и эксплуатируемых детей (NCMEC). ^{[ 39 ]}^{[ 40 ]}

Фотода широко используется для удаления содержания, ^{[ 2 ]} Отключить счета и сообщать людям. ^{[ 7 ]}

Инвертирование

В 2021 году Аниш Аталин смог частично перевернуть хэши фотодны с нейронной сетью, которая вызывает обеспокоенность по поводу обратимости хэша фотодны. ^{[ 41 ]}

Смотрите также

Ссылки

^ Дуз, Маттиджс; Толиас, Джоргос; Пицци, изд; Папакипос, Зоэ; Чануссот, Лоуик; Раденович, Филип; Дженеек, Томас; Максимо, Максим; Лил-Тайкс, Лора; Elezi, Исмаил; Chum, ondřej; Феррер, Кристиан Кантон (21 февраля 2022 г.). «Набор данных и вызов сходства изображений 2021 года». Arxiv : 2106.09672 [ CS.CV ]. Отпечатки пальцев изображений, такие как фотодна из Microsoft, используются по всей отрасли для определения изображений, которые изображают эксплуатацию и злоупотребление ребенка
^ Jump up to: ^а ^{беременный} ^в ^{дюймовый} «Рост контентных картелей» . Knightcolumbia.org . 11 февраля 2020 года . Получено 21 августа 2022 года .
^ Хилл, Кашмир (21 августа 2022 г.). «Папа сфотографировал своего обнаженного малыша для доктора. Google отметил его как преступника» . New York Times . ISSN 0362-4331 . Получено 21 августа 2022 года .
^ Jump up to: ^а ^{беременный} «Новая технология борется с детским порно, отслеживая ее« фотодну » » . Microsoft Corporation. 15 декабря 2009 г. Получено 9 сентября 2016 года .
^ «Фото ДНК: шаг за шагом» . Microsoft. Архивировано из оригинала 21 сентября 2013 года . Получено 11 февраля 2014 года .
^ «Как фотодна для видео используется для борьбы с эксплуатацией детей в Интернете» . 12 сентября 2018 года.
^ Jump up to: ^а ^{беременный} «Как фотодна для видео используется для борьбы с эксплуатацией детей в Интернете» . News.microsoft.com. 12 сентября 2018 года.
^ Джексон, Уильям (27 августа 2014 г.). «Улучшенные инструменты анализа изображений Скорость в эксплуатации детей» . GCN.
^ Jump up to: ^а ^{беременный} Кларк, Лиат (30 апреля 2014 г.). «Технологии по жестокому обращению с детьми, пожертвованные миру» . Wired UK .
^ Jump up to: ^а ^{беременный} «Реакция Microsoft на консультацию по сообщению Европейской комиссии о правах ребенка (2011–2014)» (PDF) . Архивировано из оригинала (PDF) 24 октября 2017 года . Европейская комиссия
^ Уорд, Марк (23 марта 2014 г.). «Облачный архивный инструмент, который поможет поймать насильников» . BBC News .
^ "Photodna Cloud Service" . Microsoft.com . Microsoft Corporation . Получено 19 февраля 2015 года .
^ Jump up to: ^а ^{беременный} Ричард Аллан (18 июня 2018 г.). «Слух в 11:14» . в «Горизонтальная нормативно -правовая база ЕС для незаконного удаления контента в DSM» .
^ Чт; Szoka, 10 февраля 2022 года, 19:30-бурин; Кон, Ари (10 февраля 2022 года). «Десять лучших ошибок, сделанных сенаторами во время сегодняшней наценки ИТ» . Techdirt . Получено 21 августа 2022 года . {{cite web}}: CS1 Maint: числовые имена: список авторов ( ссылка )
^ Шон, Кристоф (3 июня 2021 г.). «Отказ Комиссии ЕС отпустить фильтры» . Электронный пограничный фундамент . Получено 21 августа 2022 года .
^ "Загрузить фильтры: опасность бесплатного интернет -контента?" Полем Ionos DigitalGuide . 28 марта 2019 года . Получено 21 августа 2022 года .
^ «Борьба с незаконной онлайн -речью на ненависти: первая оценка нового кодекса поведения» . ec.europa.eu . 6 декабря 2016 года . Получено 21 августа 2022 года .
^ «Кодекс поведения ЕС при противодействии нелегальной ненавистной речи онлайн | Европейская комиссия» . Ec.europa.eu . Получено 29 августа 2022 года .
^ «Кодекс практики по дезинформации | Формирование Европы цифрового будущего» . 26 сентября 2018 года.
^ «Кодекс практики 2022 года о дезинформации | Формирование Европы цифрового будущего» . 24 марта 2023 года.
^ «Файл процедур: 2014/2256 (INI) | Законодательная обсерватория | Европейский парламент» .
^ Коммуникация от Комиссии в Европейский парламент и руководство Совета по статье 17 Директивы 2019/790 г. о авторских правах на цифровом одиночном рынке
^ «Террористический контент онлайн» .
^ Рейтер, Маркус; Рудл, Томас; Рау, Франзиска; Хильдебр, Холли. «Почему контроль чата так опасен» . Европейские цифровые права (Эдри) . Получено 21 августа 2022 года .
^ Уодделл, Каве (22 июня 2016 г.). «Инструмент для удаления обезглавливания видео еще до того, как они появятся в Интернете» . Атлантика . Получено 10 сентября 2016 года .
^ «Партнерство, чтобы помочь обуздать распространение онлайн -контента -террориста | Facebook Newsroom» . Получено 6 декабря 2016 года .
^ Абельсон, Хэл; Андерсон, Росс; Белловин, Стивен М.; Бенало, Джош; Блейз, Мэтт; Каллас, Джон; Диффи, Уитфилд; Ландау, Сьюзен; Нейман, Питер Г.; Rivest, Ronald L.; Шиллер, Джеффри I.; Шнайер, Брюс; Тиг, Ванесса; Тронкосо, Кармела (2024). «Ошибки в наших карманах: риски сканирования на стороне клиента». Журнал кибербезопасности . 10 Arxiv : 2110.07450 . doi : 10.1093/cybsec/tyad020 .
^ Хилл, Кашмир (21 августа 2022 г.). «Папа сфотографировал своего обнаженного малыша для доктора. Google отметил его как преступника» . New York Times . ISSN 0362-4331 . Получено 21 августа 2022 года . Большой прорыв произошел почти десять лет спустя, в 2018 году, когда Google разработал искусственно интеллектуальный инструмент, который мог бы распознавать никогда не встречающиеся эксплуатационные изображения детей. [...] Когда фотографии Марка и Кассио были автоматически загружены с их телефонов на серверы Google, эта технология отметила их.
^ «Google отметил фотографии родителей о больных детях как сексуальное насилие» . Гизмодо . 22 августа 2022 года . Получено 28 августа 2022 года . По словам Google, эти отчеты об инцидентах поступают из нескольких источников, не ограничивающихся инструментом автоматизированной фотодны.
^ Рот, Эмма (21 августа 2022 г.). «Google AI отметил учетные записи родителей о потенциальном насилии над обнаженными фотографиями их больных детей» . Грава . Получено 28 августа 2022 года . Google использовал сопоставление хэш с фотодней Microsoft для сканирования загруженных изображений для обнаружения совпадений с известным CSAM. [...] В 2018 году Google объявил о запуске своего инструментария AIPI AT Safety API API, который может «активно идентифицировать никогда невиданные изображения CSAM, чтобы его можно было рассмотреть и, если это подтверждено как CSAM, удаляется и сообщается как можно быстрее, как можно быстрее . " Он использует инструмент для своих собственных услуг и, наряду с видео, нацеленным на видео, соответствующее сопоставлению с хеш-хеш-хеш-хеш-хеш, разработанное YouTube Engineers, также предлагает его для использования другими.
^ «Несчастные истины о детской порнографии и интернете [функция]» . 7 декабря 2012 г.
^ Эхер, Рейнхард; Craig, Leam A.; Шахтер, Майкл Х.; Pfäfflin, Friedemann (2011). Международные перспективы оценки и лечения сексуальных преступников: теория, практика и исследования . Джон Уайли и сыновья. п. 514. ISBN 978-1119996200 .
^ Латтанзи-Лихт, Марсия; Дока, Кеннет (2004). Жизнь с горем: справиться с общественной трагедией . Routledge. п. 317. ISBN 1135941513 .
^ Артур, Чарльз (22 июля 2013 г.). «Twitter, чтобы представить систему фотодны, чтобы блокировать изображения жестокого обращения с детьми» . Хранитель . Получено 22 июля 2013 года .
^ Смит, Катарина (2 мая 2011 г.). «Facebook принимает Microsoft Photodna для удаления детской порнографии» . Huffington Post . Получено 22 июля 2013 года .
^ "Adobe & Photodna" . www.adobe.com . Получено 27 августа 2021 года .
^ «Reddit используйте фотодну для предотвращения детской порнографии» . 19 марта 2020 года.
^ «Отчет о прозрачности распределения: июль - декабрь 2020 года» . Блог Discord . 2 апреля 2021 года . Получено 8 мая 2022 года .
^ «Microsoft Tip заставила полицию арестовать мужчину из -за изображений жестокого обращения с детьми» . Хранитель . 7 августа 2014 года.
^ Салсито, Энтони (17 декабря 2009 г.). «Microsoft жертвует технологию PhotoDNA, чтобы сделать интернет более безопасным для детей» . Получено 22 июля 2013 года .
^ Атали, Аниш (20 декабря 2021 года). «Перевернущая фотодна» .

Внешние ссылки

Официальный сайт

[1] Дуз, Маттиджс; Толиас, Джоргос; Пицци, изд; Папакипос, Зоэ; Чануссот, Лоуик; Раденович, Филип; Дженеек, Томас; Максимо, Максим; Лил-Тайкс, Лора; Elezi, Исмаил; Chum, ondřej; Феррер, Кристиан Кантон (21 февраля 2022 г.). «Набор данных и вызов сходства изображений 2021 года». Arxiv : 2106.09672 [ CS.CV ]. Отпечатки пальцев изображений, такие как фотодна из Microsoft, используются по всей отрасли для определения изображений, которые изображают эксплуатацию и злоупотребление ребенка

[Knight2020-2] Jump up to: ^а ^{беременный} ^в ^{дюймовый} «Рост контентных картелей» . Knightcolumbia.org . 11 февраля 2020 года . Получено 21 августа 2022 года .

[NYT2022-3] Хилл, Кашмир (21 августа 2022 г.). «Папа сфотографировал своего обнаженного малыша для доктора. Google отметил его как преступника» . New York Times . ISSN 0362-4331 . Получено 21 августа 2022 года .

[DNAGlance-4] Jump up to: ^а ^{беременный} «Новая технология борется с детским порно, отслеживая ее« фотодну » » . Microsoft Corporation. 15 декабря 2009 г. Получено 9 сентября 2016 года .

[5] «Фото ДНК: шаг за шагом» . Microsoft. Архивировано из оригинала 21 сентября 2013 года . Получено 11 февраля 2014 года .

[6] «Как фотодна для видео используется для борьбы с эксплуатацией детей в Интернете» . 12 сентября 2018 года.

[news.microsoft.com-7] Jump up to: ^а ^{беременный} «Как фотодна для видео используется для борьбы с эксплуатацией детей в Интернете» . News.microsoft.com. 12 сентября 2018 года.

[8] Джексон, Уильям (27 августа 2014 г.). «Улучшенные инструменты анализа изображений Скорость в эксплуатации детей» . GCN.

[wiredabuse-9] Jump up to: ^а ^{беременный} Кларк, Лиат (30 апреля 2014 г.). «Технологии по жестокому обращению с детьми, пожертвованные миру» . Wired UK .

[EC-10] Jump up to: ^а ^{беременный} «Реакция Microsoft на консультацию по сообщению Европейской комиссии о правах ребенка (2011–2014)» (PDF) . Архивировано из оригинала (PDF) 24 октября 2017 года . Европейская комиссия

[bbccloud-11] Уорд, Марк (23 марта 2014 г.). «Облачный архивный инструмент, который поможет поймать насильников» . BBC News .

[PDNACS-12] "Photodna Cloud Service" . Microsoft.com . Microsoft Corporation . Получено 19 февраля 2015 года .

[Allan2018-13] Jump up to: ^а ^{беременный} Ричард Аллан (18 июня 2018 г.). «Слух в 11:14» . в «Горизонтальная нормативно -правовая база ЕС для незаконного удаления контента в DSM» .

[14] Чт; Szoka, 10 февраля 2022 года, 19:30-бурин; Кон, Ари (10 февраля 2022 года). «Десять лучших ошибок, сделанных сенаторами во время сегодняшней наценки ИТ» . Techdirt . Получено 21 августа 2022 года . {{cite web}}: CS1 Maint: числовые имена: список авторов ( ссылка )

[15] Шон, Кристоф (3 июня 2021 г.). «Отказ Комиссии ЕС отпустить фильтры» . Электронный пограничный фундамент . Получено 21 августа 2022 года .

[16] "Загрузить фильтры: опасность бесплатного интернет -контента?" Полем Ionos DigitalGuide . 28 марта 2019 года . Получено 21 августа 2022 года .

[17] «Борьба с незаконной онлайн -речью на ненависти: первая оценка нового кодекса поведения» . ec.europa.eu . 6 декабря 2016 года . Получено 21 августа 2022 года .

[18] «Кодекс поведения ЕС при противодействии нелегальной ненавистной речи онлайн | Европейская комиссия» . Ec.europa.eu . Получено 29 августа 2022 года .

[19] «Кодекс практики по дезинформации | Формирование Европы цифрового будущего» . 26 сентября 2018 года.

[20] «Кодекс практики 2022 года о дезинформации | Формирование Европы цифрового будущего» . 24 марта 2023 года.

[21] «Файл процедур: 2014/2256 (INI) | Законодательная обсерватория | Европейский парламент» .

[22] Коммуникация от Комиссии в Европейский парламент и руководство Совета по статье 17 Директивы 2019/790 г. о авторских правах на цифровом одиночном рынке

[23] «Террористический контент онлайн» .

[24] Рейтер, Маркус; Рудл, Томас; Рау, Франзиска; Хильдебр, Холли. «Почему контроль чата так опасен» . Европейские цифровые права (Эдри) . Получено 21 августа 2022 года .

[25] Уодделл, Каве (22 июня 2016 г.). «Инструмент для удаления обезглавливания видео еще до того, как они появятся в Интернете» . Атлантика . Получено 10 сентября 2016 года .

[26] «Партнерство, чтобы помочь обуздать распространение онлайн -контента -террориста | Facebook Newsroom» . Получено 6 декабря 2016 года .

[27] Абельсон, Хэл; Андерсон, Росс; Белловин, Стивен М.; Бенало, Джош; Блейз, Мэтт; Каллас, Джон; Диффи, Уитфилд; Ландау, Сьюзен; Нейман, Питер Г.; Rivest, Ronald L.; Шиллер, Джеффри I.; Шнайер, Брюс; Тиг, Ванесса; Тронкосо, Кармела (2024). «Ошибки в наших карманах: риски сканирования на стороне клиента». Журнал кибербезопасности . 10 Arxiv : 2110.07450 . doi : 10.1093/cybsec/tyad020 .

[28] Хилл, Кашмир (21 августа 2022 г.). «Папа сфотографировал своего обнаженного малыша для доктора. Google отметил его как преступника» . New York Times . ISSN 0362-4331 . Получено 21 августа 2022 года . Большой прорыв произошел почти десять лет спустя, в 2018 году, когда Google разработал искусственно интеллектуальный инструмент, который мог бы распознавать никогда не встречающиеся эксплуатационные изображения детей. [...] Когда фотографии Марка и Кассио были автоматически загружены с их телефонов на серверы Google, эта технология отметила их.

[29] «Google отметил фотографии родителей о больных детях как сексуальное насилие» . Гизмодо . 22 августа 2022 года . Получено 28 августа 2022 года . По словам Google, эти отчеты об инцидентах поступают из нескольких источников, не ограничивающихся инструментом автоматизированной фотодны.

[30] Рот, Эмма (21 августа 2022 г.). «Google AI отметил учетные записи родителей о потенциальном насилии над обнаженными фотографиями их больных детей» . Грава . Получено 28 августа 2022 года . Google использовал сопоставление хэш с фотодней Microsoft для сканирования загруженных изображений для обнаружения совпадений с известным CSAM. [...] В 2018 году Google объявил о запуске своего инструментария AIPI AT Safety API API, который может «активно идентифицировать никогда невиданные изображения CSAM, чтобы его можно было рассмотреть и, если это подтверждено как CSAM, удаляется и сообщается как можно быстрее, как можно быстрее . " Он использует инструмент для своих собственных услуг и, наряду с видео, нацеленным на видео, соответствующее сопоставлению с хеш-хеш-хеш-хеш-хеш, разработанное YouTube Engineers, также предлагает его для использования другими.

[31] «Несчастные истины о детской порнографии и интернете [функция]» . 7 декабря 2012 г.

[perspectives-32] Эхер, Рейнхард; Craig, Leam A.; Шахтер, Майкл Х.; Pfäfflin, Friedemann (2011). Международные перспективы оценки и лечения сексуальных преступников: теория, практика и исследования . Джон Уайли и сыновья. п. 514. ISBN 978-1119996200 .

[33] Латтанзи-Лихт, Марсия; Дока, Кеннет (2004). Жизнь с горем: справиться с общественной трагедией . Routledge. п. 317. ISBN 1135941513 .

[34] Артур, Чарльз (22 июля 2013 г.). «Twitter, чтобы представить систему фотодны, чтобы блокировать изображения жестокого обращения с детьми» . Хранитель . Получено 22 июля 2013 года .

[35] Смит, Катарина (2 мая 2011 г.). «Facebook принимает Microsoft Photodna для удаления детской порнографии» . Huffington Post . Получено 22 июля 2013 года .

[36] "Adobe & Photodna" . www.adobe.com . Получено 27 августа 2021 года .

[37] «Reddit используйте фотодну для предотвращения детской порнографии» . 19 марта 2020 года.

[38] «Отчет о прозрачности распределения: июль - декабрь 2020 года» . Блог Discord . 2 апреля 2021 года . Получено 8 мая 2022 года .

[The_Guardian-39] «Microsoft Tip заставила полицию арестовать мужчину из -за изображений жестокого обращения с детьми» . Хранитель . 7 августа 2014 года.

[40] Салсито, Энтони (17 декабря 2009 г.). «Microsoft жертвует технологию PhotoDNA, чтобы сделать интернет более безопасным для детей» . Получено 22 июля 2013 года .

[41] Атали, Аниш (20 декабря 2021 года). «Перевернущая фотодна» .

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 9 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 13 ]

[ 14 ]

[ 15 ]

[ 16 ]

[ 17 ]

[ 18 ]

[ 19 ]

[ 20 ]

[ 21 ]

[ 22 ]

[ 23 ]

[ 24 ]

[ 25 ]

[ 26 ]

[ 27 ]

[ 28 ]

[ 29 ]

[ 30 ]

[ 31 ]

[ 32 ]

[ 33 ]

[ 34 ]

[ 35 ]

[ 36 ]

[ 37 ]

[ 38 ]

[ 39 ]

[ 40 ]

[ 41 ]