Фоукс (программное обеспечение)
Fawkes — это программное обеспечение для маскировки изображений лица, созданное Лабораторией SAND (Безопасность, алгоритмы, сети и данные) Чикагского университета . [1] Это бесплатный инструмент, доступный как отдельный исполняемый файл. [2] Программное обеспечение создает небольшие изменения в изображениях, используя искусственный интеллект , чтобы защитить изображения от распознавания и сопоставления с программным обеспечением для распознавания лиц . [3] Цель программы Фоукса — дать людям возможность защитить свою конфиденциальность от сбора больших объемов данных. По состоянию на май 2022 года количество загрузок Fawkes v1.0 превысило 840 000. [4] В конечном итоге лаборатория SAND надеется внедрить это программное обеспечение в более широком масштабе для борьбы с несанкционированным программным обеспечением для распознавания лиц. [5]
История
[ редактировать ]Программа Фокса была названа в честь вымышленного героя фильма и комикса «V значит вендетта » , который черпал вдохновение у исторического деятеля Гая Фокса . [6] Предложение Фоукса было первоначально представлено на конференции USENIX Security в августе 2020 года, где оно получило одобрение и вскоре было обнародовано. Самая последняя версия, доступная для загрузки, Fawkes v1.0, была выпущена в апреле 2021 года и будет обновляться в 2022 году. [4] Команду основателей возглавляют Эмили Венгер и Шон Шан, аспиранты Чикагского университета . Дополнительная поддержка со стороны Цзяюня Чжана и Хуэйин Ли, а также консультантов факультета Бен Чжао и Хизер Чжэн способствовала созданию программного обеспечения. [7] Команда называет сбор данных без согласия, особенно осуществляемый такими компаниями, как Clearwater AI , главным источником вдохновения для создания Fawkes. [8]
Техники
[ редактировать ]Методы, которые использует Фоукс, можно назвать похожими на состязательное машинное обучение . Этот метод обучает программное обеспечение для распознавания лиц, используя уже измененные изображения. Это приводит к тому, что программное обеспечение не может сопоставить измененное изображение с реальным изображением, поскольку оно не распознает их как одно и то же изображение. Фоукс также использует атаки по отравлению данных , которые изменяют набор данных, используемый для обучения определенных моделей глубокого обучения. Фоукс использует два типа методов отравления данных: атаки «чистой этикетки» и атаки с повреждением модели. Создатели Fawkes отмечают, что использование изображений Сивиллы может повысить эффективность их программного обеспечения против программных продуктов по распознаванию. Образы Сивиллы — это изображения, не соответствующие человеку, которому их приписывают. Это сбивает с толку программное обеспечение для распознавания лиц и приводит к неправильной идентификации, что также повышает эффективность сокрытия изображений. Машинное обучение с сохранением конфиденциальности использует методы, аналогичные программному обеспечению Fawkes, но выбирает дифференцированное обучение частных моделей, что помогает сохранять конфиденциальность информации в наборе данных. [3]
Приложения
[ редактировать ]Маскировку изображений Фоукса можно использовать для изображений и приложений, которые используются каждый день. Однако эффективность программного обеспечения снижается, если существуют замаскированные и незамаскированные изображения, которые может использовать программное обеспечение для распознавания лиц. Программное обеспечение для маскировки изображений было протестировано на мощном программном обеспечении для распознавания лиц с различными результатами. [3] Программное обеспечение для маскировки лиц, аналогичное Fawkes, называется LowKey . LowKey также изменяет изображения на визуальном уровне, но эти изменения гораздо более заметны по сравнению с программным обеспечением Fawkes. [2]
Ссылки
[ редактировать ]- ^ Джеймс Винвент (4 августа 2020 г.). «Замаскируйте свои фотографии с помощью этого инструмента конфиденциальности на базе искусственного интеллекта, чтобы обмануть распознавание лиц» . Грань . Проверено 18 мая 2021 г.
- ^ Перейти обратно: а б Ледфорд, Б., 2021 г., Оценка методов маскировки изображений против автоматического распознавания лиц для биометрической конфиденциальности, магистерская диссертация, Технологический институт Флориды, Мельбурн, Флорида, просмотрено 27 июля 2022 г., https://repository.lib.fit.edu/handle /11141/3478 .
- ^ Перейти обратно: а б с Шан, Шон; Венгер, Эмили; Чжан, Цзяюнь; Ли, Хуэйин; Чжэн, Хайтао; Чжао, Бен Ю. (22 июня 2020 г.). «Фоукс: защита конфиденциальности от несанкционированных моделей глубокого обучения». arXiv : 2002.08327 [ cs.CR ].
- ^ Перейти обратно: а б «Фоукс» . sandlab.cs.uchicago.edu . Проверено 28 июля 2022 г.
- ^ Хилл, Кашмир (3 августа 2020 г.). «Этот инструмент может защитить ваши фотографии от распознавания лиц» . Нью-Йорк Таймс . ISSN 0362-4331 . Проверено 28 июля 2022 г.
- ^ Град, Питер; Xplore, Тех. «Инструмент маскировки изображений мешает программам распознавания лиц» . techxplore.com . Проверено 28 июля 2022 г.
- ^ «Исследователи CS из Чикагского университета создают новую защиту от распознавания лиц» . Кафедра компьютерных наук . Проверено 28 июля 2022 г.
- ^ Шан, Шон; Венгер, Эмили; Чжан, Цзяюнь; Ли, Хуэйин; Чжэн, Хайтао; Чжао, Бен Ю. (22 июня 2020 г.). «Фоукс: защита конфиденциальности от несанкционированных моделей глубокого обучения». arXiv : 2002.08327 [ cs.CR ].