Обнаружение контента искусственным интеллектом

Программное обеспечение для обнаружения искусственного интеллекта предназначено для определения того, был ли какой-либо контент (текст, изображение, видео или аудио) создан с использованием искусственного интеллекта (ИИ).

Однако надежность такого программного обеспечения является предметом дискуссий. ^[1] и существуют опасения по поводу потенциального неправильного применения программного обеспечения для обнаружения ИИ преподавателями.

Проблемы с точностью [ править ]

Было продемонстрировано, что многочисленные инструменты обнаружения ИИ ненадежны с точки зрения точного и всестороннего обнаружения текста, сгенерированного ИИ. В исследовании, проведенном Вебером-Вульфом и др. и опубликованном в 2023 году, исследователи оценили 14 инструментов обнаружения, включая Turnitin и GPT Zero , и обнаружили, что «все они получили точность ниже 80% и только 5 — выше 70%. ^[2]

Обнаружение текста [ править ]

Для текста это обычно делается для предотвращения предполагаемого плагиата , часто путем обнаружения повторения слов как явных признаков того, что текст был сгенерирован ИИ (включая галлюцинации ИИ ). Они часто используются учителями, выставляющими оценки своим ученикам, обычно на разовой основе. После выпуска ChatGPT и аналогичного программного обеспечения для генерации текста с использованием искусственного интеллекта многие образовательные учреждения приняли политику против использования искусственного интеллекта учащимися. ^[3] Программное обеспечение для распознавания текста с использованием искусственного интеллекта также используется теми, кто оценивает кандидатов на работу, а также онлайн -поисковиками . ^[4]

Детекторы тока иногда могут быть ненадежными и неправильно помечать работу людей как исходящую от ИИ. ^[5]^[6]^[7] при этом не обнаруживая работу, созданную ИИ, в других случаях. ^[8] В MIT Technology Review говорится, что технология «изо всех сил пыталась уловить текст, сгенерированный ChatGPT, который был слегка изменен людьми и запутан с помощью инструмента перефразирования». ^[9] Также было показано, что программное обеспечение для обнаружения текста с использованием искусственного интеллекта дискриминирует людей, для которых английский язык не является родным. ^[4]

Двум студентам Калифорнийского университета в Дэвисе едва не грозило отчисление после того, как их преподаватели отсканировали их эссе с помощью инструмента обнаружения текста под названием Turnitin , который пометил эссе как созданные искусственным интеллектом. Однако, после освещения в СМИ, ^[10] В результате тщательного расследования со студентов были сняты все обвинения. ^[11]^[12]

В апреле 2023 года Кембриджский университет и другие члены группы университетов Рассела в Соединенном Королевстве отказались от использования инструмента обнаружения текста с использованием искусственного интеллекта Turnitin, выразив обеспокоенность его ненадежностью. ^[13] вышел Шесть месяцев спустя Техасский университет в Остине из системы. ^[14]

В мае 2023 года профессор Техасского университета A&M использовал ChatGPT, чтобы определить, написан ли им контент его студентов, что, по словам ChatGPT, имело место. Таким образом, он пригрозил провалить урок, несмотря на то, что ChatGPT не смог обнаружить текст, созданный ИИ. ^[15] Из-за этой проблемы ни одному студенту не помешали получить высшее образование, и со всех студентов, кроме одного (который признался в использовании программного обеспечения), были сняты обвинения в использовании ChatGPT в своем контенте. ^[16]

В статье Томаса Жермена, опубликованной на Gizmodo в июне 2024 года, сообщается о потере рабочих мест среди писателей-фрилансеров и журналистов из-за того, что программное обеспечение для обнаружения текста с помощью ИИ ошибочно классифицирует их работы как созданные ИИ. ^[17]

Антитекстовое обнаружение [ править ]

Доступно программное обеспечение, предназначенное для обхода обнаружения текста AI. ^[18]

В исследовании, опубликованном в августе 2023 года, были проанализированы 20 тезисов статей, опубликованных в журнале Eye Journal , которые затем были перефразированы с использованием GPT-4.0 . Тезисы, перефразированные AI, были проверены на плагиат с использованием QueText и на предмет содержания, созданного AI, с помощью Originality.AI . Затем тексты были повторно обработаны с помощью вредоносного программного обеспечения Undetectable.ai , чтобы снизить показатели обнаружения ИИ. Исследование показало, что инструмент обнаружения искусственного интеллекта Originality.AI идентифицирует текст, сгенерированный GPT-4, со средней точностью 91,3%. Однако после повторной обработки Undetectable.ai точность обнаружения Originality.ai упала до средней точности 27,8%. ^[19]^[20]

Некоторые эксперты также считают, что такие методы, как цифровые водяные знаки, неэффективны, поскольку их можно удалить или добавить, что приведет к ложным срабатываниям. ^[21]

Обнаружение изображений, видео и звука [ править ]

Существует несколько предполагаемых программ обнаружения изображений ИИ для обнаружения изображений, созданных ИИ (например, созданных Midjourney или DALL-E ). Они не совсем надежны. ^[22]^[23]

Другие заявляют, что идентифицируют видео и аудио дипфейки , но и эта технология пока не является полностью надежной. ^[24]

Несмотря на споры об эффективности водяных знаков, Google DeepMind активно разрабатывает программное обеспечение для обнаружения под названием SynthID, которое работает путем вставки цифрового водяного знака, невидимого для человеческого глаза, в пиксели изображения. ^[25]^[26]

См. также [ править ]

Ссылки [ править ]

^ « Не используйте детекторы искусственного интеллекта для чего-то важного», — говорит автор полноценного блога «Странности искусственного интеллекта». Ее собственная книга не выдержала испытания» . Удача . Проверено 21 октября 2023 г.
^ Вебер-Вульф, Дебора; Анохина-Наумека, Алла; Белобаба, Соня; Фолтынек, Томаш; Герреро-Диб, Жан; Попула, Олумид; Шигут, Петр; Уоддингтон, Лорна (25 декабря 2023 г.). «Тестирование средств обнаружения текста, сгенерированного ИИ» . Международный журнал честности в образовании . 19 (1): 26. arXiv : 2306.15666 . дои : 10.1007/s40979-023-00146-z . ISSN 1833-2595 .
^ Херн, Алекс (31 декабря 2022 г.). «Плагиат с помощью ИИ? Бот ChatGPT говорит, что у него есть ответ на этот вопрос» . Хранитель . Проверено 11 июля 2023 г.
↑ Перейти обратно: Перейти обратно: ^а ^б Сэмпл, Ян (10 июля 2023 г.). «Программы по обнаружению искусственного интеллекта дискриминируют тех, для кого английский язык не является родным, показывает исследование» . Хранитель . Проверено 10 июля 2023 г.
^ Фаулер, Джеффри А. (2 июня 2023 г.). «Обнаружение ИИ может оказаться невозможным. Это большая проблема для учителей» . Вашингтон Пост . Проверено 10 июля 2023 г.
^ Тангерманн, Виктор (9 января 2023 г.). «Существует проблема с этим приложением, которое обнаруживает текст, написанный GPT: оно не очень точно» . Футуризм . Проверено 10 июля 2023 г.
^ «Мы протестировали новый ChatGPT-детектор для учителей. Он пометил невиновного ученика» . Вашингтон Пост . 1 апреля 2023 г. Проверено 10 июля 2023 г.
^ Тейлор, Джош (1 февраля 2023 г.). «Производитель ChatGPT OpenAI выпускает «не совсем надежный» инструмент для обнаружения контента, созданного ИИ» . Хранитель . Проверено 11 июля 2023 г.
^ Уильямс, Рианнон (7 июля 2023 г.). «Инструменты обнаружения AI-текста действительно легко обмануть» . Обзор технологий Массачусетского технологического института . Проверено 10 июля 2023 г.
^ «Приложения для обнаружения искусственного интеллекта продолжают ложно обвинять студентов в списывании» . Футуризм . 6 июня 2023 г. Проверено 21 октября 2023 г.
^ Хименес, Кайла. «Профессора используют детекторные инструменты ChatGPT, чтобы обвинять студентов в мошенничестве. Но что, если программное обеспечение неправильное?» . США СЕГОДНЯ . Проверено 21 октября 2023 г.
^ Клее, Майлз (6 июня 2023 г.). «Ее ложно обвинили в мошенничестве с искусственным интеллектом — и она не будет последней» . Роллинг Стоун . Проверено 21 октября 2023 г.
^ Стейтон, Бетан (3 апреля 2023 г.). «Университеты выражают сомнение по поводу инструмента для обнаружения плагиата с помощью искусственного интеллекта» . Файнэншл Таймс . Проверено 10 июля 2023 г.
^ Картер, Том. «Некоторые университеты отказываются от программного обеспечения для обнаружения искусственного интеллекта из-за опасений, что студентов могут ложно обвинить в мошенничестве при использовании ChatGPT» . Бизнес-инсайдер . Проверено 21 октября 2023 г.
^ Верма, Прашну (18 мая 2023 г.). «Профессор обвинил свой класс в использовании ChatGPT, что ставит под угрозу дипломы» . Вашингтон Пост . Проверено 10 июля 2023 г.
^ «Преподаватель колледжа раскритиковал обвинение студентов в использовании ChatGPT» . Новости Эн-Би-Си . 18 мая 2023 г. Проверено 10 июля 2023 г.
^ Жермен, Томас (12 июня 2024 г.). «Детекторы искусственного интеллекта ошибаются. Писателей все равно увольняют» . Гизмодо . Проверено 18 июня 2024 г.
^ Бим, Кристофер. «Гонка вооружений в области обнаружения ИИ началась, и студенты колледжей создают оружие» . Проводной . ISSN 1059-1028 . Проверено 2 декабря 2023 г.
^ Талони, Андреа; Скорсия, Винченцо; Джаннаккаре, Джузеппе (2 августа 2023 г.). «Современные угрозы в академических кругах: оценка плагиата и показателей обнаружения искусственного интеллекта ChatGPT» . Глаз . 38 (2): 397–400. дои : 10.1038/s41433-023-02678-7 . ISSN 1476-5454 . ПМИД 37532832 .
^ Томпсон, Дэвид (30 ноября 2023 г.). «Исследователи говорят, что необнаружимый ИИ может представлять собой «современную угрозу для научных кругов» » . Наука Таймс .
^ Ниббс, Кейт. «Исследователи протестировали водяные знаки искусственного интеллекта и сломали их все» . Проводной . ISSN 1059-1028 . Проверено 21 октября 2023 г.
^ Томпсон, Стюарт А.; Сюй, Тиффани (28 июня 2023 г.). «Насколько легко обмануть инструменты обнаружения искусственного интеллекта?» . Нью-Йорк Таймс . Проверено 10 июля 2023 г.
^ Ризван, Чоудхури (15 октября 2023 г.). «Эксперт опровергает утверждение инструмента искусственного интеллекта о том, что фотография Израиля — фейк» . Интересная инженерия . Проверено 22 октября 2023 г.
^ Сюй, Тиффани; Майерс, Стивен Ли (18 мая 2023 г.). «Другая сторона бума искусственного интеллекта: определение того, что делает искусственный интеллект» . Нью-Йорк Таймс . Проверено 10 июля 2023 г.
^ Пирс, Дэвид (29 августа 2023 г.). «Google сделал водяной знак для изображений AI, которые нельзя отредактировать» . Грань . Проверено 21 октября 2023 г.
^ Виггерс, Кайл (29 августа 2023 г.). «DeepMind сотрудничает с Google Cloud для создания водяных знаков на изображениях, созданных искусственным интеллектом» . ТехКранч . Проверено 21 октября 2023 г.

[1] « Не используйте детекторы искусственного интеллекта для чего-то важного», — говорит автор полноценного блога «Странности искусственного интеллекта». Ее собственная книга не выдержала испытания» . Удача . Проверено 21 октября 2023 г.

[2] Вебер-Вульф, Дебора; Анохина-Наумека, Алла; Белобаба, Соня; Фолтынек, Томаш; Герреро-Диб, Жан; Попула, Олумид; Шигут, Петр; Уоддингтон, Лорна (25 декабря 2023 г.). «Тестирование средств обнаружения текста, сгенерированного ИИ» . Международный журнал честности в образовании . 19 (1): 26. arXiv : 2306.15666 . дои : 10.1007/s40979-023-00146-z . ISSN 1833-2595 .

[3] Херн, Алекс (31 декабря 2022 г.). «Плагиат с помощью ИИ? Бот ChatGPT говорит, что у него есть ответ на этот вопрос» . Хранитель . Проверено 11 июля 2023 г.

[Sample-4] Перейти обратно: Перейти обратно: ^а ^б Сэмпл, Ян (10 июля 2023 г.). «Программы по обнаружению искусственного интеллекта дискриминируют тех, для кого английский язык не является родным, показывает исследование» . Хранитель . Проверено 10 июля 2023 г.

[Fowler-5] Фаулер, Джеффри А. (2 июня 2023 г.). «Обнаружение ИИ может оказаться невозможным. Это большая проблема для учителей» . Вашингтон Пост . Проверено 10 июля 2023 г.

[6] Тангерманн, Виктор (9 января 2023 г.). «Существует проблема с этим приложением, которое обнаруживает текст, написанный GPT: оно не очень точно» . Футуризм . Проверено 10 июля 2023 г.

[:3-7] «Мы протестировали новый ChatGPT-детектор для учителей. Он пометил невиновного ученика» . Вашингтон Пост . 1 апреля 2023 г. Проверено 10 июля 2023 г.

[8] Тейлор, Джош (1 февраля 2023 г.). «Производитель ChatGPT OpenAI выпускает «не совсем надежный» инструмент для обнаружения контента, созданного ИИ» . Хранитель . Проверено 11 июля 2023 г.

[Williams-9] Уильямс, Рианнон (7 июля 2023 г.). «Инструменты обнаружения AI-текста действительно легко обмануть» . Обзор технологий Массачусетского технологического института . Проверено 10 июля 2023 г.

[10] «Приложения для обнаружения искусственного интеллекта продолжают ложно обвинять студентов в списывании» . Футуризм . 6 июня 2023 г. Проверено 21 октября 2023 г.

[11] Хименес, Кайла. «Профессора используют детекторные инструменты ChatGPT, чтобы обвинять студентов в мошенничестве. Но что, если программное обеспечение неправильное?» . США СЕГОДНЯ . Проверено 21 октября 2023 г.

[12] Клее, Майлз (6 июня 2023 г.). «Ее ложно обвинили в мошенничестве с искусственным интеллектом — и она не будет последней» . Роллинг Стоун . Проверено 21 октября 2023 г.

[13] Стейтон, Бетан (3 апреля 2023 г.). «Университеты выражают сомнение по поводу инструмента для обнаружения плагиата с помощью искусственного интеллекта» . Файнэншл Таймс . Проверено 10 июля 2023 г.

[14] Картер, Том. «Некоторые университеты отказываются от программного обеспечения для обнаружения искусственного интеллекта из-за опасений, что студентов могут ложно обвинить в мошенничестве при использовании ChatGPT» . Бизнес-инсайдер . Проверено 21 октября 2023 г.

[15] Верма, Прашну (18 мая 2023 г.). «Профессор обвинил свой класс в использовании ChatGPT, что ставит под угрозу дипломы» . Вашингтон Пост . Проверено 10 июля 2023 г.

[16] «Преподаватель колледжа раскритиковал обвинение студентов в использовании ChatGPT» . Новости Эн-Би-Си . 18 мая 2023 г. Проверено 10 июля 2023 г.

[17] Жермен, Томас (12 июня 2024 г.). «Детекторы искусственного интеллекта ошибаются. Писателей все равно увольняют» . Гизмодо . Проверено 18 июня 2024 г.

[18] Бим, Кристофер. «Гонка вооружений в области обнаружения ИИ началась, и студенты колледжей создают оружие» . Проводной . ISSN 1059-1028 . Проверено 2 декабря 2023 г.

[:2-19] Талони, Андреа; Скорсия, Винченцо; Джаннаккаре, Джузеппе (2 августа 2023 г.). «Современные угрозы в академических кругах: оценка плагиата и показателей обнаружения искусственного интеллекта ChatGPT» . Глаз . 38 (2): 397–400. дои : 10.1038/s41433-023-02678-7 . ISSN 1476-5454 . ПМИД 37532832 .

[20] Томпсон, Дэвид (30 ноября 2023 г.). «Исследователи говорят, что необнаружимый ИИ может представлять собой «современную угрозу для научных кругов» » . Наука Таймс .

[21] Ниббс, Кейт. «Исследователи протестировали водяные знаки искусственного интеллекта и сломали их все» . Проводной . ISSN 1059-1028 . Проверено 21 октября 2023 г.

[ThoHsu-22] Томпсон, Стюарт А.; Сюй, Тиффани (28 июня 2023 г.). «Насколько легко обмануть инструменты обнаружения искусственного интеллекта?» . Нью-Йорк Таймс . Проверено 10 июля 2023 г.

[:1-23] Ризван, Чоудхури (15 октября 2023 г.). «Эксперт опровергает утверждение инструмента искусственного интеллекта о том, что фотография Израиля — фейк» . Интересная инженерия . Проверено 22 октября 2023 г.

[MyeHsu-24] Сюй, Тиффани; Майерс, Стивен Ли (18 мая 2023 г.). «Другая сторона бума искусственного интеллекта: определение того, что делает искусственный интеллект» . Нью-Йорк Таймс . Проверено 10 июля 2023 г.

[25] Пирс, Дэвид (29 августа 2023 г.). «Google сделал водяной знак для изображений AI, которые нельзя отредактировать» . Грань . Проверено 21 октября 2023 г.

[26] Виггерс, Кайл (29 августа 2023 г.). «DeepMind сотрудничает с Google Cloud для создания водяных знаков на изображениях, созданных искусственным интеллектом» . ТехКранч . Проверено 21 октября 2023 г.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]

[17]

[18]

[19]

[20]

[21]

[22]

[23]

[24]

[25]

[26]