ГПЗеро
 | |
| Разработчик(и) | Эдвард Тиан Алекс Куи Разместил(а): Мими [1] |
|---|---|
| Первоначальный выпуск | 3 января 2023 г |
| Написано в | Питон |
| Платформа | Облачные вычисления |
| Веб-сайт | gptzero |
GPTZero — это программное обеспечение для обнаружения искусственного интеллекта, разработанное для идентификации искусственно сгенерированного текста, например, созданного большими языковыми моделями . [2] [3] [4] [5]
Хотя GPTZero получил положительное освещение за свои усилия по предотвращению академической нечестности, многие новостные агентства раскритиковали этот инструмент за уровень ложных срабатываний, особенно в академических кругах. [6]
История
[ редактировать ]GPTZero был разработан Эдвардом Тианом, студентом Принстонского университета , и запущен в Интернете в январе 2023 года в ответ на опасения по поводу использования ИИ в академическом плагиате . [7] [8] GPTZero собрал более 3,5 миллионов долларов начального финансирования. [9] [10]
За первую неделю после выпуска GPTZero использовался 30 000 раз, что привело к сбою. Его поддерживает компания Streamlit, занимающаяся веб-приложениями, которая в ответ выделила больше серверных ресурсов. [11]
Механизм
[ редактировать ]GPTZero использует качества, которые он называет растерянностью и взрывоопасностью , чтобы попытаться определить, был ли отрывок написан ИИ. [12] По мнению компании, недоумение заключается в том, насколько случайным является текст в предложении и является ли способ построения предложения необычным или «неожиданным» для приложения. Он опирается на языковые модели, и чем больше таких моделей, тем выше вероятность того, что текст писал не человек. [13] Напротив, разрывность сравнивает предложения друг с другом, определяя их сходство. Человеческий текст более прерывистый, то есть люди склонны писать с большим количеством вариаций предложений, чем ИИ . [8]
Новостной сайт Ars Technica отметил, что люди по-прежнему могут писать предложения очень регулярно, что приводит к ложным срабатываниям. Писатель Бендж Эдвардс далее заявил, что оценка недоумения касается только того, что «неожиданно» для ИИ, что приводит к случаям, когда очень распространенные тексты, такие как Конституция США , помечаются как созданные ИИ. [14]
Варианты использования и приложения
[ редактировать ]Академическое сообщество попыталось использовать GPTZero для решения проблем, связанных с плагиатом контента, созданного ИИ . [15] [13] [12] Образовательные учреждения, в том числе Принстонский университет , обсуждают использование GPTZero для борьбы с контентом, созданным искусственным интеллектом, в академических условиях, и мнения разделились. [8] [16] В октябре 2023 года GPTZero заключила партнерское соглашение с Американской федерацией учителей . [17]
Эффективность
[ редактировать ]В статье, опубликованной в марте 2023 года под названием «Можно ли надежно обнаружить текст, сгенерированный искусственным интеллектом?», [18] Ученые-компьютерщики Вину Санкар Садасиван, Аунон Кумар, Шрирам Баласубраманиан, Вэньсяо Ван и Сохейл Фейзи из Университета Мэриленда эмпирически и теоретически демонстрируют, что некоторые детекторы текста ИИ ненадежны в практических сценариях. [19] [20]
Технический веб-сайт Futurism протестировал этот инструмент и заявил, что, хотя «результаты впечатляют», судя по частоте ошибок, учителя, полагающиеся на этот инструмент, в конечном итоге «ложно обвинят почти 20 процентов [невинных студентов] в академических проступках». [21]
Газета Washington Post отметила, что GPTZero страдает от ложных срабатываний, подчеркнув, что «даже небольшой процент «ложноположительных» ошибок означает, что некоторых студентов можно ошибочно обвинить [в академических нарушениях]». [6]
Внешние ссылки
[ редактировать ]- Кэссиди, Кейтлин (11 января 2023 г.). «Приложение по претензиям студентов колледжа может обнаруживать эссе, написанные чат-ботом ChatGPT» . Хранитель .
См. также
[ редактировать ]- Обнаружение контента искусственным интеллектом
- Этика искусственного интеллекта
- Обработка естественного языка
- ЧатGPT
- Генерация текста
- Тест Тьюринга
Ссылки
[ редактировать ]- ^ «Познакомьтесь с уроженцем Этобико, изобретателем детектора ChatGPT» . Торонто Жизнь .
- ^ «GPTZERO: новый инструмент для обнаружения контента, созданного искусственным интеллектом, в ChatGPT» . Вашингтон Пост .
- ^ «Как такие приложения, как GPTZero, обнаруживают контент, написанный искусственным интеллектом» CNBC . 24 июля 2023 г. . Проверено 21 сентября 2023 г.
- ^ «Приложение GPTZero стремится предотвратить плагиат ИИ в школах и онлайн-СМИ» . Bloomberg.com . 8 мая 2023 г. . Проверено 21 октября 2023 г.
- ^ «Американская федерация учителей сотрудничает с платформой идентификации искусственного интеллекта GPTZero» . Новости CBS . 17 октября 2023 г. . Проверено 21 октября 2023 г.
- ^ Jump up to: а б Фаулер, Джеффри (14 августа 2023 г.). «Что делать, если вас обвиняют в мошенничестве с ИИ» . Вашингтон Пост . Проверено 20 октября 2023 г.
- ^ «Как 23-летний студент колледжа создал один из ведущих инструментов обнаружения искусственного интеллекта» . Бизнес-инсайдер . Проверено 21 сентября 2023 г.
- ^ Jump up to: а б с «Программное обеспечение GPTZERO Эдварда Тиана направлено на обнаружение плагиата, созданного искусственным интеллектом» . Ежедневный Принстониан .
- ^ «Этот инструмент обнаружения искусственного интеллекта собрал 3,5 миллиона долларов на проверку Интернета на предмет компьютерной работы» . Компания Фаст . 2023.
- ^ Шривастава, Раши. «Благодаря обеспечению начального финансирования инструмент обнаружения искусственного интеллекта GPTZero запускает новый плагин для браузера» . Форбс . Проверено 17 мая 2023 г.
- ^ «GPTZERO: новый детектор искусственного интеллекта направлен на борьбу с плагиатом ChatGPT» . ЭНЕРГЕТИЧЕСКИЙ ЯДЕРНЫЙ РЕАКТОР . 9 января 2023 г.
- ^ Jump up to: а б «Что такое GPTZERO? Объяснение инструмента обнаружения ChatGPT» . Техническое обучение . 27 января 2023 г.
- ^ Jump up to: а б «Детектор искусственного интеллекта для преподавателей: что такое GPTZERO?» . Журнал Джампстарт . 2 марта 2023 г.
- ^ Эдвардс, Бендж (14 июля 2023 г.). «Почему детекторы ИИ считают, что Конституция США была написана ИИ» . Арс Техника . Проверено 14 декабря 2023 г.
- ^ Tribune.com.pk (22 февраля 2023 г.). «GPTZero: инструмент обнаружения ChatGPT» . «Экспресс Трибьюн» .
- ^ «GPTZero поможет учителям работать с сочинениями учащихся, созданными ChatGPT» . Индийский экспресс . 12 января 2023 г. . Проверено 21 сентября 2023 г.
- ^ «Союз учителей США запрещает ChatGPT и использует GPTZero для обнаружения мошенничества» . Мобильное приложениеAaily . Проверено 21 октября 2023 г.
- ^ Вину Санкар Садасиван; Кумар, Аунон; Баласубраманиан, Шрирам; Ван, Вэньсяо; Фейзи, Сохейл (17 марта 2023 г.). «Можно ли надежно обнаружить текст, сгенерированный искусственным интеллектом?». arXiv : 2303.11156 [ cs.CL ].
- ^ Ниббс, Кейт. «Исследователи протестировали водяные знаки искусственного интеллекта и сломали их все» . Проводной . ISSN 1059-1028 . Проверено 21 октября 2023 г.
- ^ «Нет надежного способа обнаружить текст, сгенерированный искусственным интеллектом, вздыхают ученые» . Регистр . 21 марта 2023 г. . Проверено 25 сентября 2023 г.
- ^ «Существует проблема с этим приложением, которое обнаруживает текст, написанный GPT: оно не очень точно» . Футуризм . 9 января 2023 г. . Проверено 21 октября 2023 г.