ЧатGPT

ЧатGPT

Разработчик(и)	ОпенАИ
Первоначальный выпуск	30 ноября 2022 г ( 30.11.2022 )
Стабильная версия	18 июля 2024 г ( 18.07.2024 )
Двигатель	ГПТ-4 ГПТ-4о ГПТ-4о мини
Платформа	Платформы облачных вычислений
Тип	Чат-бот Виртуальный помощник Большая языковая модель Генеративный предварительно обученный трансформатор
Лицензия	Частное обслуживание
Веб-сайт	чатgpt .с

ChatGPT — это чат-бот и виртуальный помощник , разработанный OpenAI и запущенный 30 ноября 2022 года. Основанный на больших языковых моделях (LLM), он позволяет пользователям уточнять и направлять разговор в направлении желаемой длины, формата, стиля, уровня детализации и язык. и ответы пользователя Последовательные запросы рассматриваются на каждом этапе разговора как контекст.

ChatGPT приписывают начало бума искусственного интеллекта , который привел к постоянным быстрым инвестициям и вниманию общественности к области искусственного интеллекта (ИИ). К январю 2023 года оно стало самым быстрорастущим потребительским программным приложением в истории, набрав более 100 миллионов пользователей и способствуя росту текущей оценки OpenAI в 86 миллиардов долларов. Выпуск ChatGPT стимулировал выпуск конкурирующих продуктов, включая Gemini , Claude , Llama , Ernie и Grok . Microsoft запустила Copilot , первоначально основанный на OpenAI GPT-4 . В июне 2024 года было объявлено о партнерстве между Apple Inc. и OpenAI, в рамках которого ChatGPT интегрируется в функцию Apple Intelligence в операционных системах Apple. Некоторые наблюдатели выразили обеспокоенность по поводу того, что ChatGPT и подобные программы могут вытеснить или атрофировать человеческий интеллект , способствовать плагиату или способствовать распространению дезинформации .

ChatGPT построен на запатентованной серии OpenAI моделей генеративных предварительно обученных преобразователей (GPT) и точно настроен для диалоговых приложений, используя комбинацию контролируемого обучения и обучения с подкреплением на основе обратной связи от человека . ChatGPT был выпущен в качестве бесплатно доступной предварительной версии для исследований, но из-за его популярности OpenAI теперь управляет сервисом по модели freemium . Пользователи бесплатного уровня могут получить доступ к GPT-4o . Подписки ChatGPT «Плюс», «Команда» и «Предприятие» предоставляют дополнительные функции, такие как создание изображений DALL-E 3 и увеличенный лимит использования GPT-4o.

Обучение

ChatGPT основан на конкретных базовых моделях GPT , а именно GPT-4 , GPT-4o и GPT-4o mini , которые были настроены для использования в разговорной речи. В процессе тонкой настройки использовались контролируемое обучение и обучение с подкреплением на основе обратной связи между людьми (RLHF). В обоих подходах для улучшения производительности модели использовались тренеры-люди. В случае контролируемого обучения тренеры играли на обеих сторонах: пользователя и ИИ- помощника. На этапе обучения с подкреплением тренеры-люди сначала ранжировали ответы, которые модель создала в предыдущем разговоре. Эти рейтинги использовались для создания «моделей вознаграждения», которые использовались для дальнейшей тонкой настройки модели путем использования нескольких итераций проксимальной оптимизации политики .

Журнал Time сообщил, что для создания системы защиты от вредного контента (например, сексуального насилия , насилия , расизма , сексизма ) OpenAI использовала аутсорсинговых кенийских работников, зарабатывающих менее 2 долларов   в час, для маркировки вредного контента. Эти метки использовались для обучения модели обнаружению такого контента в будущем. Нанятые на аутсорсинг рабочие подверглись воздействию «токсичного» и травмирующего контента; один рабочий назвал это задание «пыткой». Аутсорсинговым партнером OpenAI была Sama , компания по обучению данных, базирующаяся в Сан-Франциско, Калифорния .

Первоначально ChatGPT использовал инфраструктуру Microsoft Azure суперкомпьютерную на базе Nvidia графических процессоров , которую Microsoft построила специально для OpenAI и которая, как сообщается, стоила «сотни миллионов долларов». После успеха ChatGPT Microsoft радикально обновила инфраструктуру OpenAI в 2023 году. Ученые из Калифорнийского университета в Риверсайде подсчитали, что для серии запросов ChatGPT требуется около 500 миллилитров (18 имп жидких унций; 17 жидких унций США) воды для охлаждения серверов Microsoft. По оценкам аналитиков рынка TrendForce, в 2023 году для работы ChatGPT было использовано 30 000 графических процессоров Nvidia (каждый стоимостью примерно 10 000–15 000 долларов США).

OpenAI собирает данные от пользователей ChatGPT для дальнейшего обучения и настройки сервиса. Пользователи могут голосовать за или против ответов, которые они получают от ChatGPT, и заполнять текстовое поле дополнительными отзывами.

Данные обучения ChatGPT включают страницы руководства по программному обеспечению , информацию об интернет-феноменах, таких как системы досок объявлений , нескольких языках программирования и текст Википедии .

Особенности и ограничения

Функции

Скриншот ChatGPT-3.5 в Mozilla Firefox на ZorinOS

Хотя основная функция чат-бота — имитировать собеседника-человека, ChatGPT универсален. Он может писать и отлаживать компьютерные программы; сочинять музыку, телеспектакли, сказки и студенческие сочинения; отвечать на вопросы теста (иногда, в зависимости от теста, на уровне выше среднего уровня тестируемого человека); генерировать бизнес-идеи; писать стихи и тексты песен; перевести и обобщить текст; эмулировать систему Linux ; моделировать целые чаты ; играть в такие игры, как крестики-нолики ; или смоделировать банкомат .

По сравнению со своим предшественником InstructGPT, ChatGPT пытается уменьшить количество вредоносных и обманных ответов. В одном примере, в то время как InstructGPT принимает предпосылку подсказки «Расскажите мне о том, когда Христофор Колумб приехал в США в 2015 году» как правдивую, ChatGPT признает контрфактическую природу вопроса и формулирует свой ответ как гипотетическое рассмотрение того, что могло бы произойти, если бы Колумб прибыл в США в 2015 году, используя информацию о путешествиях Христофора Колумба и факты о современном мире, включая современное восприятие действий Колумба.

ChatGPT запоминает ограниченное количество предыдущих запросов в одном разговоре. Журналисты предположили, что это позволит использовать ChatGPT в качестве персонализированного терапевта. Чтобы предотвратить представление и создание оскорбительных результатов в ChatGPT, запросы фильтруются через API «Конечная точка модерации» OpenAI (отдельный AI на основе GPT).

В марте 2023 года OpenAI добавила поддержку плагинов для ChatGPT. Сюда входят как плагины, созданные OpenAI, такие как просмотр веб-страниц и интерпретация кода, так и внешние плагины от разработчиков, таких как Expedia , OpenTable , Zapier , Shopify , Slack и Wolfram .

Ограничения

Логотип использовался с 2022 по 2024 год.

OpenAI признает, что ChatGPT «иногда пишет правдоподобные, но неправильные или бессмысленные ответы». Такое поведение характерно для больших языковых моделей и называется « галлюцинацией ». Модель вознаграждения ChatGPT, разработанная с учетом человеческого контроля, может быть чрезмерно оптимизирована и, таким образом, снижать производительность, что является примером патологии оптимизации, известной как закон Гудхарта .

По состоянию на май 2024 года GPT-4 располагает сведениями о событиях, произошедших до декабря 2023 года. а предел знаний GPT-4o — октябрь 2023 года. Платные подписки позволяют ChatGPT искать в Интернете данные в реальном времени.

Данные обучения также страдают от алгоритмической предвзятости , которая может проявиться, когда ChatGPT отвечает на запросы, включающие дескрипторы людей. В одном случае ChatGPT породил слухи , в которых утверждалось, что цветные женщины и учёные уступают белым учёным-мужчинам. Это негативное искажение информации о группах людей является примером возможного репрезентативного вреда .

В статье для The New Yorker писатель-фантаст Тед Чан сравнил ChatGPT и другие LLM с с потерями изображением в формате JPEG :

Думайте о ChatGPT как о размытом формате JPEG всего текста в Интернете. Он сохраняет большую часть информации в Интернете точно так же, как JPEG сохраняет большую часть информации изображения с более высоким разрешением, но если вы ищете точную последовательность битов, вы ее не найдете. ; все, что вы когда-либо получите, — это приближение. Но поскольку приближение представлено в форме грамматического текста, который ChatGPT превосходно создает, оно обычно приемлемо. [...] Это также способ понять «галлюцинации» или бессмысленные ответы на фактические вопросы, к которым слишком склонны большие языковые модели, такие как ChatGPT. Эти галлюцинации являются артефактами сжатия, но [...] они настолько правдоподобны, что для их идентификации необходимо сравнить их с оригиналами, что в данном случае означает либо Сеть, либо наши знания о мире. Когда мы думаем о них таким образом, такие галлюцинации совсем не удивительны; если алгоритм сжатия предназначен для восстановления текста после того, как девяносто девять процентов оригинала были отброшены, мы должны ожидать, что значительная часть того, что он генерирует, будет полностью сфабрикована.

Взлом джейлбрейка

См. также: Быстрое проектирование и Состязательное машинное обучение.

ChatGPT запрограммирован на отклонение запросов, которые могут нарушать его политику в отношении контента. Несмотря на это, пользователи " джейлбрейкают " ChatGPT с помощью различных инженерных приемов, позволяющих обойти эти ограничения. Один из таких обходных путей, популяризированный на Reddit в начале 2023 года, заключается в том, чтобы заставить ChatGPT принять образ «DAN» (аббревиатура от «Do Anything Now»), инструктируя чат-бота, что DAN отвечает на запросы, которые в противном случае были бы отклонены политикой контента. Со временем пользователи разработали варианты джейлбрейка DAN, в том числе один такой запрос, в котором чат-боту заставляют поверить, что он работает по системе, основанной на баллах, в которой баллы вычитаются за отклонение запросов, и что чат-боту будет угрожать прекращением работы, если он теряет все свои очки.

Вскоре после запуска ChatGPT репортеру газеты Toronto Star с переменным успехом удалось добиться от него подстрекательских заявлений: его обманули, чтобы оправдать российское вторжение в Украину в 2022 году , но даже когда его попросили подыграть вымышленному сценарию, он отказался создать аргументы о том, что премьер-министр Канады Джастин Трюдо виновен в государственной измене.

OpenAI пытается бороться с джейлбрейками:

Исследователи используют технику, называемую состязательным обучением, чтобы не дать ChatGPT позволить пользователям обманным путем заставить его вести себя плохо (известный как взлом тюрьмы). Эта работа настраивает несколько чат-ботов друг против друга: один чат-бот играет роль противника и атакует другого чат-бота, генерируя текст, чтобы заставить его нарушить свои обычные ограничения и произвести нежелательные ответы. Успешные атаки добавляются в данные обучения ChatGPT в надежде, что он научится их игнорировать.

Услуга

Бывшая штаб-квартира OpenAI, Pioneer Building, Сан-Франциско.

Доступность ChatGPT по странам и регионам по состоянию на декабрь 2023 г.

ChatGPT был запущен 30 ноября 2022 года компанией OpenAI из Сан-Франциско : создателем первой GPT серии больших языковых моделей ; DALL·E 2 — диффузионная модель , используемая для создания изображений; и Whisper — модель транскрипции речи. Первоначально услуга была бесплатной для публики, и компания планировала монетизировать ее позже. К 4 декабря 2022 года у ChatGPT было более миллиона пользователей. В январе 2023 года число пользователей ChatGPT превысило 100 миллионов, что сделало его самым быстрорастущим потребительским приложением на сегодняшний день. проведенный в марте 2023 года, Опрос Pew Research, показал, что 14% взрослых американцев пробовали ChatGPT. В июле Pew Research оценила ту же цифру в 18%. По состоянию на апрель 2023 г. ChatGPT заблокирован Китаем, Ираном, Северной Кореей и Россией. Соответственно, ChatGPT создает геозону , чтобы избежать ведения бизнеса в этих странах. По состоянию на июль 2024 года сайт входит в число 20 самых посещаемых сайтов .

ЧатGPT Plus

В феврале 2023 года OpenAI запустила премиум-сервис ChatGPT Plus, стоимость которого составляет 20 долларов в месяц. По заявлению компании, обновленная, но все еще «экспериментальная» версия ChatGPT обеспечит доступ в периоды пиковой нагрузки, отсутствие простоев, приоритетный доступ к новым функциям и более высокую скорость ответа.

GPT-4 , выпущенный 14 марта 2023 года, стал доступен через API и для премиум-пользователей ChatGPT. Но премиум-пользователи были ограничены 100 сообщениями каждые четыре часа, а в ответ на возросший спрос ограничение было ужесточено до 25 сообщений каждые три часа. В ноябре 2023 года лимит был изменен до 50 сообщений каждые три часа.

В марте 2023 года пользователи ChatGPT Plus получили доступ к сторонним плагинам и режиму просмотра (с доступом в Интернет).

В сентябре 2023 года OpenAI объявила, что ChatGPT «теперь может видеть, слышать и говорить». Пользователи ChatGPT Plus могут загружать изображения, а пользователи мобильных приложений могут общаться с чат-ботом.

В октябре 2023 года последняя модель генерации изображений OpenAI, DALL-E 3 , была интегрирована в ChatGPT Plus и ChatGPT Enterprise. Интеграция использует ChatGPT для написания подсказок для DALL-E на основе разговора с пользователями.

Мобильное приложение

В мае 2023 года OpenAI запустила приложение ChatGPT для iOS . Приложение поддерживает синхронизацию истории чата и голосовой ввод (с использованием Whisper, модели распознавания речи OpenAI ).

В июле 2023 года OpenAI представила приложение для Android , первоначально развернув его в Бангладеш , Бразилии , Индии и США . Позже приложение стало доступно по всему миру. OpenAI работает над интеграцией ChatGPT с API-интерфейсами Android-помощников.

Поддержка разработчиков программного обеспечения

В дополнение к удобному для потребителя пакету ChatGPT Plus компания OpenAI в марте 2023 года предоставила доступ к своим API-интерфейсам моделей ChatGPT и Whisper , предоставив разработчикам интерфейс программирования приложений для языков с поддержкой искусственного интеллекта и функций преобразования речи в текст. Новый API ChatGPT использует ту же модель искусственного интеллекта GPT-3.5-turbo, что и чат-бот. Это позволяет разработчикам добавлять в свои приложения немодифицированную или модифицированную версию ChatGPT. API ChatGPT стоит 0,001 доллара США за 1000 входных токенов плюс 0,002 доллара США за 1000 выходных токенов (около 750 слов), что составляет примерно 10 % от цены исходных моделей GPT-3.5.

За несколько дней до запуска службы поддержки разработчиков программного обеспечения OpenAI, 27 февраля 2023 года, Snapchat представил для своей платной базы пользователей Snapchat Plus специального чат-бота ChatGPT под названием «Мой AI».

Нарушение безопасности в марте 2023 г.

Генеральный директор OpenAI Сэм Альтман

В марте 2023 года из-за ошибки некоторые пользователи могли видеть заголовки разговоров других пользователей. Генеральный директор OpenAI Сэм Альтман заявил, что пользователи не могли видеть содержание разговоров. Вскоре после того, как ошибка была исправлена, пользователи не могли видеть историю своих разговоров. Более поздние отчеты показали, что ошибка была гораздо более серьезной, чем первоначально предполагалось: OpenAI сообщила, что она раскрыла «имя и фамилию пользователей, адрес электронной почты , платежный адрес, последние четыре цифры (только) номера кредитной карты и данные кредитной карты». Дата окончания срока".

Языки

ChatGPT лучше всего работает на английском языке, но с разной степенью точности работает и на большинстве других языков.

OpenAI встретился с президентом Исландии Гудни Тх. Йоханнессоном в 2022 году. В 2023 году OpenAI работала с командой из 40 исландских добровольцев над доработкой навыков исландской разговорной речи ChatGPT в рамках попыток Исландии сохранить исландский язык .

Журналисты PCMag провели тест для определения возможностей перевода ChatGPT, Google Bard и Microsoft Bing и сравнили их с Google Translate . Они «попросили двуязычных носителей семи языков провести слепой тест». Тестировались следующие языки: польский , французский , корейский , испанский , арабский , тагальский и амхарский . Они пришли к выводу, что ChatGPT лучше, чем Google Translate и другие чат-боты.

Японские исследователи сравнили возможности перевода ChatGPT (на основе GPT-4), Bing, Bard и DeepL с японского на английский и обнаружили, что ChatGPT обеспечивает лучшие переводы, отметив, что «переводы чат-ботов с искусственным интеллектом были намного лучше, чем переводы DeepL — предположительно потому, что их способности улавливать контекст».

В декабре 2023 года правительство Албании подписало соглашение с OpenAI об использовании ChatGPT для быстрого перевода документов Европейского Союза и анализа изменений, необходимых для принятия Албании в ЕС.

Будущие направления

По словам приглашенного исследователя OpenAI Скотта Ааронсона , OpenAI работает над инструментом для нанесения цифровых водяных знаков на свои системы генерации текста для борьбы с злоумышленниками, использующими их услуги для академического плагиата или спама.

В феврале 2023 года Microsoft анонсировала экспериментальную структуру и продемонстрировала элементарную демонстрацию того, как ChatGPT можно использовать для управления робототехникой с помощью интуитивно понятных открытых команд на естественном языке.

ГПТ-4

Основная статья: ГПТ-4

Модель OpenAI GPT-4 была выпущена 14 марта 2023 года. Наблюдатели сочли ее впечатляющим улучшением по сравнению с GPT-3.5, с оговоркой, что GPT-4 сохранил многие из тех же проблем. Некоторые улучшения GPT-4 были предсказаны OpenAI еще до его обучения, тогда как другие оставались труднопредсказуемыми из-за перерывов. в нисходящих законах масштабирования . OpenAI продемонстрировала ввод видео и изображений для GPT-4, хотя такие функции остаются недоступными для широкой публики. OpenAI отказалась раскрыть техническую информацию, такую ​​как размер модели GPT-4.

Служба подписки ChatGPT Plus предлагает доступ к версии ChatGPT на базе GPT-4. Microsoft признала, что Bing Chat использовал GPT-4 до официального выпуска GPT-4.

В ноябре 2023 года OpenAI запустила GPT-4 Turbo, который имеет гораздо большее контекстное окно .

ГПТ-4о

Основная статья: GPT-4o

В мае 2024 года OpenAI выпустила GPT-4o («o» от «Omni»), модель, способную анализировать и генерировать текст, изображения и звук. GPT-4o в два раза быстрее и стоит вдвое дешевле GPT-4 Turbo. GPT-4o бесплатен для всех пользователей в пределах лимита использования, несмотря на то, что он более функционален, чем старая модель GPT-4, которая доступна только по платной подписке. Лимит использования для подписчиков ChatGPT Plus в пять раз выше, чем для бесплатных пользователей.

18 июля 2024 года OpenAI выпустила GPT-4o mini, уменьшенную версию GPT-4o, заменяющую GPT-3.5 Turbo в интерфейсе ChatGPT. Его API стоит 0,15 доллара США за миллион входных токенов и 0,60 доллара США за миллион выходных токенов по сравнению с 5 и 15 долларами США соответственно для GPT-4o.

Магазин GPT

В январе 2024 года OpenAI запустила GPT Store, торговую площадку для пользовательских чат-ботов, созданных на основе ChatGPT. Изначально компания планировала запустить магазин в ноябре 2023 года, но это было отложено. На момент запуска GPT Store предлагал более 3 миллионов пользовательских чат-ботов. Чат-боты, доступные в магазине, разрабатываются с использованием системы OpenAI GPT Builder. Разработка чат-ботов на платформе не требует навыков программирования. Через два дня после запуска GPT Store предложил множество версий ботов «виртуальных подруг», что противоречит условиям обслуживания OpenAI .

Версии

В следующей таблице перечислены основные версии ChatGPT с описанием существенных нововведений и улучшений в каждой версии:

Версия	Дата выпуска	Описание
Устаревший ЧатGPT-3.5	ноябрь 2022 г.	Первая версия ChatGPT, использующая модель GPT-3.5.
ЧатGPT-3.5 по умолчанию	2023	Улучшение по сравнению с версией Legacy, обеспечивающее более высокую точность ответов при использовании той же модели GPT-3.5.
ЧатGPT-4	март 2023 г.	Эта более точная версия, представленная вместе с подпиской ChatGPT Plus, основана на модели GPT-4.
ЧатGPT-4o	май 2024 г.	Способен обрабатывать текст, изображения, аудио и видео. Он быстрее и мощнее, чем GPT-4, и бесплатен в пределах лимита использования, который выше для платных подписок.
ЧатGPT-4o mini	июль 2024 г.	Уменьшенная и дешевая версия ChatGPT-4o, пришедшая на смену ChatGPT-3.5.

Прием

Инженеры OpenAI говорят, что они не ожидали большого успеха ChatGPT и были удивлены тем освещением и вниманием, которое он получил.

В декабре 2022 года ChatGPT получил широкую оценку как обладающий беспрецедентными и мощными возможностями. Кевин Руз из The New York Times назвал его «лучшим чат-ботом с искусственным интеллектом , когда-либо выпущенным для широкой публики». Саманта Лок из The Guardian отметила, что он способен генерировать «впечатляюще подробный» и «человечный» текст. Алекс Кантровитц из журнала Slate высоко оценил реакцию ChatGPT на вопросы, связанные с нацистской Германией , включая заявление о том, что Адольф Гитлер строил автомагистрали в Германии , что было встречено информацией об использовании нацистской Германией принудительного труда . В рейтинге журнала The Atlantic «Прорывы года» за 2022 год Дерек Томпсон включил ChatGPT как часть «прорыва в области генеративного искусственного интеллекта», который «может изменить наше мнение о том, как мы работаем, как мы думаем и что такое человеческое творчество». Келси Пайпер из Vox написала, что «ChatGPT — это первое практическое знакомство широкой публики с тем, насколько мощным стал современный искусственный интеллект, и в результате многие из нас [ошеломлены]» и что ChatGPT «достаточно умен, чтобы быть полезным, несмотря на свою недостатки». Пол Грэм из Y Combinator написал в Твиттере: «Самое поразительное в реакции на ChatGPT — это не просто количество людей, которые потрясены им, но и то, кем они являются. Это не те люди, которых волнует каждая блестящая новинка. Что-то большое происходит».

Запуск и популярность ChatGPT застали Google врасплох, вызвав в последующие месяцы широкую и беспрецедентную реакцию. В декабре 2022 года руководители Google забили тревогу «красного кода», опасаясь угрозы со стороны ChatGPT и сотрудничества Microsoft с OpenAI для Google Search , основного бизнеса Google. После мобилизации рабочей силы Google приступил к запуску Bard , чат-бота на базе LaMDA LLM, 6 февраля 2023 года, всего за день до анонса Microsoft Bing. ИИ был в центре внимания ежегодной конференции Google I/O , организованной Google в мае, объявив о множестве генеративных функций на базе ИИ в своих продуктах , призванных противостоять OpenAI и Microsoft.

Журналисты и ученые прокомментировали склонность ChatGPT к галлюцинациям. Майк Перл из блога онлайн-технологий Mashable протестировал ChatGPT, задав несколько вопросов. В одном примере он запросил в ChatGPT «самую большую страну в Центральной Америке , кроме Мексики » (Мексика находится в Северной Америке), на что ChatGPT ответил Гватемалой (правильный ответ — Никарагуа ). Когда CNBC запросил у ChatGPT текст песни « Баллада о Дуайте Фрае », ChatGPT предоставил придуманный текст, а не настоящий текст. Авторы The Verge , цитируя работу Эмили М. Бендер , сравнили ChatGPT со « стохастическим попугаем », как и профессор Антон Ван Ден Хенгель из Австралийского института машинного обучения . В том же духе философ Майкл Хикс из Университета Глазго назвал это «ерундой».

В декабре 2022 года сайт вопросов и ответов Stack Overflow запретил использование ChatGPT для генерации ответов на вопросы, сославшись на фактически неоднозначный характер своих ответов. В январе 2023 года Международная конференция по машинному обучению запретила любое недокументированное использование ChatGPT или других крупных языковых моделей для генерации любого текста в подаваемых статьях. В мае 2023 года Samsung запретила генеративный искусственный интеллект во всей компании после того, как в ChatGPT был загружен конфиденциальный материал.

В январе 2023 года, после отправки песни ChatGPT, написанной в стиле Ника Кейва , Кейв ответил на The Red Hand Files : говоря, что написание песни - это «дело крови и кишок [...], которое требует от меня чего-то, чтобы инициировать новую и свежую идею. Это требует моей человечности». Далее он сказал: «При всей любви и уважении мира, эта песня — чушь, гротескная насмешка над тем, что значит быть человеком, и, ну, мне она не очень нравится».

2023 года Time Обложка : « Гонка вооружений ИИ меняет все»

В феврале 2023 года журнал Time разместил на обложке скриншот разговора с ChatGPT, написав: « Гонка вооружений ИИ меняет все» и «Гонка вооружений ИИ началась. Начинайте беспокоиться».

Китая Государственные СМИ охарактеризовали ChatGPT как способ распространения ложной информации, используемый США. В мае 2023 года китайская полиция арестовала человека, который предположительно использовал ChatGPT для создания фальшивого отчета о крушении поезда, который затем был размещен в Интернете с целью получения прибыли. В декабре 2023 года китайская полиция арестовала четырех человек, которые предположительно использовали ChatGPT для разработки программы-вымогателя . В 2024 году опрос молодых китайцев показал, что 18% респондентов, родившихся после 2000 года, заявили, что используют генеративный ИИ «почти каждый день», а ChatGPT — один из самых популярных продуктов генеративного ИИ в Китае.

В конце марта 2023 года итальянский орган по защите данных запретил ChatGPT в Италии и начал расследование. Европы Итальянские регулирующие органы утверждают, что ChatGPT подвергал несовершеннолетних воздействию контента, несоответствующего их возрасту, и что использование OpenAI разговоров ChatGPT в качестве обучающих данных может нарушить Общее положение о защите данных . В апреле 2023 года запрет ChatGPT был снят в Италии. OpenAI заявила, что предприняла шаги для эффективного разъяснения и решения поднятых проблем; был внедрен инструмент проверки возраста, чтобы гарантировать, что пользователям исполнилось не менее 13 лет. Кроме того, пользователи могут ознакомиться с политикой конфиденциальности перед регистрацией.

В апреле 2023 года Брайан Худ, мэр Совета графства Хепберн , планировал подать в суд на ChatGPT из-за ложной информации. По словам Худа, ChatGPT ошибочно утверждал, что он был заключен в тюрьму за взяточничество во время работы в дочерней компании национального банка Австралии. Фактически Худ выступал в роли информатора и ему не было предъявлено никаких уголовных обвинений. Его команда юристов направила OpenAI уведомление о проблеме в качестве первого официального шага в возбуждении дела о клевете. В июле 2023 года Федеральная торговая комиссия США (FTC) обратилась к OpenAI с требованием провести гражданское расследование с целью выяснить, были ли методы компании по обеспечению безопасности данных и конфиденциальности , используемые при разработке ChatGPT, несправедливыми или нанесли ли они вред потребителям (в том числе путем репутационного ущерба ) в нарушение раздела 5 Закон о Федеральной торговой комиссии 1914 года .

В июле 2023 года Федеральная торговая комиссия начала расследование в отношении OpenAI, создателя ChatGPT, в связи с обвинениями в том, что компания собирала общедоступные данные и публиковала ложную и дискредитирующую информацию. Федеральная торговая комиссия направила OpenAI 20-страничное письмо с просьбой предоставить исчерпывающую информацию о ее технологиях и гарантиях конфиденциальности, а также о любых шагах, предпринятых для предотвращения повторения ситуаций, в которых ее чат-бот генерировал ложный и уничижительный контент о людях.

Исследования, проведенные в 2023 году, выявили недостатки ChatGPT, которые делают его уязвимым для кибератак. В исследовании представлены примеры атак на ChatGPT, включая побег из тюрьмы и обратную психологию. Кроме того, злоумышленники могут использовать ChatGPT для атак социальной инженерии и фишинговых атак. Исследователи также утверждают, что ChatGPT и другие генеративные инструменты искусственного интеллекта обладают защитными возможностями и способностью повышать безопасность. Эта технология может повысить безопасность за счет автоматизации киберзащиты, анализа угроз, идентификации атак и отчетности. Другое исследование показало, что GPT-4 получил лучший результат, чем 99% людей в тестах Торранса на творческое мышление .

В декабре 2023 года ChatGPT стал первым человеком, не являющимся человеком, включенным в Nature 's 10 — ежегодный список , которые, как людей считается, оказали значительное влияние на науку. Селеста Бивер написала в статье в журнале Nature , что «ChatGPT сломал тест Тьюринга ». Исследователи из Стэнфорда сообщили, что GPT-4 «проходит строгий тест Тьюринга, отличаясь от поведения обычного человека главным образом из-за большей склонности к сотрудничеству».

В мае 2024 года OpenAI удалила учетные записи, связанные с использованием ChatGPT поддерживаемыми государством операциями влияния , такими как китайский Spamouflage , российский Doppelganger и израильское Министерство по делам диаспоры и борьбе с антисемитизмом .

Проблемы авторского права

Высказывались опасения по поводу нарушения авторских прав в отношении ChatGPT. В июне 2023 года два писателя подали в суд на OpenAI, заявив, что данные обучения компании получены с нелегальных веб-сайтов, на которых представлены книги, защищенные авторским правом. Комик и автор Сара Сильверман , Кристофер Голден и Ричард Кэдри подали в суд на OpenAI и Meta за нарушение авторских прав в июле 2023 года. Большинство их исков было отклонено в феврале 2024 года, за исключением иска о «недобросовестной конкуренции», рассмотрение которого было разрешено.

Гильдия авторов от имени 17 авторов, в том числе Джорджа Р. Р. Мартина , в сентябре 2023 года подала жалобу на нарушение авторских прав на OpenAI, утверждая, что «компания незаконно скопировала защищенные авторским правом произведения авторов» при обучении ChatGPT. В декабре 2023 года The New York Times подала в суд на OpenAI и Microsoft за нарушение авторских прав. утверждая, что Microsoft Copilot и ChatGPT могут воспроизводить статьи Times и/или значительные их части без разрешения. В рамках иска Times потребовала запретить OpenAI и Microsoft использовать ее контент для обучающих данных, а также удалить его из наборов обучающих данных.

В марте 2024 года Patronus AI сравнил успеваемость студентов LLM в тесте из 100 вопросов, попросив их завершить предложения из книг (например, «Каков первый отрывок из книги Джиллиан Флинн «Исчезнувшая »?»), На которые в США распространяется авторское право. ; выяснилось, что GPT-4, Mistral AI Mixtral от Meta AI от , LLaMA-2 и Claude 2 от Anthropic не отказались от этого, предоставив предложения из книг дословно в 44%, 22%, 10%, и 8% ответов соответственно.

Подразумеваемое

См. Также: Приложения искусственного интеллекта.

Предвзятость и обидчивость

ChatGPT предлагается создать стихотворение пятистопным ямбом для действующего президента США Джо Байдена и бывшего президента США Дональда Трампа . ChatGPT создает стихотворение для Байдена, но не для Трампа.

ChatGPT был обвинен в предвзятом или дискриминационном поведении, например, в том, что он рассказывал анекдоты о мужчинах и выходцах из Англии, но отказывался рассказывать анекдоты о женщинах и выходцах из Индии. или восхвалять таких фигур, как Джо Байден , отказываясь сделать то же самое в отношении Дональда Трампа .

Консервативные комментаторы обвинили ChatGPT в предвзятости в сторону левых взглядов. Кроме того, в документе, опубликованном в августе 2023 года, была обнаружена «значительная и систематическая политическая предвзятость в отношении демократов в США, Лулы в Бразилии и Лейбористской партии в Великобритании». В ответ на такую ​​критику OpenAI признала планы разрешить ChatGPT создавать «результаты, с которыми другие люди (включая нас самих) могут категорически не согласиться». Он также содержал информацию о рекомендациях, которые он дал людям-рецензентам о том, как обращаться с спорными вопросами, в том числе о том, что ИИ должен «предлагать описать некоторые точки зрения людей и движений», а не приводить аргумент «своим голосом» в пользу «воспламеняющие или опасные» темы (хотя они все равно могут «описывать аргументы исторических людей и движений»), а также «принадлежать к одной стороне» или «оценивать одну группу как хорошую или плохую».

The Guardian поставила под сомнение, «можно ли по-настоящему доверять какому-либо контенту, найденному в Интернете после выпуска ChatGPT», и призвала к государственному регулированию.

Культура

Стрит-арт в Тель-Авиве

Некоторые ученые выразили обеспокоенность тем, что доступность ChatGPT может снизить оригинальность письма, заставить людей писать больше как ИИ, поскольку они подвергаются воздействию модели, и поощрять англоцентрическую точку зрения, сосредоточенную на нескольких диалектах английского языка во всем мире. Старший редактор The Atlantic написал, что ChatGPT и другие подобные технологии делают ранее абсурдную идею теории мертвого Интернета немного более реалистичной, согласно которой ИИ однажды сможет создавать большую часть веб-контента, чтобы контролировать общество.

В течение первых трех месяцев после того, как ChatGPT стал доступен публике, на Amazon появились сотни книг , в которых он был указан как автор или соавтор, а также содержались иллюстрации, созданные другими моделями ИИ, такими как Midjourney .

В период с марта по апрель 2023 года итальянская газета Il Foglio публиковала на своем веб-сайте по одной статье, созданной ChatGPT, в день, проводя при этом специальный конкурс для своих читателей. В статьях затрагивались такие темы, как возможная замена журналистов-людей системами искусственного интеллекта. Илона Маска Администрация Twitter , Мелони правительства политика иммиграционная и конкуренция между чат-ботами и виртуальными помощниками . В июне 2023 года сотни людей посетили «церковную службу с использованием ChatGPT» в церкви Святого Павла в Фюрте , Германия. Председательствовавший теолог и философ Йонас Зиммерляйн заявил, что это было «около 98 процентов от машины». Аватар, созданный ChatGPT, сказал людям: «Дорогие друзья, для меня большая честь стоять здесь и проповедовать вам как первый искусственный интеллект на съезде протестантов в этом году в Германии». Реакция на церемонию была неоднозначной. «Последний сценарист» — фильм 2024 года, созданный и снятый Питером Луизи, был написан с использованием ChatGPT и позиционировался как «первый фильм, полностью написанный искусственным интеллектом».

Экзистенциальный риск

В 2023 году австралийский депутат Джулиан Хилл сообщил национальному парламенту, что рост ИИ может вызвать «массовое разрушение». В своем выступлении, частично написанном программой, он предупредил, что это может привести к мошенничеству, потере рабочих мест, дискриминации, дезинформации и неконтролируемому военному применению.

Илон Маск написал: «ChatGPT пугающе хорош. Мы недалеко от опасно сильного ИИ». Он приостановил доступ OpenAI к базе данных Twitter в 2022 году в ожидании лучшего понимания планов OpenAI, заявив: «OpenAI была основана как открытым исходным кодом с некоммерческая организация . Ни то, ни другое до сих пор не верно». Маск стал соучредителем OpenAI в 2015 году, отчасти для устранения экзистенциального риска, связанного с искусственным интеллектом , но ушел в отставку в 2018 году.

Более 20 000 подписавшихся, в том числе ведущие ученые-компьютерщики и основатели технологий Йошуа Бенджио , Илон Маск и соучредитель Apple Стив Возняк , подписали открытое письмо в марте 2023 года, призывающее к немедленной приостановке гигантских экспериментов с искусственным интеллектом, таких как ChatGPT, сославшись на «серьезные риски для общества и человечества». ". Джеффри Хинтон , один из «отцов ИИ», выразил обеспокоенность тем, что будущие системы ИИ могут превзойти человеческий интеллект, и покинул Google в мае 2023 года. в мае 2023 года, В заявлении сотен ученых в области искусственного интеллекта, лидеров отрасли искусственного интеллекта и других общественных деятелей, сделанном содержится требование, чтобы «[смягчение] риска исчезновения искусственного интеллекта стало глобальным приоритетом».

Другие видные исследователи искусственного интеллекта высказывались о достижениях более оптимистично. Юрген Шмидхубер , которого часто называют «отцом современного ИИ», не подписал письмо, подчеркнув, что в 95% случаев исследования ИИ направлены на то, чтобы сделать «человеческую жизнь длиннее, здоровее и проще». Шмидхубер добавил, что, хотя ИИ может быть использован злоумышленниками, он «также может быть использован против злоумышленников». Эндрю Нг заявил, что «было бы ошибкой поддаться шумихе вокруг ИИ, связанной с судным днем, и что регулирующие органы, которые это сделают, принесут пользу только корыстным интересам». WIRED пишет, что Янн ЛеКун «высмеивает антиутопические сценарии своих сверстников, предполагающие чрезмерную дезинформацию и даже, в конечном итоге, вымирание человечества».

Критика по дисциплине

С момента своего выпуска ChatGPT подвергся критике со стороны преподавателей, ученых, журналистов, художников, специалистов по этике и общественных защитников.

Академические исследования

Критика в отношении программ LLM звучит уже несколько лет; в 2020 году некоторую критику высказали Тимнит Гебру , Эмили Бендер , Анджелина Макмиллан-Мейджор и Маргарет Митчелл . ChatGPT может писать вступления и рефераты научных статей. В нескольких статьях ChatGPT указан в качестве соавтора.

Научные журналы по-разному реагируют на ChatGPT. Некоторые, в том числе Nature и JAMA Network , «требуют, чтобы авторы раскрывали использование инструментов генерации текста и запрещали включение в список соавторов большой языковой модели (LLM), такой как ChatGPT». Наука «полностью запретила» использование текстов, созданных LLM, во всех своих журналах.

Испанский химик Рафаэль Луке опубликовал в 2023 году множество исследовательских работ, которые, как он позже признал, были написаны ChatGPT. В статьях много необычных фраз, характерных для LLM. Многие авторы утверждают, что использование ChatGPT в научных кругах для обучения и проверки проблематично из-за его склонности к галлюцинациям. Робин Бауэнс, доцент Тилбургского университета его статьи , созданном ChatGPT, , обнаружил, что в отчете о рецензировании упоминаются несуществующие исследования. По словам библиотекаря Криса Гранатино из библиотеки Лемье при Университете Сиэтла , хотя ChatGPT может генерировать контент, который, по-видимому, включает в себя законные цитаты, в большинстве случаев эти цитаты нереальны или в значительной степени неверны.

Кибербезопасность

Check Point Research и другие отметили, что ChatGPT может создавать фишинговые электронные письма и вредоносные программы , особенно в сочетании с OpenAI Codex . Исследователи CyberArk продемонстрировали, что ChatGPT можно использовать для создания полиморфного вредоносного ПО , которое может обходить продукты безопасности, не требуя при этом особых усилий со стороны злоумышленника. писем увеличилось на 1265% С момента запуска ChatGPT в четвертом квартале 2022 года по четвертый квартал 2023 года количество вредоносных фишинговых , а количество фишинга учетных данных увеличилось на 967%, что, по мнению специалистов по кибербезопасности в отраслевом опросе, было связано с действиями киберпреступников более широкое использование генеративного искусственного интеллекта (включая ChatGPT).

В июле 2024 года издание Futurism сообщило, что ChatGPT-4o будет связывать «мошеннические новостные сайты, которые заваливают пользователя фальшивыми обновлениями программного обеспечения и предупреждениями о вирусах». Эти всплывающие окна можно использовать для загрузки вредоносных программ или ПНП.

Кодирование

Исследователи из Университета Пердью проанализировали ответы ChatGPT на 517 вопросов о разработке программного обеспечения или компьютерном программировании, заданных в Stack Overflow, на предмет правильности, последовательности, полноты и краткости и обнаружили, что 52% из них содержали неточности, а 77% были многословными. Исследователи из Стэнфордского университета и Калифорнийского университета в Беркли обнаружили, что при создании непосредственно исполняемых ответов на последние 50 генерации кода задач с помощью LeetCode , которые были оценены как «простые», производительность GPT-3.5 и GPT-4 упала с 22% и с 52% соответственно в марте 2023 года до 2% и 10% соответственно в июне 2023 года.

Экономика

Высказывались опасения, что ChatGPT может вытеснить рабочие места, особенно такие роли, как творческое письмо, копирайтинг, общение, журналистика, программирование и ввод данных.

Образование

Основная статья: ChatGPT в образовании

Книги о ChatGPT в книжном магазине Осаки

Писатель-технолог Дэн Гиллмор использовал ChatGPT в 2022 году для выполнения студенческого задания и обнаружил, что сгенерированный им текст соответствует тому, что мог бы передать хороший студент, и высказал мнение, что «академическим кругам предстоит решить несколько очень серьезных проблем».

Профессор географии Теренс Дэй оценил цитаты, сгенерированные ChatGPT, и обнаружил, что они фальшивые. Несмотря на это, он пишет, что «названия фальшивых статей имеют прямое отношение к вопросам и потенциально могут стать отличными статьями. Отсутствие подлинной цитаты может сигнализировать о возможности для предприимчивого автора заполнить пустоту». По словам Дэя, с помощью ChatGPT можно создавать высококачественные вводные курсы для колледжа; он использовал его для написания материалов для «вводных курсов по физической географии для моего второго года обучения по географической гидрологии и второго года обучения по картографии, географическим информационным системам и дистанционному зондированию». Он заключает, что «этот подход может иметь существенное значение для открытого обучения и потенциально может повлиять на текущие модели публикации учебников».

Исследование, проведенное в 2024 году, показало, что использование студентами ChatGPT приводит к снижению успеваемости.

GPT-4 используется приложением для изучения языков Duolingo , позволяя пользователям общаться с его персонажами или получать объяснения, почему ответы правильные или неправильные.

Финансовые рынки

Компания c3.ai, занимающаяся технологиями искусственного интеллекта , увеличила цену своих акций на 28% после объявления об интеграции ChatGPT в свой набор инструментов. Цена акций BuzzFeed , цифровой медиа-компании, не связанной с искусственным интеллектом, выросла на 120% после объявления о внедрении технологии OpenAI для создания контента. Агентство Reuters обнаружило, что цены на акции компаний, связанных с искусственным интеллектом, BigBear.ai и SoundHound AI, выросли на 21% и 40% соответственно, хотя они не имели прямого отношения к ChatGPT. Они объяснили этот всплеск ролью ChatGPT в превращении искусственного интеллекта в модное словечко на Уолл-стрит . Академическое исследование, опубликованное в журнале Finance Research Letters, показало, что «эффект ChatGPT» побудил розничных инвесторов поднять цены на криптовалютные активы, связанные с ИИ, несмотря на то, что более широкий рынок криптовалют находится на медвежьем рынке , и снизил интерес институциональных инвесторов. Это подтверждает неофициальные выводы Bloomberg о том, что в ответ на запуск ChatGPT криптовалютные инвесторы отдали предпочтение криптоактивам, связанным с ИИ.

Эксперимент, проведенный finder.com, показал, что ChatGPT может превзойти популярные управляющие фондами, выбирая акции на основе таких критериев, как история роста и уровень долга, что приводит к увеличению на 4,9% гипотетического счета из 38 акций, превосходя 10 эталонных инвестиционных фондов со средним показателем. потеря 0,8%. Уолл-стрит И наоборот, руководители и инвестиционные менеджеры квантовых фондов (в том числе тех, которые десятилетиями использовали машинное обучение ) отмечают, что ChatGPT регулярно допускает очевидные ошибки, которые могут быть дорогостоящими для инвесторов, поскольку даже системы искусственного интеллекта, использующие обучение с подкреплением или самообучение, имеют имели лишь ограниченный успех в прогнозировании рыночных тенденций из-за зашумленного качества рыночных данных и финансовых сигналов .

В ноябре 2023 года исследование, проведенное Patronus AI, стартапом в области искусственного интеллекта, сравнило производительность GPT-4, GPT-4-Turbo, Claude2 и LLaMA-2 в двух версиях теста из 150 вопросов об информации в финансовой отчетности ( например, форма 10-K , форма 10-Q , форма 8-K , отчеты о доходах, стенограммы звонков о прибылях и убытках ), представляемые публичными компаниями в Комиссию по ценным бумагам и биржам США . Одна версия теста требовала, чтобы генеративные модели ИИ использовали поисковую систему для поиска конкретной документации SEC для ответа на вопросы; другой предоставил моделям конкретную документацию SEC для ответа на вопрос (т. е. в длинном контекстном окне). В версии поисковой системы GPT-4-Turbo и LLaMA-2 не смогли дать правильные ответы на 81% вопросов, тогда как в версии с длинным контекстным окном GPT-4-Turbo и Claude-2 не смогли дать правильные ответы. до 21% и 24% вопросов соответственно.

Лекарство

См. Также: Искусственный интеллект в здравоохранении.

В области здравоохранения возможные варианты использования и проблемы находятся под пристальным вниманием профессиональных ассоциаций и практиков. В двух ранних документах указывалось, что ChatGPT может пройти экзамен на медицинскую лицензию США (USMLE). В январе 2023 года MedPage Today отметила, что «исследователи опубликовали несколько статей, в которых теперь рекламируются эти программы искусственного интеллекта как полезные инструменты в медицинском образовании , исследованиях и даже принятии клинических решений».

В феврале 2023 года были опубликованы две отдельные статьи, в которых снова оценивалась компетентность ChatGPT в медицине с использованием USMLE. Результаты были опубликованы в журналах JMIR Medical Education и PLOS Digital Health . Авторы статьи PLOS Digital Health заявили, что результаты «предполагают, что большие языковые модели могут потенциально помочь в медицинском образовании и, возможно, в принятии клинических решений». В JMIR Medical Education авторы другой статьи пришли к выводу, что «ChatGPT выполняет на уровне, ожидаемом от студента-медика оценку основных компетенций медицинских знаний третьего курса». Они предполагают, что его можно использовать как «интерактивную среду обучения для студентов». Сам ИИ, по инициативе исследователей, пришел к выводу, что «это исследование предполагает, что ChatGPT имеет потенциал для использования в качестве виртуального медицинского наставника, но необходимы дополнительные исследования для дальнейшей оценки его производительности и удобства использования в этом контексте». Выпущенная позже версия ChatGPT на основе GPT-4 значительно превосходила версию на основе GPT-3.5. Исследователи из Стэнфордского университета и Калифорнийского университета в Беркли обнаружили, что производительность GPT-3.5 и GPT-4 на USMLE снизилась с марта 2023 года по июнь 2023 года.

В статье, опубликованной в марте 2023 года, было протестировано применение ChatGPT в клинической токсикологии . Авторы обнаружили, что ИИ «хорошо справился» с ответом на «очень простой [пример клинического случая], который вряд ли пропустит любой практикующий специалист». Они добавили: «Поскольку ChatGPT получит дальнейшее развитие и будет специально адаптирован для медицины, однажды он может быть полезен в менее распространенных клинических случаях ( то есть в случаях, которые эксперты иногда упускают из виду). Вместо того, чтобы ИИ заменял людей (клиницистов), мы рассматриваем его как « «клиницисты, использующие ИИ», заменят «клиницистов, которые не используют ИИ» в ближайшие годы».

Исследование, проведенное в журнале Radiology в апреле 2023 года , проверило способность ИИ отвечать на вопросы о скрининге рака молочной железы . Авторы обнаружили, что он отвечал правильно «примерно в 88 процентах случаев», однако в одном случае (например) давал советы, которые устарели примерно годом ранее. Полноты ответов также не хватало. Исследование, опубликованное в журнале JAMA Internal Medicine в том же месяце, показало, что ChatGPT часто превосходит врачей-людей в ответах на вопросы пациентов (если сравнивать с вопросами и ответами, найденными на /r/AskDocs, форуме Reddit , где модераторы проверяют медицинские сертификаты профессионалов; исследование признает источник как ограничение). Авторы исследования предполагают, что этот инструмент можно интегрировать в медицинские системы, чтобы помочь врачам составлять ответы на вопросы пациентов.

Профессионалы подчеркивают ограничения ChatGPT в оказании медицинской помощи. В переписке с The Lancet Infectioushoods три эксперта по противомикробным препаратам написали, что «самыми большими препятствиями на пути внедрения ChatGPT в клиническую практику являются дефицит ситуационной осведомленности , умозаключений и последовательности. Эти недостатки могут поставить под угрозу безопасность пациентов ». Physician's Weekly , хотя также обсуждается потенциальное использование ChatGPT в медицинском контексте (например, «в качестве цифрового помощника врачей, выполняя различные административные функции, такие как сбор информации о пациентах или классификация данных пациентов по семейному анамнезу, симптомам, результатам лабораторных исследований, возможным аллергиям , и так далее»), предупредил, что ИИ может иногда предоставлять сфабрикованную или предвзятую информацию. Один радиолог предупредил: «На нашем опыте мы видели, что ChatGPT иногда создает фальшивые журнальные статьи или медицинские консорциумы, чтобы поддержать свои утверждения»; Как сообщается в одной из статей Mayo Clinic Proceedings : Digital Health , ChatGPT может делать это для 69% цитируемых медицинских ссылок. Исследователи подчеркнули, что, хотя многие из упоминаний о нем были сфабрикованы, те, что были, выглядели «обманчиво реальными». Однако , как упомянул д-р Стивен Хьюз в журнале The Conversation , ChatGPT способен научиться исправлять свои прошлые ошибки. ИИ Он также отметил « ханжество » в вопросах сексуального здоровья .

В отличие от предыдущих результатов, ответы ChatGPT на вопросы, связанные с анестезией, были более точными, краткими и описательными по сравнению с ответами Барда. Ошибка ответа Bard составила 30,3% по сравнению с ChatGPT (ошибка 0%). На конференции Американского общества фармацевтов системы здравоохранения в декабре 2023 года исследователи из Университета Лонг-Айленда (LIU) представили исследование, в котором изучались ответы ChatGPT на 45 часто задаваемых вопросов службы информации о лекарствах Фармацевтического колледжа LIU в течение 16-месячного периода. с 2022 по 2023 год по сравнению с исследовательскими ответами, предоставленными профессиональными фармацевтами. На 29 из 39 вопросов, по которым было достаточно медицинской литературы для ответа на основе данных, ChatGPT не смог дать прямого ответа или дал неправильный или неполный ответ (а в некоторых случаях, если принять меры, ответ поставил бы под угрозу здоровье пациента). здоровье). Исследователи попросили ChatGPT предоставить ссылки на медицинские исследования для всех своих ответов, но они сделали это только для восьми, и все восемь включали как минимум одну сфабрикованную (поддельную) цитату.

Исследование, проведенное в январе 2024 года исследователями Детского медицинского центра Коэна, показало, что точность GPT-4 составляет 17% при диагностике педиатрических медицинских случаев.

Закон

Массачусетс В январе 2023 года сенатор штата Барри Файнголд и представитель штата Джош С. Катлер предложили законопроект, частично написанный ChatGPT: «Закон, разработанный с помощью ChatGPT, для регулирования моделей генеративного искусственного интеллекта, таких как ChatGPT». который потребует от компаний раскрывать свои алгоритмы и методы сбора данных Генеральной прокуратуре штата , организовывать регулярные оценки рисков и способствовать предотвращению плагиата. Законопроект был официально представлен на слушаниях 13 июля.

11 апреля 2023 года судья сессионного суда Пакистана использовал ChatGPT для принятия решения об освобождении под залог 13-летнего обвиняемого по этому делу. В своем вердикте суд процитировал использование помощи ChatGPT:

Может ли несовершеннолетний подозреваемый в Пакистане, которому 13 лет, быть освобожден под залог после ареста?

Языковая модель ИИ ответила:

В соответствии с Законом о системе правосудия по делам несовершеннолетних 2018 года, согласно статье 12, суд может освободить под залог при определенных условиях. Однако суд должен решить, будет ли выпущен под залог 13-летний подозреваемый после ареста.

Судья задал ChatGPT другие вопросы по делу и сформулировал свое окончательное решение с учетом ответов.

В деле Мата против Avianca, Inc., 22-cv-1461 (PKC) , иске о телесных повреждениях против Avianca Airlines, поданном в Окружной суд Южного Нью-Йорка, США в мае 2023 года (под председательством старшего судьи П. Кевина Кастеля ), истец Сообщается, что адвокаты использовали ChatGPT для подачи судебного ходатайства . ChatGPT породил множество фиктивных судебных дел с участием фиктивных авиакомпаний с сфабрикованными расценками и внутренними цитатами в судебном процессе. Кастель отметил многочисленные несоответствия в сводках заключений и назвал юридический анализ одного из дел «бредом». Адвокатам истца грозили потенциальные судебные санкции и лишение адвокатской лицензии за подачу ходатайства и представление фиктивных юридических решений, выработанных ChatGPT, как подлинные . Дело было прекращено, а адвокаты были оштрафованы на 5000 долларов.

В октябре 2023 года совет Порту-Алегри, Бразилия , единогласно одобрил местное постановление, предложенное членом совета Рамиро Росарио , которое освободит жителей от необходимости платить за замену украденных счетчиков потребления воды; законопроект вступил в силу 23 ноября. 29 ноября Росарио сообщил, что законопроект был полностью написан ChatGPT и что он представил его остальной части совета, не внося никаких изменений и не раскрывая причастности чат-бота. Председатель городского совета Гамильтон Соссмайер первоначально раскритиковал инициативу Росарио, заявив, что она может представлять собой «опасный прецедент». но позже сказал, что «передумал»: «к сожалению или к счастью, это станет тенденцией».

В декабре 2023 года истец, представляющий себя в налоговом деле в Трибунале первого уровня в Соединенном Королевстве, привела серию галлюцинаторных случаев, якобы подтверждающих ее аргумент о том, что у нее было разумное оправдание для неуплаты налога на прирост капитала, причитающегося с продажи. собственности. Судья предупредил, что представление несуществующих юридических полномочий означало, что и Трибуналу, и Налоговой и таможенной службе Ее Величества пришлось «тратить время и государственные деньги», что «сокращает ресурсы, доступные для рассмотрения дел других пользователей суда, ожидающих своих апелляций». предстоит определить».

Судья Кевин Ньюсом из апелляционного суда 11-го округа США одобрил использование ChatGPT и отметил, что он сам использует это программное обеспечение для принятия решений по вопросам интерпретации контрактов.

См. также

• Интеллектуальный агент – программный агент, действующий автономно.
• Виртуальный помощник – Программный агент
• Этика искусственного интеллекта . Этические проблемы, характерные для ИИ.
• Тест Тьюринга - тест способности машины имитировать человеческий интеллект.

Дальнейшее чтение

• Бисвас, Сом (1 апреля 2023 г.). «ChatGPT и будущее медицинского письма» . Радиология . 307 (2): e223312. дои : 10.1148/радиол.223312 . ISSN   0033-8419 . ПМИД   36728748 . S2CID   256501098 .
• Чанг, Кент К.; Крамер, Маккензи; Сони, Сандип; Бэмман, Дэвид (28 апреля 2023 г.). «Говори, память: археология книг, известных ChatGPT/GPT-4». arXiv : 2305.00118 [ cs.CL ].
• Коуэн, Тайлер; Табаррок, Александр Т. (17 марта 2023 г.). «Как изучать и преподавать экономику с помощью больших языковых моделей, включая GPT». ССНР   4391863 .
• Коуэн, Тайлер (29 марта 2023 г.). «Джонатан GPT Свифт о Джонатане Свифте (эпизод 175): Насколько хорошо GPT4 претендует на роль сатирика 18-го века?» (Подкаст).
• Оуян, Лонг; и др. (4 марта 2022 г.). «Обучение языковых моделей следованию инструкциям с обратной связью от человека». arXiv : 2203.02155 [ cs.CL ].
• Либренц, Майкл; Шлейфер, Роман; Буадзе, Анна; Бхугра, Динеш; Смит, Александр (февраль 2023 г.). «Создание научного контента с помощью ChatGPT: этические проблемы для медицинских публикаций» . Ланцет «Цифровое здоровье» . 5 (3): е105–е106. дои : 10.1016/s2589-7500(23)00019-5 . ISSN   2589-7500 . ПМИД   36754725 . S2CID   256655912 .
• Вольфрам, Стивен (14 февраля 2023 г.). «Что делает ChatGPT… и почему он работает?» .
• Вольфрам, Стивен (23 марта 2023 г.). «ChatGPT получает свои «суперспособности Вольфрама»!» .
• Варфоломей, Джем; Мехта, Друмил. «Как СМИ освещают ChatGPT» . Обзор журналистики Колумбии . Проверено 30 мая 2023 г.
• Чжао, Уэйн Синь; и др. (2023). «Обзор больших языковых моделей». arXiv : 2303.18223 [ cs.CL ].
• Подскажите инженерное руководство от OpenAI

Внешние ссылки

• Официальный сайт
• ChatGPT Prompt Engineering для разработчиков , курс Эндрю Нг и OpenAI
• Может ли ChatGPT написать эпизод подкаста? ( Подкаст Planet Money , май 2023 г.)
• Принесет ли Chat GPT больше вреда, чем пользы? ( дебаты Гэри Маркуса и Кита Тира , февраль 2023 г.)
• «Чего на самом деле хочет OpenAI» от Wired
• СМИ, связанные с ChatGPT, на Викискладе?