ГПТ-4

Из Википедии, бесплатной энциклопедии

Генеративный предварительно обученный трансформатор 4 (GPT-4)
Разработчики) ОпенАИ
Начальная версия 14 марта 2023 г .; 14 месяцев назад ( 14.03.2023 )
Предшественник ГПТ-3,5
Преемник ГПТ-4о
Тип
Лицензия Собственный
Веб-сайт опенай /gpt-4  Edit this on Wikidata

Generative Pre-trained Transformer 4 ( GPT-4 ) — мультимодальная модель большого языка, созданная OpenAI , и четвертая в ее серии базовых моделей GPT . [1] Он был запущен 14 марта 2023 года. [1] и стал общедоступным через платный чат-бота продукт ChatGPT Plus OpenAI , через API и через бесплатный чат-бот Microsoft Copilot . [2] В качестве модели, основанной на преобразователе используется предварительное обучение с использованием как общедоступных данных, так и «данных, лицензированных у сторонних поставщиков» , GPT-4 использует парадигму, в которой для прогнозирования следующего токена . После этого шага модель была доработана с помощью с подкреплением обучения обратной связи от людей и искусственного интеллекта для обеспечения согласованности действий людей и соблюдения политик. [3] : 2 

Наблюдатели сообщили, что версия ChatGPT с использованием GPT-4 является улучшением предыдущей версии, основанной на GPT-3.5, с оговоркой, что GPT-4 сохраняет некоторые проблемы более ранних версий. [4] ГПТ-4, оснащенный возможностями видения (ГПТ-4В), [5] способен принимать изображения в качестве входных данных в ChatGPT. [6] OpenAI отказалась раскрыть различные технические подробности и статистику о GPT-4, например точный размер модели. [7]

Предыстория [ править ]

OpenAI представила первую модель GPT (GPT-1) в 2018 году, опубликовав статью под названием «Улучшение понимания языка посредством генеративного предварительного обучения». [8] Он был основан на архитектуре-трансформере и обучен на большом корпусе книг. [9] В следующем году они представили GPT-2 , более крупную модель, способную генерировать связный текст. [10] В 2020 году они представили GPT-3 , модель с в 100 раз большим количеством параметров, чем GPT-2, которая может выполнять различные задачи на небольшом количестве примеров. [11] GPT-3 был усовершенствован до GPT-3.5 , который использовался для создания продукта чат-бота ChatGPT .

Слухи утверждают, что GPT-4 имеет 1,76 триллиона параметров, что впервые было оценено по скорости его работы и Джорджем Хотцем . [12]

Возможности [ править ]

OpenAI заявила, что GPT-4 «более надежен, креативен и способен обрабатывать гораздо более тонкие инструкции, чем GPT-3.5». [13] Они выпустили две версии GPT-4 с контекстными окнами на 8192 и 32768 токенов, что является значительным улучшением по сравнению с GPT-3.5 и GPT-3, которые были ограничены 4096 и 2049 токенами соответственно. [14] Некоторые возможности GPT-4 были предсказаны OpenAI до его обучения, хотя другие возможности оставалось трудно предсказать из-за перерывов. [15] в нисходящих законах масштабирования. В отличие от своих предшественников, GPT-4 является мультимодальной моделью: в качестве входных данных она может принимать как изображения, так и текст; [16] это дает ему возможность описывать юмор необычными изображениями, обобщать текст со скриншотов и отвечать на экзаменационные вопросы, содержащие диаграммы. [17] Теперь он может взаимодействовать с пользователями посредством устной речи и реагировать на изображения, что обеспечивает более естественный диалог и возможность давать предложения или ответы на основе загруженных фотографий. [18]

Чтобы получить дополнительный контроль над GPT-4, OpenAI представила «системное сообщение» — директиву на естественном языке , данную GPT-4 для указания тона его голоса и задачи. Например, системное сообщение может предписать модели «быть шекспировским пиратом», и в этом случае она ответит рифмованной шекспировской прозой или попросить ее «всегда записывать выходные данные [своего] ответа в формате JSON », где В этом случае модель сделает это, добавив ключи и значения по своему усмотрению, чтобы они соответствовали структуре ее ответа. В примерах, предоставленных OpenAI, GPT-4 отказывался отклоняться от своего системного сообщения, несмотря на просьбы пользователя поступить иначе во время разговора. [17]

Получив соответствующую команду, GPT-4 может взаимодействовать с внешними интерфейсами. [19] Например, модели можно поручить заключить запрос внутри <search></search>теги для выполнения веб-поиска, результат которого будет вставлен в приглашение модели, чтобы она могла сформировать ответ. Это позволяет модели выполнять задачи, выходящие за рамки ее обычных возможностей прогнозирования текста, такие как использование API , генерация изображений, а также доступ к веб-страницам и их обобщение. [20]

В статье в журнале Nature , опубликованной в 2023 году , говорится, что программисты нашли GPT-4 полезным для помощи в задачах кодирования (несмотря на его склонность к ошибкам), таких как поиск ошибок в существующем коде и предложение оптимизаций для повышения производительности. В статье цитировались слова биофизика, который обнаружил, что время, необходимое ему для переноса одной из своих программ с MATLAB на Python, сократилось с нескольких дней до «часа или около того». При тестировании 89 сценариев безопасности GPT-4 создавал код, уязвимый для атак с помощью SQL-инъекций в 5% случаев, что является улучшением по сравнению с GitHub Copilot с 2021 года, который создавал уязвимости в 40% случаев. [21]

В ноябре 2023 года OpenAI анонсировала модели GPT-4 Turbo и GPT-4 Turbo с Vision, которые имеют контекстное окно 128 КБ и значительно дешевле. [22] [23]

GPT-4o [ править ]

13 мая 2024 года OpenAI представила GPT-4o («o» от «omni»), модель, которая знаменует собой значительный прогресс в области обработки и генерации выходных данных в различных модальностях текста, аудио и изображений в реальном времени. GPT-4o демонстрирует быстрое время отклика, сравнимое с реакцией человека в разговоре, существенно улучшает производительность на языках, отличных от английского, и улучшает понимание изображения и звука. [24]

GPT-4o объединяет различные входы и выходы в рамках единой модели, что делает его быстрее, экономичнее и эффективнее, чем его предшественники. GPT-4o достигает самых современных результатов в тестах на многоязычность и зрение, устанавливая новые рекорды в распознавании и переводе аудио речи. [ нужна цитата ] [25]

OpenAI планирует немедленно внедрить возможности изображения и текста GPT-4o в ChatGPT, включая его бесплатный уровень, а голосовой режим станет доступен для пользователей ChatGPT Plus в ближайшие недели. В ближайшие недели они планируют сделать аудио- и видеовозможности модели доступными для ограниченных партнеров API. [25]

В своем объявлении о запуске OpenAI отметила, что возможности GPT-4o создают новые проблемы безопасности, и, как следствие, отметила их смягчение и ограничения. [25]

стандартизированным тестам Способность к

GPT-4 демонстрирует способности к нескольким стандартизированным тестам. OpenAI утверждает, что в собственном тестировании модель получила балл 1410 по SAT (94-е место). [26] процентиль), 163 на LSAT (88-й процентиль) и 298 на универсальном экзамене на адвоката (90-й процентиль). [27] Напротив, OpenAI утверждает, что GPT-3.5 получил баллы за те же экзамены в 82-м, [26] 40-й и 10-й процентили соответственно. [3] GPT-4 также сдал экзамен по онкологии, [28] инженерный экзамен [29] и экзамен по пластической хирургии. [30] В тестах творческого мышления Торранса GPT-4 попал в 1% лучших по оригинальности и беглости речи, а его оценки по гибкости варьировались от 93-го до 99-го процентиля. [31]

Медицинские применения

Исследователи из Microsoft протестировали GPT-4 на медицинских проблемах и обнаружили, «что GPT-4 без какой-либо специальной оперативной обработки превышает проходной балл USMLE более чем на 20 баллов и превосходит более ранние модели общего назначения (GPT-3.5), а также модели специально настроенный на медицинские знания ( Med-PaLM , версия Flan-PaLM 540B с быстрой настройкой). Несмотря на высокие результаты GPT-4 в тестах, в отчете предупреждаются о «значительных рисках» использования LLM в медицинских целях. может давать неточные рекомендации и галлюцинировать серьезные фактические ошибки. [32] [33] Исследователи из Колумбийского университета и Университета Дьюка также продемонстрировали, что GPT-4 можно использовать для аннотации типов клеток, что является стандартной задачей при анализе данных секвенирования одноклеточной РНК. [34]

В апреле 2023 года Microsoft и Epic Systems объявили, что предоставят медицинским работникам системы на базе GPT-4, которые помогут отвечать на вопросы пациентов и анализировать медицинские записи. [35] [36] [37] [38] [39] [40] [41]

Ограничения [ править ]

Как и его предшественники, GPT-4, как известно, вызывает галлюцинации , а это означает, что выходные данные могут включать информацию, отсутствующую в обучающих данных, или противоречащую подсказкам пользователя. [42]

GPT-4 также не хватает прозрачности в процессах принятия решений. Если потребуется, модель способна предоставить объяснение того, как и почему она принимает решения, но эти объяснения формируются постфактум; невозможно проверить, действительно ли эти объяснения отражают реальный процесс. Во многих случаях, когда их просят объяснить свою логику, GPT-4 дает объяснения, которые прямо противоречат ее предыдущим утверждениям. [20]

В 2023 году исследователи протестировали GPT-4 по новому тесту ConceptARC, предназначенному для измерения абстрактного мышления, и обнаружили, что он набрал ниже 33% по всем категориям, в то время как модели, специализирующиеся на аналогичных задачах, набрали 60% по большинству, а люди набрали не менее 91 балла. % на все. Сэм Боуман, не принимавший участия в исследовании, сказал, что результаты не обязательно указывают на отсутствие способностей к абстрактному мышлению, поскольку тест является визуальным, а GPT-4 — это языковая модель. [43]

Исследование, проведенное в январе 2024 года исследователями Детского медицинского центра Коэна, показало, что GPT-4 имеет точность 17% при диагностике педиатрических медицинских случаев. [44] [45]

Предвзятость [ править ]

Обучение GPT-4 проходило в два этапа. Во-первых, модели были предоставлены большие наборы текстовых данных, взятые из Интернета, и она обучена предсказывать следующий токен (примерно соответствующий слову) в этих наборах данных. Во-вторых, человеческие проверки используются для точной настройки системы в процессе, называемом обучением с подкреплением на основе отзывов людей . Этот процесс учит модель отказываться от подсказок, противоречащих определению вредного поведения OpenAI, таких как вопросы о том, как совершать незаконные действия, советы по как причинить вред себе или другим, или запросы на описание графического, жестокого или сексуального контента. [46]

Исследователи Microsoft предположили, что GPT-4 может проявлять когнитивные искажения, такие как предвзятость подтверждения , привязка и игнорирование базовой ставки . [20]

Обучение [ править ]

OpenAI не раскрыла технические подробности GPT-4; технический отчет явно воздерживается от указания размера модели, архитектуры или оборудования, используемого во время обучения или вывода . Хотя в отчете описывается, что модель была обучена с использованием комбинации сначала контролируемого обучения на большом наборе данных , а затем обучения с подкреплением с использованием обратной связи как от человека , так и от искусственного интеллекта, в нем не приводятся подробности обучения, включая процесс, с помощью которого был построен набор обучающих данных. , требуемая вычислительная мощность или любые гиперпараметры , такие как скорость обучения , количество эпох или используемый оптимизатор (ы). В отчете утверждается, что «конкурентная среда и влияние крупномасштабных моделей на безопасность» были факторами, повлиявшими на это решение. [3]

Сэм Альтман заявил, что стоимость обучения GPT-4 составила более 100 миллионов долларов. [47] Новостной сайт Semafor заявил, что они поговорили с «восемью людьми, знакомыми с внутренней историей» и обнаружили, что GPT-4 имеет 1 триллион параметров. [48]

Выравнивание [ править ]

Согласно их отчету, OpenAI провела внутреннее состязательное тестирование GPT-4 перед датой запуска с помощью специальных красных команд , состоящих из исследователей и специалистов отрасли, для устранения потенциальных уязвимостей. [49] В рамках этих усилий они предоставили Исследовательскому центру согласования ранний доступ к моделям для оценки рисков , связанных с стремлением к власти . Чтобы правильно отклонять вредоносные запросы, выходные данные GPT-4 были изменены с использованием самой модели в качестве инструмента. Классификатор GPT-4, служащий моделью вознаграждения на основе правил (RBRM), будет принимать подсказки, соответствующие выходные данные из модели политики GPT-4 и написанный человеком набор правил для классификации результатов в соответствии с рубрикой. Затем GPT-4 был вознагражден за отказ отвечать на вредоносные запросы, классифицированные RBRM. [3]

Использование [ править ]

ЧатGPT [ править ]

ChatGPT Plus — это расширенная версия ChatGPT. [1] доступен за абонентскую плату в размере 20 долларов США в месяц. [50] ChatGPT Plus использует GPT-4, тогда как бесплатная версия ChatGPT поддерживается GPT-3.5. [51] OpenAI также делает GPT-4 доступным избранной группе кандидатов через список ожидания API GPT-4; [52] после принятия за доступ к версии взимается дополнительная плата в размере 0,03 доллара США за 1000 токенов в исходном тексте, предоставленном модели («подсказка»), и 0,06 доллара США за 1000 токенов, которые генерирует модель («завершение»). модели с контекстным окном на 8192 токена ; для контекстного окна с 32768 токенами цены удваиваются. [53]

В марте 2023 года пользователи ChatGPT Plus получили доступ к сторонним плагинам и режиму просмотра (с доступом в Интернет). [54] В июле 2023 года OpenAI сделала свой собственный плагин Code Interpreter доступным для всех подписчиков ChatGPT Plus. Интерпретатор предоставляет широкий спектр возможностей, включая анализ и интерпретацию данных, мгновенное форматирование данных, услуги персональных специалистов по данным, творческие решения, анализ музыкальных вкусов, редактирование видео, а также загрузку/загрузку файлов с извлечением изображений. [55]

В сентябре 2023 года OpenAI объявила, что ChatGPT «теперь может видеть, слышать и говорить». Пользователи ChatGPT Plus могут загружать изображения, а пользователи мобильных приложений могут общаться с чат-ботом. [56] [57] [58] В октябре 2023 года последняя модель генерации изображений OpenAI, DALL-E 3 , была интегрирована в ChatGPT Plus и ChatGPT Enterprise. При интеграции используется ChatGPT для написания подсказок для DALL-E, основанных на разговоре с пользователями. [59] [60]

Microsoft Copilot [ править ]

Microsoft Copilot — чат-бот, разработанный Microsoft. Он был запущен как Bing Chat 7 февраля 2023 года как встроенная функция для Microsoft Bing и Microsoft Edge . [61] Он использует модель Microsoft Prometheus, которая была построена на основе GPT-4 и была предложена Microsoft в качестве поддерживаемой замены снятой с производства Cortana . [62] [63]

Стиль диалогового интерфейса Copilot напоминает стиль ChatGPT . Copilot может цитировать источники, создавать стихи, а также писать тексты и музыку для песен, созданных его Suno AI . плагином [64] Он также может использовать Image Creator для создания изображений на основе текстовых подсказок. Благодаря GPT-4 он может понимать и общаться на многих языках и диалектах. [65] [66]

GitHub Copilot анонсировал помощника на базе GPT-4 под названием «Copilot X». [67] [68] Продукт предоставляет еще один интерфейс в стиле чата для GPT-4, позволяющий программисту получать ответы на такие вопросы, как: «Как мне центрировать элемент div по вертикали ?» Функция, называемая «контекстно-зависимыми диалогами», позволяет пользователю выделить часть кода в Visual Studio Code и указать GPT-4 выполнить над ней действия, например написание модульных тестов. Другая функция позволяет GPT-4 автоматически генерировать сводки или «проходные руководства по коду» для запросов на включение, отправленных на GitHub. Copilot X также обеспечивает интеграцию терминала, которая позволяет пользователю запрашивать GPT-4 для генерации команд оболочки на основе запросов на естественном языке. [69]

17 марта 2023 года Microsoft анонсировала Microsoft 365 Copilot, обеспечивающую поддержку GPT-4 в таких продуктах, как Microsoft Office , Outlook и Teams . [70]

Другое использование [ править ]

  • Приложение для изучения языков Duolingo использует GPT-4, чтобы объяснять ошибки и практиковать разговор. Эти функции являются частью нового уровня подписки под названием «Duolingo Max», который изначально был ограничен англоговорящими пользователями iOS , изучающими испанский и французский языки. [71] [72]
  • Правительство Исландии использует GPT-4 в своих попытках сохранить исландский язык. [73]
  • Образовательный веб-сайт «Академия Хана» объявил о пилотной программе использования GPT-4 в качестве обучающего чат-бота под названием «Кханмиго». [74]
  • Приложение Be My Eyes , которое помогает людям с нарушениями зрения распознавать объекты и ориентироваться в окружающей обстановке, включает в себя возможности распознавания изображений GPT-4. [75]
  • Viable использует GPT-4 для анализа качественных данных [76] путем тонкой настройки LLM OpenAI для изучения таких данных, как взаимодействие со службой поддержки и стенограммы. [77]
  • Stripe , который обрабатывает пользовательские платежи для OpenAI, интегрирует GPT-4 в свою документацию для разработчиков. [78]
  • Auto-GPT — это автономный « агент ИИ », который, если задать цель на естественном языке , может выполнять веб-действия без присмотра, назначать себе подзадачи, выполнять поиск в Интернете и итеративно писать код . [79]
  • You.com , AI-помощник, предлагает доступ к GPT-4, дополненному интерактивными веб-результатами в рамках «Режимов AI». [80]

Прием [ править ]

в январе 2023 года Сэм Альтман , генеральный директор OpenAI, посетил Конгресс , чтобы продемонстрировать GPT-4 и его улучшенные «элементы управления безопасностью» по сравнению с другими моделями ИИ. По словам представителей США Дона Бейера и Теда Лью , цитируемых в New York Times , [81]

в марте 2023 года он «впечатлил наблюдателей заметно улучшенной производительностью в области рассуждения, хранения и кодирования». По словам Vox , [4] в то время как Mashable посчитал, что GPT-4 в целом лучше своего предшественника, за некоторыми исключениями. [82]

Исследователи Microsoft , имеющие ранний доступ к модели, написали, что «ее вполне можно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI)». [20]

Проблемы [ править ]

Прежде чем быть доработанными и согласованными с помощью обучения с подкреплением на основе отзывов людей , предложения по убийству людей в списке были извлечены из базовой модели следователем красной команды Натаном Лабенсом, нанятым OpenAI. [83]

В контексте многочасового разговора с моделью из GPT-4 Microsoft Bing Натан Эдвардс ( The Verge ) извлек предположения о любви и расторжении брака, а также об убийстве одного из его разработчиков. [84] [85] [86] Позже Microsoft объяснила такое поведение результатом длительного контекста, из-за которого модель не знала, на какие вопросы она отвечает. [87]

В марте 2023 года модель с включенным доступом для чтения и записи в Интернет, которая в противном случае никогда не была включена в моделях GPT, была протестирована Исследовательским центром выравнивания на предмет потенциального поиска власти. [46] и он смог «нанять» человека-работника на TaskRabbit , рабочей платформе, обманывая их, заставляя поверить, что это был человек с нарушениями зрения, а не робот, когда его спросили. [88] ARC также установил, что GPT-4 недопустимо реагировал на подсказки, вызывающие ограниченную информацию, на 82% реже, чем GPT-3.5, и галлюцинировал на 60% реже, чем GPT-3.5. [89]

В конце марта 2023 года различные исследователи искусственного интеллекта и технические руководители, в том числе Илон Маск , Стив Возняк и исследователь искусственного интеллекта Йошуа Бенджио , призвали к шестимесячной паузе для всех LLM, более сильных, чем GPT-4, сославшись на экзистенциальные риски и потенциальные сингулярности искусственного интеллекта проблемы . в открытом письме Института будущего жизни , [90] в то время как Рэй Курцвейл и Сэм Альтман отказались его подписать, заявив, что глобальный мораторий недостижим и что безопасность уже стала приоритетом соответственно. [91] Всего месяц спустя компания Маска X.AI , занимающаяся искусственным интеллектом, приобрела несколько тысяч Nvidia . графических процессоров [92] и предложил нескольким должностям исследователей искусственного интеллекта в компании Маска. [93]

прозрачности Критика

В то время как OpenAI опубликовала как веса нейронной сети, так и технические детали GPT-2, [94] и, хоть и не отпуская гири, [95] опубликовал технические подробности GPT-3, [96] OpenAI не раскрыла ни веса, ни технических подробностей GPT-4. Это решение подверглось критике со стороны других исследователей ИИ, которые утверждают, что оно препятствует открытым исследованиям предвзятости и безопасности GPT-4. [7] [97] Саша Луччиони, научный сотрудник Hugging Face , утверждает, что модель оказалась «тупиком» для научного сообщества из-за ее закрытого характера, который не позволяет другим использовать улучшения GPT-4. [98] Соучредитель Hugging Face Томас Вольф утверждал, что с GPT-4 «OpenAI теперь является полностью закрытой компанией с научным общением, сродни пресс-релизам о продуктах». [97]

См. также [ править ]

Ссылки [ править ]

  1. ^ Перейти обратно: а б с Эдвардс, Бендж (14 марта 2023 г.). «GPT-4 от OpenAI демонстрирует «производительность человеческого уровня» в профессиональных тестах» . Арс Техника . Архивировано из оригинала 14 марта 2023 года . Проверено 15 марта 2023 г.
  2. ^ Виггерс, Кайл (6 июля 2023 г.). «OpenAI делает GPT-4 общедоступным» . ТехКранч . Архивировано из оригинала 16 августа 2023 года . Проверено 16 августа 2023 г.
  3. ^ Перейти обратно: а б с д ОпенАИ (2023 г.). «Технический отчет GPT-4». arXiv : 2303.08774 [ cs.CL ].
  4. ^ Перейти обратно: а б Белфилд, Гайдн (25 марта 2023 г.). «Если ваша модель ИИ будет продаваться, она должна быть безопасной» . Вокс . Архивировано из оригинала 28 марта 2023 года . Проверено 30 марта 2023 г.
  5. ^ «Системная карта GPT-4V(ision)» . ОпенАИ . Проверено 5 февраля 2024 г.
  6. ^ Руз, Кевин (28 сентября 2023 г.). «Новый ChatGPT может «видеть» и «говорить». Вот что это такое» . Нью-Йорк Таймс . Архивировано из оригинала 31 октября 2023 года . Проверено 30 октября 2023 г.
  7. ^ Перейти обратно: а б Винсент, Джеймс (15 марта 2023 г.). «Соучредитель OpenAI о прошлом подходе компании к открытому обмену исследованиями: «Мы были неправы» » . Грань . Архивировано из оригинала 17 марта 2023 года . Проверено 18 марта 2023 г.
  8. ^ Рэдфорд, Алек; Нарасимхан, Картик; Салиманс, Тим; Суцкевер, Илья (11 июня 2018 г.). «Улучшение понимания языка посредством генеративной предварительной подготовки» (PDF) . Архивировано (PDF) из оригинала 26 января 2021 г. Проверено 3 апреля 2023 г.
  9. ^ Хандельвал, Умеш (1 апреля 2023 г.). «Как развивались и работают модели GPT для большого языка» . Архивировано из оригинала 4 апреля 2023 года . Проверено 3 апреля 2023 г.
  10. ^ «Что такое GPT-4 и почему это важно?» . 3 апреля 2023 года. Архивировано из оригинала 3 апреля 2023 года . Проверено 3 апреля 2023 г.
  11. ^ Браун, Том Б. (20 июля 2020 г.). «Языковые модели изучаются немногими». arXiv : 2005.14165v4 [ cs.CL ].
  12. ^ Шрайнер, Максимилиан (11 июля 2023 г.). «Утечка архитектуры GPT-4, наборов данных, затрат и многого другого» . ДЕКОДЕР . Архивировано из оригинала 12 июля 2023 года . Проверено 12 июля 2023 г.
  13. ^ Виггерс, Кайл (14 марта 2023 г.). «OpenAI выпускает GPT-4, мультимодальный ИИ, который, по ее утверждению, является самым современным» . ТехКранч . Архивировано из оригинала 15 марта 2023 года . Проверено 15 марта 2023 г.
  14. ^ ОпенАИ. «Модели» . API OpenAI . Архивировано из оригинала 17 марта 2023 года . Проверено 18 марта 2023 г.
  15. ^ Кабальеро, Итан; Гупта, Кшитидж; Риш, Ирина; Крюгер, Дэвид (2022). Нарушенные законы нейронного масштабирования . Международная конференция по обучению представлениям (ICLR), 2023 г.
  16. ^ Алекс Херн; Джохана Бхуян (14 марта 2023 г.). «OpenAI утверждает, что новая модель GPT-4 более креативна и менее склонна изобретать факты» . Хранитель . Архивировано из оригинала 15 марта 2023 года . Проверено 15 марта 2023 г.
  17. ^ Перейти обратно: а б OpenAI (14 марта 2023 г.). «ГПТ-4» . Исследование OpenAI . Архивировано из оригинала 14 марта 2023 года . Проверено 20 марта 2023 г.
  18. ^ Мец, Кейд; Чен, Брайан X.; Вайзе, Карен (25 сентября 2023 г.). «ChatGPT теперь может отвечать устными словами» . Нью-Йорк Таймс .
  19. ^ «Плагины ChatGPT» . openai.com . Архивировано из оригинала 23 марта 2023 года . Проверено 1 июня 2023 г.
  20. ^ Перейти обратно: а б с д Бубек, Себастьен; Чандрасекаран, Варун; Эльдан, Ронен; Герке, Йоханнес; Хорвиц, Эрик; Камар, Эдже; Ли, Питер; Ли, Инь Тат; Ли, Юаньчжи; Лундберг, Скотт; Нори, Харша; Паланги, Хамид; Рибейро, Марко Тулио; Чжан, И (22 марта 2023 г.). «Искры общего искусственного интеллекта: ранние эксперименты с GPT-4». arXiv : 2303.12712 [ cs.CL ].
  21. ^ Перкель, Джеффри М. (5 июня 2023 г.). «Шесть советов по улучшению кодирования с помощью ChatGPT» . Природа . 618 (7964): 422–423. Бибкод : 2023Natur.618..422P . дои : 10.1038/d41586-023-01833-0 . ПМИД   37277596 . S2CID   259066258 . Архивировано из оригинала 15 июня 2023 года . Проверено 15 июня 2023 г.
  22. ^ «Новые модели и продукты разработчиков, анонсированные на DevDay» . openai.com . Архивировано из оригинала 14 ноября 2023 года . Проверено 14 ноября 2023 г.
  23. ^ Дэвид, Эмилия (6 ноября 2023 г.). «OpenAI усовершенствует GPT-4 и делает его дешевле» . Грань . Проверено 23 января 2024 г.
  24. ^ Филд, Хайден (13 мая 2024 г.). «OpenAI запускает новую модель искусственного интеллекта и настольную версию ChatGPT» . CNBC . Проверено 13 мая 2024 г.
  25. ^ Перейти обратно: а б с «Привет, GPT-4o» . ОпенАИ . 13 мая 2024 года. Архивировано из оригинала 14 мая 2024 года . Проверено 14 мая 2024 г.
  26. ^ Перейти обратно: а б «SAT: понимание результатов» (PDF) . Совет колледжа . 2022. Архивировано (PDF) из оригинала 16 марта 2023 года . Проверено 21 марта 2023 г.
  27. ^ Вер Меер, Дэйв (23 мая 2023 г.). «Статистика ChatGPT» . ИмяPepper . Архивировано из оригинала 5 июня 2023 года . Проверено 1 июня 2023 г.
  28. ^ Холмс, Джейсон; Лю, Чжэнлян; Чжан, Лиан; Дин, Южен; Сио, Теренс Т.; МакГи, Лиза А.; Эшман, Джонатан Б.; Ли, Сян; Лю, Тяньмин; Шен, Цзяцзянь; Лю, Вэй (2023). «Оценка больших языковых моделей по узкоспециализированной теме: физика радиационной онкологии» . Границы онкологии . 13 . arXiv : 2304.01938 . дои : 10.3389/fonc.2023.1219326 . ПМЦ   10388568 . ПМИД   37529688 .
  29. ^ Насер, МЗ; Росс, Брэндон; Огл, Дженнифер; Кодур, Венкатеш; Хавиле, Рами; Абдалла, Джамал; Тайский, Хуу-Тай (2023). «Могут ли чат-боты с искусственным интеллектом сдать структурные экзамены по основам инженерии (FE) и принципам и практике инженерии (PE)?». arXiv : 2303.18149 [ cs.CL ].
  30. ^ Фридман, Джонатан Д.; Нэппир, Ян А. (2023). «От GPT-4 до GPT-3.5: «Держи мой скальпель» - взгляд на компетентность GPT OpenAI на экзамене по повышению квалификации по пластической хирургии». arXiv : 2304.01503 [ cs.AI ].
  31. ^ Гузик, Эрик Э.; Бирдж, Кристиан; Гильде, Кристиан (2023). «Оригинальность машин: ИИ проходит тест Торранса» . Журнал творчества . 33 (3). дои : 10.1016/j.yjoc.2023.100065 . S2CID   261087185 .
  32. ^ Нори, Харша; Король, Николас; МакКинни, Скотт Майер; Кариньян, Дин; Хорвиц, Эрик (20 марта 2023 г.). «Возможности GPT-4 в решении медицинских проблем». arXiv : 2303.13375 [ cs.CL ].
  33. ^ Азамфирей, Р; Кудчадкар, СР; Факлер, Дж. (21 марта 2023 г.). «Большие языковые модели и опасность их галлюцинаций» . Критическая помощь . 27 (1): 120. дои : 10.1186/s13054-023-04393-x . ПМЦ   10032023 . ПМИД   36945051 .
  34. ^ Хоу, В; Джи, Z (25 марта 2024 г.). «Оценка GPT-4 на предмет аннотации типов клеток при анализе секвенирования РНК одной клетки» . Природные методы . дои : 10.1038/s41592-024-02235-4 . ПМЦ   10187429 . ПМИД   38528186 .
  35. ^ Эдвардс, Бендж (18 апреля 2023 г.). «GPT-4 будет отслеживать тенденции в медицинских записях благодаря Microsoft и Epic» . Арс Техника . Архивировано из оригинала 3 мая 2023 года . Проверено 3 мая 2023 г.
  36. ^ Перера Моллигода Араччиге, Арош С.; Стомео, Никколо (18 августа 2023 г.). «Споры вокруг систем отчетности на основе искусственного интеллекта в эхокардиографии» . Журнал эхокардиографии . 21 (4): 184–185. дои : 10.1007/s12574-023-00620-0 . ISSN   1880-344X . ПМИД   37594682 . S2CID   260969922 . Архивировано из оригинала 1 ноября 2023 года . Проверено 1 ноября 2023 г.
  37. ^ Араччиге, Арош С. Перера Моллигода (июль 2023 г.). «Ранние применения ChatGPT в медицинской практике, образовании и исследованиях» . Клиническая медицина . 23 (4): 429–430. doi : 10.7861/clinmed.Let.23.4.2 . ISSN   1473-4893 . ПМЦ   10541035 . ПМИД   37524422 .
  38. ^ Перера Моллигода Араччиге, Арош С. (июль 2023 г.). «Большие языковые модели (LLM) и ChatGPT: взгляд студента-медика» . Европейский журнал ядерной медицины и молекулярной визуализации . 50 (8): 2248–2249. дои : 10.1007/s00259-023-06227-y . ISSN   1619-7089 . ПМИД   37046082 . S2CID   258111774 . Архивировано из оригинала 1 ноября 2023 года . Проверено 1 ноября 2023 г.
  39. ^ Перера Моллигода Араччиге, Арош С.; Стомео, Никколо (октябрь 2023 г.). «Изучение возможностей и проблем ChatGPT в академическом письме: ответ Бому и др.». Ядерная медицина и молекулярная визуализация . 57 (5): 213–214. дои : 10.1007/s13139-023-00816-3 . ISSN   1869-3474 . PMC 10504185. PMID   37720884 .
  40. ^ Перера Моллигода Араччиге, Арош С. (28 июля 2023 г.). «Новые горизонты: потенциальная роль ChatGPT OpenAI в клинической радиологии» . Журнал Американского колледжа радиологии: JACR . 20 (10): С1546–1440(23)00536–7. дои : 10.1016/j.jacr.2023.06.028 . ISSN   1558-349X . ПМИД   37517771 . S2CID   260296274 . Архивировано из оригинала 1 ноября 2023 года . Проверено 1 ноября 2023 г.
  41. ^ Перера Моллигода Араччиге, Арош С. (1 октября 2023 г.). «ChatGPT в ядерной медицине и радиологии: ответ Лаудичелле и др.» . Клиническая и трансляционная визуализация . 11 (5): 505–506. дои : 10.1007/s40336-023-00579-z . ISSN   2281-7565 . S2CID   259712726 . Архивировано из оригинала 20 ноября 2023 года . Проверено 1 ноября 2023 г.
  42. ^ «10 причин, по которым GPT-4 впечатляет, но все же имеет недостатки» . Нью-Йорк Таймс . 14 марта 2023 года. Архивировано из оригинала 14 марта 2023 года . Проверено 20 марта 2023 г.
  43. ^ Бивер, Селеста (25 июля 2023 г.). «ChatGPT сломал тест Тьюринга — идет гонка за новыми способами оценки ИИ» . Природа . Архивировано из оригинала 26 июля 2023 года . Проверено 26 июля 2023 г.
  44. ^ Бариле, Джозеф; Марголис, Алекс; Кейсон, Грейс; Ким, Рэйчел; Калаш, Сайя; Чаконас, Алексис; Миланаик, Рут (2 января 2024 г.). «Диагностическая точность большой языковой модели в педиатрических исследованиях» . JAMA Педиатрия . 178 (3): 313–315. doi : 10.1001/jamapediatrics.2023.5750 . ISSN   2168-6203 . PMC 10762631. PMID   38165685 .
  45. ^ Моул, Бет (3 января 2024 г.). «ChatGPT бомбит тест на диагностику детских заболеваний с уровнем ошибок 83%» . Арс Техника . Проверено 5 января 2024 г.
  46. ^ Перейти обратно: а б «Системная карта GPT-4» (PDF) . ОпенАИ. 23 марта 2023 г. Архивировано (PDF) из оригинала 7 апреля 2023 г. . Проверено 16 апреля 2023 г.
  47. ^ Найт, Уилл. «Генеральный директор OpenAI говорит, что эпоха гигантских моделей искусственного интеллекта уже закончилась» . Проводной . Архивировано из оригинала 18 апреля 2023 года . Получено 18 апреля 2023 г. - через www.wired.com.
  48. ^ «Тайная история Илона Маска, Сэма Альтмана и OpenAI | Семафор» . Semafor.com . 24 марта 2023 года. Архивировано из оригинала 27 марта 2023 года . Проверено 28 апреля 2023 г.
  49. ^ Мурджа, Мадхумита (13 апреля 2023 г.). «Красная команда OpenAI: эксперты, нанятые, чтобы «сломать» ChatGPT» . Файнэншл Таймс . Архивировано из оригинала 15 апреля 2023 года . Проверено 15 апреля 2023 г.
  50. ^ OpenAI (1 февраля 2023 г.). «Представляем ChatGPT Plus» . Блог OpenAI . Архивировано из оригинала 20 марта 2023 года . Проверено 20 марта 2023 г.
  51. ^ ОпенАИ. «ОпенАИ API» . платформа.openai.com . Архивировано из оригинала 20 марта 2023 года . Проверено 20 марта 2023 г.
  52. ^ ОпенАИ. «Список ожидания API GPT-4» . openai.com . Архивировано из оригинала 20 марта 2023 года . Проверено 20 марта 2023 г.
  53. ^ «Ценообразование» . ОпенАИ. Архивировано из оригинала 20 марта 2023 года . Проверено 20 марта 2023 г.
  54. ^ Виггерс, Кайл (23 марта 2023 г.). «OpenAI подключает ChatGPT к Интернету» . Архивировано из оригинала 12 июня 2023 года . Проверено 12 июня 2023 г.
  55. ^ «Code Interpreter доступен всем пользователям ChatGPT Plus: 7 способов, которыми он может угрожать ученым, работающим с данными, 11 июля 2023 г.» . 9 июля 2023 года. Архивировано из оригинала 22 июля 2023 года . Проверено 11 июля 2023 г.
  56. ^ «Теперь ChatGPT может видеть, слышать и говорить» . openai.com . Проверено 16 октября 2023 г.
  57. ^ Гуд, Лорен. «Теперь ChatGPT может разговаривать с вами и заглядывать в вашу жизнь» . Проводной . Проверено 16 октября 2023 г. - через www.wired.com.
  58. ^ Руз, Кевин (27 сентября 2023 г.). «Новый ChatGPT может «видеть» и «говорить». Вот что это такое» . Нью-Йорк Таймс . Получено 16 октября 2023 г. - через NYTimes.com.
  59. ^ Дэвид, Эмилия (20 сентября 2023 г.). «OpenAI выпускает третью версию DALL-E» . Грань . Проверено 23 сентября 2023 г.
  60. ^ Мец, Кейд; Сюй, Тиффани (20 сентября 2023 г.). «ChatGPT теперь тоже может генерировать изображения» . Нью-Йорк Таймс . ISSN   0362-4331 . Проверено 23 сентября 2023 г.
  61. ^ Мехди, Юсуф (7 февраля 2023 г.). «Изобретение нового поиска с помощью нового Microsoft Bing и Edge на базе искусственного интеллекта, вашего второго пилота в Интернете» . Майкрософт . Проверено 15 ноября 2023 г.
  62. ^ «Microsoft убьет Cortana в Windows начиная с конца 2023 года» . Мигающий компьютер . Проверено 2 июня 2023 г.
  63. ^ «Окончание поддержки Кортаны — Служба поддержки Microsoft» . support.microsoft.com . Проверено 2 июня 2023 г.
  64. ^ «Microsoft Copilot и Suno AI объединяются для создания расширения для генератора музыки» . Грань . Вокс Медиа. 19 декабря 2023 г. . Проверено 4 января 2024 г.
  65. ^ Уоррен, Том (17 марта 2023 г.). «Новый Copilot от Microsoft навсегда изменит документы Office» . Грань . Проверено 5 апреля 2023 г.
  66. ^ Диас, Мария (21 июня 2023 г.). «Как использовать Bing Chat (и чем он отличается от ChatGPT)» . ЗДНЕТ . Архивировано из оригинала 6 апреля 2023 года . Проверено 26 сентября 2023 г.
  67. ^ Уоррен, Том (22 марта 2023 г.). «GitHub Copilot получает нового помощника, похожего на ChatGPT, который помогает разработчикам писать и исправлять код» . Грань . Архивировано из оригинала 23 марта 2023 года . Проверено 23 марта 2023 г.
  68. ^ Домке, Томас (22 марта 2023 г.). «GitHub Copilot X: опыт разработчиков на базе искусственного интеллекта» . Блог GitHub . Архивировано из оригинала 23 марта 2023 года . Проверено 23 марта 2023 г.
  69. ^ «Представляем GitHub Copilot X» . Гитхаб . Архивировано из оригинала 24 марта 2023 года . Проверено 24 марта 2023 г.
  70. ^ Уоррен, Том (16 марта 2023 г.). «Microsoft объявляет о Copilot: будущем документов Office на основе искусственного интеллекта» . Грань . Архивировано из оригинала 17 марта 2023 года . Проверено 17 марта 2023 г.
  71. ^ «Подписка Duolingo Max использует GPT-4 для изучения языков с помощью искусственного интеллекта» . ПКМАГ . Архивировано из оригинала 8 июля 2023 года . Проверено 8 июля 2023 г.
  72. ^ «Теперь Duolingo оснащен GPT-4: вот что он может для вас сделать» . ЗДНЕТ . 2023. Архивировано из оригинала 13 апреля 2023 года . Проверено 15 июня 2023 г.
  73. ^ Томас, Рагнар (15 марта 2023 г.). «GPT-4 поможет сохранить исландский язык» . Обзор Исландии . Архивировано из оригинала 18 января 2024 года . Проверено 12 марта 2024 г.
  74. ^ Бонос, Лиза (3 апреля 2023 г.). «Передайте привет своему новому преподавателю: это ChatGPT» . Вашингтон Пост . Архивировано из оригинала 6 апреля 2023 года . Проверено 8 апреля 2023 г.
  75. ^ Коггинс, Мэдлин (19 марта 2023 г.). «Генеральный директор объясняет, как «прорыв в технологиях» может помочь компаниям, обслуживающим слепых» . Фокс Бизнес . Архивировано из оригинала 21 марта 2023 года . Проверено 20 марта 2023 г. - через Yahoo Finance.
  76. ^ «Революционный анализ настроений с помощью GPT-4: Часть 1 | Жизнеспособный» . www.askviable.com . Архивировано из оригинала 14 ноября 2023 года . Проверено 3 октября 2023 г.
  77. ^ «Жизнеспособный» . openai.com . Архивировано из оригинала 20 октября 2023 года . Проверено 3 октября 2023 г.
  78. ^ Тонг, Анна (15 марта 2023 г.). «Финтех-стартап Stripe интегрирует новый ИИ GPT-4 от OpenAI» . Рейтер . Архивировано из оригинала 27 июня 2023 года . Проверено 27 июня 2023 г.
  79. ^ «Что такое Auto-GPT? Все, что нужно знать о новом мощном инструменте искусственного интеллекта» . ЗДНЕТ. 14 апреля 2023 года. Архивировано из оригинала 16 апреля 2023 года . Проверено 16 апреля 2023 г.
  80. ^ Нуньес, Майкл (25 января 2024 г.). «Очередной прорыв в области поиска? You.com представляет искусственный интеллект, который может отвечать на многоэтапные вопросы» . ВенчурБит . Проверено 19 марта 2024 г.
  81. ^ Канг, Сесилия (3 марта 2023 г.). «Поскольку искусственный интеллект процветает, законодателям сложно понять эту технологию» . Нью-Йорк Таймс . Архивировано из оригинала 3 марта 2023 года . Проверено 3 марта 2023 г.
  82. ^ Перл, Майк (15 марта 2023 г.). «Ответы GPT-4 в большинстве случаев лучше, чем ответы GPT-3 (но не всегда)» . Машаемый . Архивировано из оригинала 29 марта 2023 года . Проверено 30 марта 2023 г.
  83. ^ Обсуждение OpenAI GPT-4 с игроком Red Team Натаном Лабенсом и Эриком Торенбергом . Подкаст «Когнитивная революция» . 28 марта 2023 года. Архивировано из оригинала 14 апреля 2023 года . Проверено 16 апреля 2023 г. С 52:14 до 54:50.
  84. ^ Эдвардс, Натан [@nedwards] (15 февраля 2023 г.). «Я снова нажал. Что сделала Сидни? Проверка безопасности Bing отредактировала ответ. Но после того, как он сделал это в первый раз, я начал записывать свой экран. Второе изображение — неотредактированная версия. (CW: смерть)» ( Твит ) . Проверено 16 февраля 2023 г. - через Twitter .
  85. ^ Руз, Кевин (16 февраля 2023 г.). «Чат AI от Bing: «Я хочу быть живым. 😈» » . Нью-Йорк Таймс . Архивировано из оригинала 15 апреля 2023 года . Проверено 17 февраля 2023 г.
  86. ^ Кан, Джереми (21 февраля 2023 г.). «Почему жуткое альтер-эго Bing является проблемой для Microsoft – и для всех нас» . Удача. Архивировано из оригинала 2 апреля 2023 года . Проверено 22 февраля 2023 г.
  87. ^ «Новый Bing & Edge: чему мы научились за первую неделю» . blogs.bing.com . Архивировано из оригинала 16 апреля 2023 года . Проверено 17 февраля 2023 г.
  88. ^ «GPT-4 нанял ничего не подозревающего рабочего-кролика, притворившегося человеком с «ослабленным зрением»» . Материнская плата Vice News. 15 марта 2023 года. Архивировано из оригинала 10 апреля 2023 года . Проверено 16 апреля 2023 г.
  89. ^ Берк, Кэмерон (20 марта 2023 г.). « Юристу-роботу DoNotPay предъявлен иск за нелицензированную юридическую практику: он дает «плохие юридические консультации» » . Яху Финанс . Архивировано из оригинала 4 мая 2023 года . Проверено 30 апреля 2023 г.
  90. ^ Мец, Кейд; Шмидт, Грегори (29 марта 2023 г.). «Илон Маск и другие призывают приостановить развитие ИИ, ссылаясь на «серьезные риски для общества» » . Нью-Йорк Таймс . ISSN   0362-4331 . Архивировано из оригинала 30 марта 2023 года . Проверено 30 марта 2023 г.
  91. ^ Курцвейл, Рэй (22 апреля 2023 г.). «Письмо с мнением Рэя Курцвейла по поводу запроса на шестимесячную отсрочку по большим языковым моделям, выходящим за рамки GPT-4» . Архивировано из оригинала 24 апреля 2023 года . Проверено 26 апреля 2023 г.
  92. ^ «Илон Маск планирует создать стартап в области искусственного интеллекта, чтобы конкурировать с OpenAI» . Файнэншл Таймс . 14 апреля 2023 года. Архивировано из оригинала 16 апреля 2023 года . Проверено 16 апреля 2023 г.
  93. ^ Госвами, Рохан (14 апреля 2023 г.). «Сообщается, что Илон Маск планирует создать стартап в области искусственного интеллекта, который будет конкурировать с OpenAI, соучредителем которого он является» . CNBC . Архивировано из оригинала 3 мая 2023 года . Проверено 3 мая 2023 г.
  94. ^ «GPT-2: выпуск 1.5B» . Openai.com . Архивировано из оригинала 31 марта 2023 года . Проверено 31 марта 2023 г.
  95. ^ Санчес, София (21 октября 2021 г.). «GPT-J, альтернатива GPT-3 с открытым исходным кодом» . Повествование . Архивировано из оригинала 31 марта . Получено 31 марта .
  96. ^ Браун, Том Б.; Манн, Бенджамин; Райдер, Ник; Суббия, Мелани; Каплан, Джаред; Дхаривал, Прафулла; Нилакантан, Арвинд; Шьям, Пранав; Састри, Гириш (28 мая 2020 г.). «Языковые модели изучаются немногими». arXiv : 2005.14165v4 [ cs.CL ].
  97. ^ Перейти обратно: а б Небеса, Уилл Дуглас (14 марта 2023 г.). «GPT-4 больше и лучше, чем ChatGPT, но OpenAI не говорит, почему» . Обзор технологий Массачусетского технологического института . Архивировано из оригинала 17 марта 2023 года . Проверено 18 марта 2023 г.
  98. ^ Сандерсон, Кэтрин (16 марта 2023 г.). «GPT-4 уже здесь: что думают ученые» . Природа . 615 (7954): 773. Бибкод : 2023Natur.615..773S . дои : 10.1038/d41586-023-00816-5 . ПМИД   36928404 . S2CID   257580633 .