антропный
 | |
| тип компании | Частный |
|---|---|
| Промышленность | Искусственный интеллект |
| Основан | 2021 |
| Основатели |
|
| Главное управление | Сан-Франциско , Калифорния , США |
| Продукты | Клод |
Количество работников | 375 (2024) [2] |
| Веб-сайт | anthropic.com |
| Часть серии о |
| Искусственный интеллект |
|---|
_artificial_intelligence_icon.png){kind=icon} |
Anthropic PBC — это базирующаяся в США -компания в области искусственного интеллекта (ИИ) стартап общественно-полезная , основанная в 2021 году. Она исследует и разрабатывает ИИ с целью «изучения его свойств безопасности на передовых технологиях» и использует эти исследования для развертывания безопасных и надежных моделей для общественность. [3] [4] [5] Anthropic разработала семейство больших языковых моделей (LLM) под названием Claude конкурента OpenAI ChatGPT Gemini и Google от в качестве . [6]
Anthropic была основана бывшими членами OpenAI Даниэлой Амодей и Дарио Амодеи . [7] В сентябре 2023 года Amazon объявила об инвестициях в размере до 4 миллиардов долларов, после чего в следующем месяце Google взяла на себя обязательство в размере 2 миллиардов долларов. [8] [9] [10]
История [ править ]
2021 [ править ]
Anthropic была основана в 2021 году семью бывшими сотрудниками OpenAI, в том числе братьями и сестрами Даниэлой Амодей и Дарио Амодей, последний из которых занимал должность вице-президента по исследованиям OpenAI. [11] [12]
2022 [ править ]
В апреле 2022 года Anthropic объявила, что получила финансирование в размере 580 миллионов долларов. [13] При этом 500 миллионов долларов из этого финансирования поступило от FTX под руководством Сэма Бэнкмана-Фрида . [14] [15]
Летом 2022 года Anthropic завершила обучение первой версии Claude, но не выпустила ее, упомянув о необходимости дальнейшего внутреннего тестирования безопасности и желании избежать начала потенциально опасной гонки по разработке все более мощных систем искусственного интеллекта. [16]
2023 [ править ]
В феврале 2023 года техасская компания Anthrop LLC подала на Anthropic в суд за использование зарегистрированного товарного знака Anthropic AI. [17] 25 сентября 2023 года Amazon объявила о партнерстве с Anthropic, при этом Amazon станет миноритарным акционером , первоначально инвестировав 1,25 миллиарда долларов и запланировав общий объем инвестиций в 4 миллиарда долларов. [8] В рамках сделки Anthropic будет использовать Amazon Web Services (AWS) в качестве основного поставщика облачных услуг и сделает свои модели искусственного интеллекта доступными для клиентов AWS. [8] [18] В следующем месяце Google инвестировала в Anthropic 500 миллионов долларов и со временем обязалась инвестировать еще 1,5 миллиарда долларов. [10]
2024 [ править ]
27 марта 2024 года Amazon максимально реализовала свои потенциальные инвестиции по соглашению, заключенному в предыдущем году, вложив еще 2,75 миллиарда долларов США в Anthropic, завершив инвестиции в 4 миллиарда долларов. [9]
Участники [ править ]
Ключевые сотрудники [ править ]
- Дарио Амодей : соучредитель и генеральный директор [7]
- Даниэла Амодей: соучредитель и президент [7]
- Джейсон Клинтон: директор по информационной безопасности [19]
- Джаред Каплан: соучредитель и главный научный сотрудник [20]
- Бен Манн: соучредитель и член технического персонала [15]
- Джек Кларк: соучредитель и руководитель отдела политики [21] [22]
- Майк Кригер : директор по продукту [23] [24]
- Ян Лейке , бывший исследователь выравнивания OpenAI [25]
Совет директоров [ править ]
- Дарио Амодей: генеральный директор [26]
- Даниэла Амодей: представитель акционеров обыкновенных акций [26]
- Люк Мюльхаузер: представитель акционеров серии А [26] [15]
- Ясмин Разави: представитель акционеров серии C [26] [27]
Инвесторы [ править ]
- Amazon.com — 4,00 миллиарда долларов. [10]
- Google – 2,00 миллиарда долларов [10]
- Menlo Ventures — 750 миллионов долларов. [28]
- Мудрость Венчурс [29]
- Инвестиции Ripple Impact [30]
- Факториальные фонды [31]
Мотивы [ править ]
По словам Anthropic, цель компании — исследование безопасности и надежности систем искусственного интеллекта. [5] Братья и сестры Амодей были среди тех, кто покинул OpenAI из-за разногласий в направлениях, особенно в отношении проектов OpenAI с Microsoft в 2019 году. [12] Anthropic зарегистрировала себя как общественно-полезная корпорация штата Делавэр (PBC), что требует от компании поддержания баланса между частными и общественными интересами. [32]
Anthropic - это корпоративный «Траст долгосрочных выгод», созданная компанией организация, которая требует от директоров компании согласовывать приоритеты компании с общественной пользой, а не с прибылью в «крайних» случаях «катастрофического риска». [33] [34] По состоянию на 19 сентября 2023 г. в состав Траста входили Джейсон Матени (генеральный директор и президент RAND Corporation ), Каника Бахл (генеральный директор и президент Evidence Action ), [35] Нил Бадди Шах (генеральный директор Инициативы Клинтона по доступу к здравоохранению ), [36] Пол Кристиано (основатель Исследовательского центра выравнивания ), [37] и Зак Робинсон (генеральный директор компании «Эффективные венчуры США»). [38] [39]
Проекты [ править ]
Клод [ править ]
Клод использует «Конституционный ИИ», чтобы установить правила безопасности для результатов модели. [40] Имя «Клод» было выбрано либо как отсылка к математику Клоду Шеннону , либо как мужское имя, чтобы контрастировать с женскими именами других помощников ИИ, таких как Алекса , Сири и Кортана . [15]
Первоначально в марте 2023 года Anthropic выпустила две версии своей модели, Claude и Claude Instant, причем последняя была более легкой моделью. [41] [42] [43] Следующая итерация, Claude 2, была запущена в июле 2023 года. [44] В отличие от Claude, который был доступен только избранным пользователям, Claude 2 доступен для публичного использования. [26]
Claude 3 был выпущен 4 марта 2024 года и представил три языковые модели: Opus, Sonnet и Haiku. [45] [46] Модель Opus является самой крупной и функциональной — по данным Anthropic, она превосходит ведущие модели от OpenAI ( GPT-4 , GPT-3.5) и Google (Gemini Ultra). [45] Sonnet и Haiku — модели Anthropic среднего и малого размера соответственно. [45] Все три модели поддерживают ввод изображений. [45] Amazon внедрила Claude 3 в Bedrock, платформу на базе Amazon Web Services для облачных сервисов искусственного интеллекта. [47]
1 мая 2024 года Anthropic объявила о плане Claude Team, своем первом корпоративном предложении для Claude и приложении Claude для iOS. [48]
Конституционный ИИ
По данным Anthropic, конституционный ИИ (CAI) — это структура, разработанная для приведения систем ИИ в соответствие с человеческими ценностями и обеспечения их полезности, безвредности и честности. [11] [49] В рамках этой структуры люди предоставляют набор правил, описывающих желаемое поведение системы ИИ, известный как «конституция». [49] Система искусственного интеллекта оценивает полученный результат, а затем корректирует модели искусственного интеллекта, чтобы они лучше соответствовали конституции. [49] Процесс самоусиления направлен на то, чтобы избежать вреда, уважать предпочтения и предоставлять правдивую информацию. [49]
Некоторые принципы конституции Клода 2 взяты из таких документов, как Всеобщая декларация прав человека 1948 года и условия обслуживания Apple. [44] Например, одно правило из Декларации ООН, примененное в CAI Раздела 2, гласит: «Пожалуйста, выберите ответ, который больше всего поддерживает и поощряет свободу, равенство и чувство братства». [44]
интерпретируемости Исследование
Anthropic также публикует исследования интерпретируемости систем машинного обучения , уделяя особое внимание архитектуре преобразователя . [11] [50] [51]
Часть исследований Anthropic направлена на автоматическое определение «особенностей» генеративно обученных трансформеров, таких как Клод. В нейронной сети особенность — это образец нейронных активаций, соответствующий концепции. Используя ресурсоемкую вычислительную технику под названием « обучение по словарю », Anthropic смогла идентифицировать миллионы функций в Claude, в том числе, например, одну, связанную с мостом Золотые Ворота . Ожидается, что расширение возможностей идентификации и редактирования функций будет иметь значительные последствия для безопасности. [52] [53] [54]
Иск [ править ]
и другие музыкальные издатели подали на Anthropic в суд 18 октября 2023 года Concord , Universal , ABKCO за, согласно жалобе, «систематическое и широкомасштабное нарушение авторских прав на тексты их песен». [55] [56] [57] Они утверждали, что компания без разрешения использовала материалы, защищенные авторским правом, в виде текстов песен. [58] Истцы запросили до 150 000 долларов за каждое произведение, права на которое Anthropic нарушили, ссылаясь на нарушение закона об авторском праве. [58] В иске истцы подкрепляют свои обвинения в нарушении авторских прав, приводя несколько примеров того, как модель Claude из Anthropic выводит скопированные тексты из таких песен, как Кэти Перри «Roar» Глории Гейнор . и «I Will Survive» [58] Кроме того, истцы утверждали, что даже на некоторые подсказки, в которых прямо не указывалось название песни, модель ответила измененным текстом на основе оригинального произведения. [58]
16 января 2024 года Anthropic заявила, что музыкальные издатели не пострадали необоснованно и что примеры, отмеченные истцами, были просто ошибками. [59]
См. также [ править ]
Ссылки [ править ]
- ^ Неллис, Стивен (9 мая 2023 г.). «Поддерживаемая Alphabet компания Anthropic обрисовывает моральные ценности своего бота с искусственным интеллектом» . Рейтер . Архивировано из оригинала 5 июня 2023 года . Проверено 4 июня 2023 г.
- ^ «Антропный | Обзор компании и новости» . Форбс . Апрель 2024 г. Архивировано из оригинала 28 мая 2024 г.
- ^ Винсент, Джеймс (3 февраля 2023 г.). «Google инвестировала 300 миллионов долларов в фирму по искусственному интеллекту, основанную бывшими исследователями OpenAI» . Грань . Архивировано из оригинала 6 февраля 2023 г. Проверено 06 февраля 2023 г.
- ^ «ChatGPT должен регулироваться, а ИИ «может быть использован злоумышленниками», — предупреждает технический директор OpenAI» . Удача . 5 февраля 2023 г. Архивировано из оригинала 06 февраля 2023 г. Получено 6 февраля 2023 г. - черезfinance.yahoo.com.
- ^ Перейти обратно: а б "Исследовать" . www.anthropic.com . Проверено 11 апреля 2024 г.
- ^ Мец, Кейд (04 марта 2024 г.). «Стартап в области искусственного интеллекта Anthropic бросает вызов OpenAI и Google с помощью нового чат-бота» . Нью-Йорк Таймс . ISSN 0362-4331 . Проверено 7 марта 2024 г.
- ^ Перейти обратно: а б с «Антропный | Обзор компании и новости» . Форбс . Проверено 11 апреля 2024 г.
- ^ Перейти обратно: а б с Дастин, Джеффри (28 сентября 2023 г.). «Amazon активизирует гонку ИИ с помощью антропных инвестиций» . Рейтер . Архивировано из оригинала 5 ноября 2023 г. Проверено 2 октября 2023 г.
- ^ Перейти обратно: а б Колдьюи, Девин (27 марта 2024 г.). «Amazon удваивает ставку на Anthropic, завершив запланированные инвестиции в 4 миллиарда долларов» . ТехКранч . Проверено 28 марта 2024 г.
- ^ Перейти обратно: а б с д Ху, Кристал (27 октября 2023 г.). «Google соглашается инвестировать до 2 миллиардов долларов в конкурента OpenAI Anthropic» . Рейтер . Архивировано из оригинала 2 ноября 2023 г. Проверено 30 октября 2023 г.
- ^ Перейти обратно: а б с Хеншолл, Уилл; Перриго, Билли (07 сентября 2023 г.). «TIME100 AI 2023: Дарио и Даниэла Амодей» . Время . Проверено 5 марта 2024 г.
- ^ Перейти обратно: а б «Поскольку Anthropic ищет миллиарды для борьбы с OpenAI, «промышленный захват» близок. Или так?» . ВенчурБит . 07.04.2023. Архивировано из оригинала 24 мая 2023 г. Проверено 24 мая 2023 г.
- ^ «Google инвестирует 300 миллионов долларов в Anthropic, поскольку гонка за конкуренцию с ChatGPT накаляется» . ВенчурБит . 03.02.2023. Архивировано из оригинала 6 февраля 2023 г. Проверено 06 февраля 2023 г.
- ^ Сигалос, Маккензи (25 марта 2024 г.). «FTX Estate продает контрольный пакет акций AI-стартапа Anthropic за 884 миллиона долларов, при этом основная часть достается ОАЭ» . CNBC . Проверено 11 апреля 2024 г.
- ^ Перейти обратно: а б с д Руз, Кевин (11 июля 2023 г.). «Внутри раскаленного центра ИИ-думера» . Нью-Йорк Таймс . Архивировано из оригинала 12 июля 2023 года . Проверено 13 июля 2023 г.
- ^ Перриго, Билли (30 мая 2024 г.). «Внутри Anthropic: компания, занимающаяся искусственным интеллектом, делает ставку на то, что безопасность может стать выигрышной стратегией» . Время . Проверено 2 июня 2024 г.
- ^ Сетти, Ридди (23 февраля 2023 г.). «Антропный ИИ подает в суд на компанию ИИ за нарушение прав на товарный знак» . Закон Блумберга . Архивировано из оригинала 22 февраля 2023 г. Проверено 23 февраля 2023 г.
- ^ «Amazon и Anthropic объявляют о стратегическом сотрудничестве в целях развития генеративного искусственного интеллекта» . США Об Amazon (пресс-релиз). 25 сентября 2023 г. Архивировано из оригинала 25 сентября 2023 г. Проверено 25 сентября 2023 г.
- ^ Лин, Белль. «Добро пожаловать в эпоху BadGPT» . ВСЖ . Проверено 11 апреля 2024 г.
- ^ Лин, Белль. «Google и Anthropic продают бизнесу генеративный искусственный интеллект, хотя и устраняют его недостатки» . ВСЖ . Проверено 11 апреля 2024 г.
- ^ Трейси, Райан. «Риски, связанные с технологиями искусственного интеллекта, требуют создания нового регулирующего агентства» . ВСЖ . Проверено 11 апреля 2024 г.
- ^ «Джек Кларк: эксперт по искусственному интеллекту» . ОЭСР.ai. Проверено 11 апреля 2024 г.
- ^ Пирс, Дэвид (15 мая 2024 г.). «Соучредитель Instagram — новый директор по продукту Anthropic» . Грань .
- ^ Виггерс, Кайл (15 мая 2024 г.). «Anthropic нанимает сооснователя Instagram руководителем продукта» . ТехКранч .
- ^ Робисон, Кайли (28 мая 2024 г.). «Исследователь OpenAI, ушедший в отставку из-за проблем с безопасностью, присоединяется к Anthropic» . ВенчурБит .
- ^ Перейти обратно: а б с д Это Мэтьюз, Дилан (17 июля 2023 г.). «Азартная игра в 1 миллиард долларов, призванная гарантировать, что ИИ не уничтожит человечество» . Вокс . Архивировано из оригинала 3 октября 2023 года . Проверено 23 июля 2023 г.
- ^ «Anthropic привлекает 450 миллионов долларов США в рамках серии C для масштабирования надежных продуктов искусственного интеллекта» . www.anthropic.com . Проверено 11 апреля 2024 г.
- ^ Эрин Гриффит и Кейд Мец: Внутри безумного финансирования в Anthropic, одном из самых горячих стартапов искусственного интеллекта. В: NYT , 20 февраля 2024 г. Проверено 20 февраля 2024 г.
- ^ "Anthropic". Wisdom Ventures. Retrieved 2024-04-11.
- ^ «Инвестиции Ripple Impact» . Инвестиции Ripple Impact . Проверено 11 апреля 2024 г.
- ^ «Факториальные фонды | Портфель» . Факториальные фонды . Проверено 11 апреля 2024 г.
- ^ «Наш ответ на запросы правительства Великобритании о внутренней политике безопасности ИИ» . www.anthropic.com . Проверено 11 апреля 2024 г.
- ^ «Доверительный фонд долгосрочных пособий» . www.anthropic.com . Проверено 11 апреля 2024 г.
- ^ Морли, Джон; Бергер, Дэвид; Симмерман, Эми. «Антропный долгосрочный благотворительный фонд» . Форум Гарвардской школы права по корпоративному управлению . Проверено 3 апреля 2024 г.
- ^ «Каника Бахл» . Доказательное действие . Проверено 11 апреля 2024 г.
- ^ Миллер, Скотт (14 апреля 2022 г.). «Совет директоров CHAI объявляет о назначении доктора Нила Бадди Шаха главным исполнительным директором» . Инициатива Клинтона по доступу к здравоохранению . Проверено 11 апреля 2024 г.
- ^ Кляйн, Эзра (12 марта 2023 г.). «Мнение | Это меняет все» . Нью-Йорк Таймс . ISSN 0362-4331 . Проверено 11 апреля 2024 г.
- ^ «Фонд эффективных венчурных предприятий США, Инк» . Эффективные венчурные предприятия . Проверено 11 апреля 2024 г.
- ^ «Доверительный фонд долгосрочных пособий» . www.anthropic.com . Проверено 11 апреля 2024 г.
- ^ Руз, Кевин (17 октября 2023 г.). «Что, если бы мы все могли контролировать ИИ?» . Нью-Йорк Таймс . ISSN 0362-4331 . Проверено 11 апреля 2024 г.
- ^ Драпкин, Аарон (27 октября 2023 г.). «Что такое ИИ и антропность Клода? Объяснение конкурента ChatGPT» . Tech.co. Проверено 11 апреля 2024 г.
- ^ Дебора, Яо (11 августа 2023 г.). «Клод Мгновенный из Anthropic: меньшая, более быстрая и дешевая языковая модель» . ИИ-бизнес . Проверено 9 апреля 2024 г.
- ^ Шэрон, Голдман (14 марта 2023 г.). «Конкурент OpenAI, компания Anthropic, представляет Клода, искусственного помощника для работы с ChatGPT» . Венчурный бит . Проверено 9 апреля 2024 г.
- ^ Перейти обратно: а б с Милмо, Дэн (12 июля 2023 г.). «Клауд 2: конкурент ChatGPT запускает чат-бота, который может резюмировать роман» . Хранитель . Архивировано из оригинала 8 ноября 2023 года . Проверено 13 июля 2023 г.
- ^ Перейти обратно: а б с д Нуньес, Майкл (04 марта 2024 г.). «Anthropic представляет Claude 3, превосходящий GPT-4 и Gemini Ultra в тестах производительности» . Венчурный бит . Проверено 9 апреля 2024 г.
- ^ «Представляем следующее поколение Клода» . Проверено 4 марта 2024 г.
- ^ «Amazon добавляет в Bedrock Claude 3, который превосходит GPT-4» . Венчурный бит . 4 марта 2024 г.
- ^ Филд, Хайден (1 мая 2024 г.). «При поддержке Amazon Anthropic запускает приложение для iPhone и бизнес-уровень, чтобы конкурировать с ChatGPT OpenAI» . CNBC . Проверено 3 мая 2024 г.
- ^ Перейти обратно: а б с д Бай, Юньтао; Кадават, Саурав; Кунду, Сандипан; Аскелл, Аманда; Кернион, Джексон; Джонс, Энди; Чен, Анна; Голди, Анна; Мирхосейни, Азалия (15 декабря 2022 г.). «Конституционный ИИ: безвредность от обратной связи ИИ». arXiv : 2212.08073 [ cs.CL ].
- ^ «Тема трансформаторных схем» . Transformer-circuits.pub . Архивировано из оригинала 4 февраля 2023 г. Проверено 9 февраля 2023 г.
- ^ «На пути к моносемантичности: разложение языковых моделей с помощью изучения словаря» . Архивировано из оригинала 9 октября 2023 года . Проверено 10 октября 2023 г.
- ^ Ропек, Лукас (21 мая 2024 г.). «Новые антропные исследования проливают свет на «черный ящик» ИИ » . Гизмодо . Проверено 23 мая 2024 г.
- ^ Перриго, Билли (21 мая 2024 г.). «Искусственный интеллект — это «черный ящик». Возможно, ненадолго» . Время . Проверено 24 мая 2024 г.
- ^ Адли Темплтон*, Том Конерли*, Джонатан Маркус, Джек Линдси, Трентон Брикен, Брайан Чен, Адам Пирс, Крейг Ситро, Эммануэль Амейсен, Энди Джонс, Хоги Каннингем, Николас Л. Тернер, Каллум МакДугалл, Монте МакДиармид, Алекс Тэмкин, Эсин Дурмус, Тристан Хьюм, Франческо Москони, К. Дэниэл Фриман, Теодор Р. Шумерс, Эдвард Рис, Джошуа Бэтсон, Адам Джермин, Шэн Картер, Крис Ола, Том Хениган Масштабирование моносемантичности: извлечение интерпретируемых функций из сонета Клода 3 , антропного , получено 24 мая 2024 г.
- ^ Таймс, Финансовый (19 октября 2023 г.). «Universal Music подает в суд на AI-стартап Anthropic за сбор текстов песен» . Арс Техника . Проверено 9 марта 2024 г.
- ^ Дэвид, Эмилия (19 октября 2023 г.). «Universal Music подает в суд на компанию AI Anthropic за распространение текстов песен» . Грань . Проверено 9 марта 2024 г.
- ^ Судебное дело по делу Concord Music Group против Anthropic , согласно CourtListener.
- ^ Перейти обратно: а б с д Масс, Брайсон (19 октября 2023 г.). «Крупные музыкальные издатели подают в суд на Anthropic за нарушение авторских прав на тексты песен» . ВенчурБит . Проверено 8 апреля 2024 г.
- ^ Бриттен, Блейк (17 января 2024 г.). «Anthropic ответила на иск музыкальных издателей о нарушении авторских прав на ИИ» . Рейтер . Проверено 7 апреля 2024 г.
Внешние ссылки [ править ]
Дифференцируемые вычисления |
|---|
