P (Doom)
P (Doom) - это термин в безопасности ИИ , который относится к вероятности катастрофических результатов (или «гибели») в результате искусственного интеллекта . [ 1 ] [ 2 ] Точные результаты, о которых идет речь, отличаются от одного прогноза к другому, но, как правило, намекают на экзистенциальный риск из искусственного общего интеллекта . [ 3 ]
Происходя, как внутренняя шутка среди исследователей ИИ, этот термин стал известен в 2023 году после выпуска GPT-4 , как громкие фигуры, такие как Джеффри Хинтон [ 4 ] и Джошуа Бенгио [ 5 ] начал предупреждать о рисках ИИ. [ 6 ] В опросе 2023 года исследователей ИИ попросили оценить вероятность того, что будущие достижения в области ИИ могут привести к вымиранию человека или аналогичному серьезному и постоянному нарушению в течение следующих 100 лет. Средний ответ составил 14,4%, со средней 5%. [ 7 ] [ 8 ]
Образец P (DOOM) Значения
[ редактировать ]| Имя | P (Doom) | Примечания |
|---|---|---|
| Дарио Амодеей | 10-25% [ 6 ] | Генеральный директор антропного |
| Элон Маск | 10-20% [ 9 ] | Бизнесмен и генеральный директор X , Tesla и SpaceX |
| Христианский | 50% [ 10 ] | Глава отдела исследований в Институте безопасности ИИ США |
| Лина Хан | 15% [ 6 ] | Председатель Федеральной торговой комиссии |
| Эммет Шар | 5-50% [ 6 ] | Соучредитель Twitch и бывшего временного генерального директора OpenAI |
| Джеффри Хинтон | 10%-50% [ 6 ] [ Примечание 1 ] | Исследователь ИИ, ранее из Google |
| Джошуа Бенгио | 20% [ 3 ] [ Примечание 2 ] | Компьютерный ученый и научный директор Монреальского института обучения алгоритмы |
| Ян Лейк | 10-90% [ 1 ] | Исследователь по выравниванию ИИ в Антропике, ранее из DeepMind и Openai |
| Витарик Бутерин | 10% [ 1 ] | Соучредитель Ethereum |
| И Хендрики | 80%+ [ 1 ] [ Примечание 3 ] | Директор Центра безопасности ИИ |
| Грэди Буч | c. 0% [ 1 ] [ Примечание 4 ] | Американский инженер программного обеспечения |
| Кейси Ньютон | 5% [ 1 ] | Американский технологический журналист |
| Элизер Юдковский | 95%+ [ 1 ] | Основатель Института исследований машинного разведки |
| Roman Yampolskiy | 99.9% [ 11 ] [ Примечание 5 ] | Латвийский компьютерный ученый |
| Маркс Андреатс | 0% [ 12 ] | Американский бизнесмен |
| Янн Лекун | <0,01% [ 13 ] [ Примечание 6 ] | Главный ученый ИИ в Meta |
| Тоби слова | 10% [ 14 ] | Австралийский философ и автор пропасти |
Критика
[ редактировать ]Были некоторые споры о полезности P (Doom) в качестве термина, отчасти из -за отсутствия ясности относительно того, является ли данный прогноз условным в отношении существования искусственного общего интеллекта , временных рамок и точного значения «гибель». [ 6 ] [ 15 ]
В популярной культуре
[ редактировать ]- В 2024 году австралийская рок -группа King Gizzard & The Lizard Wizard запустили свой новый лейбл под названием P (Doom) Records. [ 16 ]
Смотрите также
[ редактировать ]- Экзистенциальный риск искусственного общего интеллекта
- Заявление о риске исчезновения ИИ
- Выравнивание ИИ
- Это была безопасность
Примечания
[ редактировать ]- ^ Условно с тем, что AI не является «строго регулируемым», сроки 30 лет.
- ^ На основании предполагаемой «50-процентной вероятности того, что ИИ достигнет возможностей на уровне человека в течение десятилетия, и более 50 процентов вероятность того, что ИИ или сами люди повернут технологию против человечества в масштабе».
- ^ UP с ~ 20% 2 года назад.
- ^ Эквивалент "P (весь кислород в моей комнате спонтанно движется к углу тем самым, тем самым задушительный)".
- ^ В течение следующих 100 лет.
- ^ «Менее вероятно, чем астероид, вытирая нас».
Ссылки
[ редактировать ]- ^ Jump up to: а беременный в дюймовый и фон глин Рейли, Клинт (2023-07-12). «P (Doom) - последняя метрика апокалипсиса AI. Вот как рассчитать свой счет» . Быстрая компания .
- ^ Томас, Шон (2024-03-04). "Готовы ли мы к P (Doom)?" Полем Зритель . Получено 2024-06-19 .
- ^ Jump up to: а беременный «Это началось как мрачная шутка. Это также может быть один из самых важных вопросов, стоящих перед человечеством» . ABC News . 2023-07-14 . Получено 2024-06-18 .
- ^ Метц, Кейд (2023-05-01). « Крестный отец Ай» оставляет Google и предупреждает о опасности » . New York Times . ISSN 0362-4331 . Получено 2024-06-19 .
- ^ «Один из« крестных отцов ИИ »выйдет из него озабоченных» . Экономист . ISSN 0013-0613 . Получено 2024-06-19 .
- ^ Jump up to: а беременный в дюймовый и фон Руз, Кевин (2023-12-06). «Силиконовая долина сталкивается с новой метрикой ИИ с мрачным ИИ» . New York Times . ISSN 0362-4331 . Получено 2024-06-17 .
- ^ Пайпер, Келси (2024-01-10). «Тысячи экспертов искусственного интеллекта разорваны тем, что они создали, находит новое исследование» . Вокс . Получено 2024-09-02 .
- ^ «2023 Экспертный опрос о прогрессе в ИИ [AI влияет на вики]» . wiki.aiimpacts.org . Получено 2024-09-02 .
- ^ Тангалакис-Липперт, Кэтрин. «Элон Маск говорит, что ИИ может быть 20% -ная шанс разрушить человечество, но мы все равно должны это сделать» . Бизнес -инсайдер . Получено 2024-06-19 .
- ^ «Catgpt Creator говорит, что AIS AI 50% заканчивается« Doom » . Независимый . 2023-05-03 . Получено 2024-06-19 .
- ^ Альтчек, Ана. «Почему этот исследователь искусственного интеллекта думает, что есть 99,9% -ная шанс, что ИИ вытирает нас» . Бизнес -инсайдер . Получено 2024-06-18 .
- ^ Маранц, Эндрю (2024-03-11). «Среди ИИ ДУМСАЙТЕРИ» . Житель Нью -Йорка . ISSN 0028-792X . Получено 2024-06-19 .
- ^ Уэйн Уильямс (2024-04-07). «Лучший исследователь ИИ говорит, что ИИ положит конец человечеству, и мы должны перестать развивать его сейчас - но не волнуйтесь, Элон Маск не согласен» . Techradar . Получено 2024-06-19 .
- ^ "В этом столетии действительно есть вероятность вымирания человека в 1 из 6 человек?" Полем ABC News . 2023-10-08 . Получено 2024-09-01 .
- ^ Кинг, Исаак (2024-01-01). «Перестань говорить о P (Doom)» . Меньшерунг .
- ^ «Gum & Ambrose Kenny-Smith снова объединяется для нового совместного альбома« III Times » . DIY 2024-05-07 . Получено 2024-06-19 .