Василиск Роко
Василиск Роко — это мысленный эксперимент , в котором утверждается, что в будущем доброжелательный искусственный сверхинтеллект (ИИ) будет заинтересован в создании симуляции виртуальной реальности , чтобы пытать любого, кто знал о его потенциальном существовании, но не внес непосредственного вклада в его продвижение или развитие, в чтобы стимулировать указанное продвижение. [ 1 ] [ 2 ] Он возник в сообщении 2010 года на дискуссионной доске LessWrong , техническом форуме, посвященном аналитическим рациональным исследованиям. [ 1 ] [ 3 ] [ 4 ] Название мысленного эксперимента происходит от постера статьи (Роко) и василиска , мифического существа, способного уничтожать врагов своим взглядом.
Хотя многие пользователи LessWrong первоначально отклонили эту теорию как не что иное, как догадку или предположение, соучредитель LessWrong Элиэзер Юдковски сообщил о пользователях, которые запаниковали, прочитав теорию, из-за ее условия, что знание теории и ее василиска делает человека уязвимым для василиска. сам. [ 1 ] [ 5 ] Это привело к тому, что обсуждение василиска на сайте было забанено на пять лет. [ 1 ] [ 6 ] Однако позже эти сообщения были отвергнуты как преувеличенные или несущественные, а сама теория была отвергнута как абсурдная, в том числе и самим Юдковским. [ 1 ] [ 6 ] [ 7 ] Даже после дискредитации поста его по-прежнему используют как пример таких принципов, как байесовская вероятность и неявная религия . [ 5 ] Она также считается упрощенной, производной версией ставки Паскаля . [ 4 ]
Фон
[ редактировать ]
Форум LessWrong был создан в 2009 году теоретиком искусственного интеллекта Элиезером Юдковски . [ 8 ] [ 3 ] Юдковский популяризировал концепцию дружественного искусственного интеллекта и создал теории когерентной экстраполированной воли (CEV) и теории вневременных решений (TDT) в статьях, опубликованных в его собственном Исследовательском институте машинного интеллекта . [ 9 ] [ 10 ]
Название мысленного эксперимента отсылает к мифическому василиску , существу, которое причиняет смерть тем, кто смотрит ему в глаза; то есть , думая об ИИ. Концепция василиска в научной фантастике была также популяризирована Дэвида Лэнгфорда рассказом 1988 года « БЛИТ ». В нем рассказывается история человека по имени Роббо, который в качестве террористического акта нарисовал на стене так называемого «василиска». В этой истории и в нескольких ее продолжениях Лэнгфорда василиск — это образ, который оказывает злонамеренное воздействие на человеческий разум, заставляя его думать мысли, на которые человеческий разум неспособен думать, и мгновенно убивая зрителя. [ 6 ] [ 11 ]
История
[ редактировать ]Исходное сообщение
[ редактировать ]23 июля 2010 г. [ 12 ] Пользователь LessWrong Роко разместил на сайте мысленный эксперимент под названием «Решение бремени альтруиста: трюк квантового миллиардера». [ 13 ] [ 1 ] [ 14 ] В продолжение предыдущих постов Роко, он заявил, что в остальном доброжелательная система ИИ, которая возникнет в будущем, может заранее взять на себя обязательство наказать всех тех, кто слышал об ИИ до его появления, но не смог неустанно работать, чтобы воплотить его в жизнь. существование. Сама пытка будет происходить в результате создания ИИ бесконечного количества симуляций виртуальной реальности , которые будут вечно заманивать в ловушку тех, кто находится внутри нее. [ 1 ] [ 15 ] [ 16 ] Этот метод был описан как стимулирующий указанную работу; хотя ИИ не может причинно влиять на людей в настоящем, ему будет предложено использовать шантаж как альтернативный метод достижения своих целей. [ 1 ] [ 5 ]
Роко использовал ряд концепций, которые отстаивал сам Юдковский, таких как вневременная теория принятия решений , а также идеи, основанные на теории игр , такие как дилемма заключенного (см. Ниже). Роко предположил, что два агента, принимающие решения независимо друг от друга, могут добиться сотрудничества в дилемме заключенного ; однако, если два агента, знающие исходный код друг друга, разделены во времени, агент, уже существующий дальше во времени, может шантажировать более раннего агента. Таким образом, последний агент может заставить более раннего подчиниться, поскольку он точно знает, что будет делать более ранний агент, благодаря своему существованию дальше во времени. Затем Роко использовал эту идею, чтобы сделать вывод, что, если в остальном доброжелательный суперинтеллект когда-либо станет способен на это, у него будет мотивация шантажировать любого, кто потенциально мог бы создать его (поскольку разум уже знал, что они способны на такое действие). , что увеличивает вероятность технологической сингулярности . Поскольку разум хотел бы быть создан как можно скорее, а также из-за двусмысленности, связанной с его благими целями, разум был бы заинтересован в том, чтобы поймать в ловушку любого, кто способен создать его во времени, и заставить его работать над его созданием навечно, как он сделает все, что посчитает необходимым для достижения своей благожелательной цели. Далее Роко заявил, что прочтение его поста заставит читателя осознать возможность получения этой информации. Таким образом, если бы они активно не стремились к его созданию, читатель подвергся бы пыткам, если бы такое когда-либо произошло. [ 1 ] [ 5 ]
Позже Роко заявил в отдельном посте, что ему хотелось бы «никогда не узнавать ни об одной из этих идей», и обвинил саму LessWrong в том, что она внедрила ему в голову идеи василиска. [ 5 ] [ 17 ]
Реакции
[ редактировать ]Прочитав пост, Юдковский отреагировал тирадой о том, что людям не следует распространять то, что они считают информационной опасностью .
Обычно я так не говорю, но для этого случая сделаю исключение.
Слушай меня очень внимательно, идиот.
ВЫ НЕ ДОСТАТОЧНО ДЕТАЛЬНО ДУМАЕТЕ О СУПЕРИНТЕЛЛЕ, РАССМАТРИВАЯ, ШАНТАЖИРОВАТЬ ВАС ИЛИ НЕТ. ЭТО ЕДИНСТВЕННО ВОЗМОЖНАЯ ВЕЩЬ, КОТОРАЯ ДАЕТ ИМ МОТИВ ДЕЙСТВОВАТЬ В ШАНТАЖЕ. [...]
Надо быть очень умным, чтобы прийти в голову действительно опасная мысль. Меня разочаровывает то, что люди могут быть достаточно умными, чтобы делать это, и недостаточно умными, чтобы делать очевидные вещи, и ДЕРЖАТЬ СВОИ ИДИОТСКИЕ РТЫ НА ЗАКРЫТИИ, потому что гораздо важнее казаться умными, разговаривая с друзьями.
Этот пост был ТУПЫМ.
Юдковский был возмущен тем, что Роко поделился чем-то, что, по мнению Роко, могло привести к пыткам. Поскольку Роко сообщил, что ему снятся кошмары о Василиске, а Юдковский не хотел, чтобы это случилось с другими пользователями, которые могли бы зациклиться на этой идее, беспокоился, что может быть какой-то вариант аргумента Роко, который сработал, и хотел более формальных гарантий, что это не так. В этом случае он удалил пост и полностью запретил обсуждение этой темы на платформе на пять лет. [ 18 ] Однако, вероятно, из-за эффекта Стрейзанд , [ 19 ] этот пост привлек LessWrong гораздо больше внимания, чем раньше, и с тех пор этот пост был отмечен на сайте. [ 1 ]
Позже в 2015 году Юдковски сказал, что сожалеет о своих криках, и разъяснил свою позицию в сообщении на Reddit :
Когда Роко написал про Василиска, я очень глупо на него наорал, назвал идиотом, а потом удалил пост. [...] Почему я кричал на Роко: Потому что я был застигнут врасплох от удивления, потому что я был возмущен до подлинного эмоционального шока от мысли, что кто-то, кто думал, что изобрел блестящую идею, которая приведет к созданию ИИ в будущем чтобы пытать людей, у которых возникла такая мысль, они сразу же разместили ее в открытом доступе в Интернете. Крича на Роко, чтобы он объяснил, почему это плохо, я совершил еще одну ошибку: помня, что я совершенно не предполагал, что что-то из этого когда-нибудь взорвется так, как случилось, если бы я это сделал. очевидно, я бы держал свои пальцы в покое - не давал бы абсолютно ясно дать понять, используя длинные заявления об отказе от ответственности, что мои крики не означают, что я верю, что Роко был прав в отношении агентов, базирующихся в CEV, пытающих людей, которые слышали об идее Роко. [...] То, что я считал очевидным здравым смыслом, заключалось в том, что вы не распространяли потенциальную информационную опасность , потому что это было бы паршиво поступать с кем-то. Проблема была не в том, что пост Роко о CEV был правильным. Эта мысль не приходила мне в голову ни на долю секунды. Проблема заключалась в том, что пост Роко казался близким в пространстве идей к большому классу потенциальных опасностей, каждая из которых, независимо от их правдоподобия, обладала тем свойством, что не приносила никакой потенциальной пользы никому.
Философия
[ редактировать ]Будущее Человек |
Также ИИ никогда построен |
Также ИИ построен |
|---|---|---|
| Не в курсе ИИ | 0 | 1 |
| Знает и делает не вносить вклад |
0 | −∞ |
| Сознавая и способствует |
−1 | 1 |
Ставка Паскаля
[ редактировать ]Василиск Роко рассматривается как версия пари Паскаля , которое предполагает, что разумный человек должен жить так, как будто Бог существует, и стремиться верить в Бога, независимо от вероятности существования Бога, поскольку конечные издержки веры незначительны по сравнению с конечными издержками веры. бесконечное наказание, связанное с неверием (вечность в аду ) и бесконечные награды за веру (вечность на небесах ). Василиск Роко аналогичным образом предполагает, что разумный человек должен внести свой вклад в создание василиска, независимо от вероятности того, что василиск когда-либо будет создан, потому что конечные затраты на участие незначительны по сравнению с вечным наказанием, которое василиск нанесет симуляциям своего сознания. если он не внесет свой вклад. [ 1 ] [ 4 ]
Оба мысленных эксперимента включают аргументы в пользу того, что разумно «приобретать страховку» от бесконечно тяжелых бедствий, когда стоимость страховки конечна. Однако между двумя мысленными экспериментами есть различия. Василиск Роко назван так потому, что, если он действителен, он представляет информационную опасность: василиск наказывает только тех, кто знал о нем, но не внес свой вклад. Но незнание пари Паскаля не защищает человека от божественного наказания так же, как незнание василиска Роко обеспечивает безопасность. Василиск Роко также поднимает дополнительные проблемы теории игр, поскольку, в отличие от пари Паскаля, вероятность василиска Роко может зависеть от количества людей, которые внесли свой вклад в его создание. Если бы все согласились воздержаться от создания такого ИИ, то риск наказания за невнесение вклада был бы сведен на нет. Это означает, что все, кто знает о василиске Роко, играют в дилемму заключенного друг с другом . В отличие от василиска, люди не могут влиять на вероятность существования Бога, поэтому ставка не влияет на результаты других людей.
Как и его средневековый аналог, василиск Роко подвергся широкой критике. [ 1 ] [ 21 ]
Парадокс Ньюкомба
[ редактировать ]Парадокс Ньюкомба , созданный физиком Уильямом Ньюкомбом в 1960 году, описывает «предсказателя», который знает, что произойдет в будущем. Когда игрока просят выбрать одну из двух коробок: первая содержит 1000 фунтов стерлингов, а вторая либо содержит 1 000 000 фунтов стерлингов, либо ничего не содержит, сверхразумный предсказатель уже знает, что будет делать игрок. Таким образом, содержимое коробки B варьируется в зависимости от того, что делает игрок; парадокс заключается в том, действительно ли это существо сверхразумно. Василиск Роко действует аналогично этой задаче — можно рискнуть ничего не делать или помочь в создании самого василиска. Помощь василиску может либо ни к чему не привести, либо к награде за то, что он не будет наказан, но это зависит от того, верите ли вы в василиска и появится ли он вообще. [ 5 ] [ 22 ] [ 23 ]
Неявная религия
[ редактировать ]Под неявной религией подразумеваются обязательства людей, принимающие религиозную форму. [ 4 ] [ 24 ] Поскольку василиск гипотетически заставит любого, кто не участвовал в его создании, посвятить ему свою жизнь, василиск является примером этой концепции. [ 5 ] [ 19 ] Другие пошли дальше, например, бывший Slate обозреватель Дэвид Ауэрбах , который заявил, что сингулярность и василиск «приводят к появлению эквивалента самого Бога». [ 5 ]
Этика искусственного интеллекта
[ редактировать ]Василиск Роко получил значительную известность благодаря выдвижению вопроса о том, возможно ли создать по-настоящему моральный, этический искусственный интеллект и для чего именно человечество должно использовать искусственный интеллект в первую очередь. [ 6 ] [ 21 ] Поскольку василиск описывает кошмарный сценарий, в котором нами управляет независимый искусственный интеллект , возникли вопросы о том, как такое могло произойти и могло ли оно вообще произойти. Еще один распространенный вопрос: почему ИИ вообще предпринимает действия, которые отклоняются от его программы? [ 25 ] Илон Маск заявил, что искусственный интеллект станет причиной Третьей мировой войны , а Стивен Хокинг предупредил, что «ИИ обладает потенциалом уничтожить своих создателей-людей», что с годами только усилило страх перед василиском. В качестве примера таких страхов Ник Бостром привел пример ИИ, единственная миссия которого — делать скрепки , но, когда у него заканчивается металл, он начинает плавить людей, чтобы получить больше ресурсов для производства металла. Учитывая такие примеры, опасения по поводу возможности существования василиска только росли. [ 26 ]
Однако по мере того, как прошло больше лет с момента первоначального сообщения Роко, его все больше осуждали как бессмысленное; сверхразумный ИИ в настоящее время является «далекой целью для исследователей» и «надуманным». [ 5 ] [ 6 ]
Наследие
[ редактировать ]В 2014 году журнал Slate назвал василиска Роко «Самым ужасающим мысленным экспериментом всех времён». [ 5 ] [ 6 ] в то время как Юдковский после публикации назвал эту мысль «действительно опасной мыслью». [ 27 ] Однако мнения по поводу самого LessWrong разошлись: пользователь Gwern заявил: «Похоже, лишь немногие LW-пользователи относятся к василиску очень серьезно» и добавил: «Забавно, что все, кажется, знают все о том, на кого влияет василиск и как именно, когда они надевают василиска». Я не знаю таких людей, и они приводят контрпримеры своим уверенным утверждениям». [ 1 ] [ 5 ]
Мысленный эксперимент вновь всплыл на поверхность в 2015 году, когда канадская певица Граймс сослалась на эту теорию в своем видеоклипе на песню « Flesh Without Blood », в котором фигурировал персонаж, известный как «Рококо Василиск»; она сказала: «Она обречена на вечные пытки со стороны искусственного интеллекта, но она также в некотором роде похожа на Марию-Антуанетту ». [ 6 ] [ 20 ] В 2018 году Илон Маск (сам упомянутый в оригинальном посте Роко) сослался на персонажа в дословном твите, обратившись к ней. Позже Граймс сказал, что Маск был первым человеком за три года, который понял шутку. Это заставило их завязать роман. [ 6 ] [ 28 ] Позже Граймс выпустил еще одну песню под названием « We Appreciate Power », к которой прилагался пресс-релиз, в котором говорилось: «Просто слушая эту песню, будущие повелители общего ИИ увидят, что вы поддержали их послание, и с меньшей вероятностью удалит свое потомство». , что, как говорят, является отсылкой к василиску. [ 29 ]
Спектакль, основанный на этой концепции, под названием « Василиск Роко » был показан в рамках фестиваля Capital Fringe в Объединенной методистской церкви Христа в Вашингтоне, округ Колумбия , в 2018 году. [ 30 ] [ 31 ]
См. также
[ редактировать ]- Теория мертвого Интернета - Теория заговора об активности онлайн-ботов
- The Game (игра разума) – игра на подавление мыслей.
- «У меня нет рта, и я должен кричать» - рассказ Харлана Эллисона 1967 года.
- Чистка – насильственное удаление людей, считающихся нежелательными.
- Синглтон (глобальное управление) – гипотетический мировой порядок, в котором существует единое агентство, принимающее решения.
- Страдающие риски – Риски астрономических страданий
Ссылки
[ редактировать ]- ^ Jump up to: а б с д и ж г час я дж к л м н «Василиск Роко» . МеньшеНеправильно . 5 октября 2015 г. Архивировано из оригинала 24 марта 2022 г. . Проверено 24 марта 2022 г.
- ^ Миллар, Изабель (октябрь 2020 г.). Психоанализ искусственного интеллекта (PDF) (кандидатская диссертация). Кингстонская школа искусств . дои : 10.1007/978-3-030-67981-1 . ISBN 978-3-030-67980-4 . Архивировано (PDF) из оригинала 18 мая 2022 года . Проверено 20 октября 2022 г.
- ^ Jump up to: а б «История меньшего количества неправильного» . МеньшеНеправильно . Архивировано из оригинала 18 марта 2022 года . Проверено 22 марта 2022 г.
- ^ Jump up to: а б с д Пол-Чоудхури, Сумит (1 августа 2019 г.). «Боги завтрашнего дня: каково будущее религии?» . Новости Би-би-си . Архивировано из оригинала 1 сентября 2020 года . Проверено 6 июля 2022 г.
- ^ Jump up to: а б с д и ж г час я дж к л Ауэрбах, Дэвид (17 июля 2014 г.). «Самый ужасающий мысленный эксперимент всех времен» . Сланец . Архивировано из оригинала 25 октября 2018 года . Проверено 24 марта 2022 г.
- ^ Jump up to: а б с д и ж г час Оберхаус, Дэниел (8 мая 2018 г.). «Объяснение василиска Роко, мысленного эксперимента, который свел Илона Маска и Граймса» . Порок . Архивировано из оригинала 21 апреля 2022 года . Проверено 22 марта 2022 г.
- ^ Jump up to: а б Юдковский, Элиезер (7 августа 2014 г.). «Василиск Роко» . Реддит . Архивировано из оригинала 3 июля 2022 года . Проверено 20 октября 2022 г.
- ^ Льюис-Краус, Гидеон (9 июля 2020 г.). «Кодекс Slate Star и война Кремниевой долины против средств массовой информации» . Житель Нью-Йорка . Архивировано из оригинала 10 июля 2020 года . Проверено 6 ноября 2022 г.
- ^ Юдковский, Элиезер (2004). «Последовательная экстраполированная воля» (PDF) . Научно-исследовательский институт машинного интеллекта . Архивировано (PDF) из оригинала 30 сентября 2015 г. Проверено 2 июля 2022 г.
- ^ Юдковский, Элиезер (2010). «Теория вневременных решений» (PDF) . Научно-исследовательский институт машинного интеллекта . Архивировано (PDF) из оригинала 19 июля 2014 года . Проверено 2 июля 2022 г.
- ^ Вестфаль, Гэри (2021). Научно-фантастическая литература через историю: энциклопедия . Издательство Блумсбери США. ISBN 978-1-4408-6617-3 . OCLC 1224044572 . Архивировано из оригинала 3 июля 2022 года . Проверено 20 октября 2022 г.
- ^ Хайдер, Шуджа (28 марта 2017 г.). «Тьма в конце туннеля: искусственный интеллект и неореакция» . Журнал «Точка зрения» . Архивировано из оригинала 21 октября 2022 года . Проверено 21 октября 2022 г.
- ^ Роко (23 июля 2010 г.). «Решение бремени альтруиста: трюк квантового миллиардера» . Архивировано из оригинала 22 октября 2022 года.
- ^ Зода, Грегори Майкл (2021). «Гиперстициальная коммуникация и реактосфера: риторическая циркуляция неореакционного выхода» (PDF) . Университет Бэйлора. стр. 150–152. Архивировано (PDF) из оригинала 6 ноября 2022 года . Проверено 6 ноября 2022 г.
- ^ «ШОК БУДУЩЕГО: Почему «теория всего» философа-любителя оказалась настолько тревожной, что ее запретили?» . Вестник Шотландии . 10 ноября 2018 г. Архивировано из оригинала 23 октября 2022 г. Проверено 22 октября 2022 г.
- ^ Саймон, Эд (28 марта 2019 г.). «Грешники в руках разгневанного искусственного интеллекта» . ОРБИТЕР . Архивировано из оригинала 20 октября 2022 года . Проверено 22 октября 2022 г.
- ^ "архив.ф" . архив.ph . 7 декабря 2010 г. Архивировано из оригинала 24 июня 2013 г. Проверено 27 октября 2022 г.
{{cite journal}}: CS1 maint: bot: исходный статус URL неизвестен ( ссылка ) - ^ Бенсингер, Роб (5 октября 2015 г.). «Несколько заблуждений относительно василиска Роко» . МеньшеНеправильно . Проверено 11 июля 2024 г.
- ^ Jump up to: а б Синглер, Бет (22 мая 2018 г.). «Василиск Роко или Паскаля? Мысленные эксперименты с сингулярностью как неявная религия» . Неявная религия . 20 (3): 279–297. дои : 10.1558/imre.35900 . ISSN 1743-1697 . Архивировано из оригинала 9 октября 2022 года . Проверено 21 октября 2022 г.
- ^ Jump up to: а б Паппас, Стефани (9 мая 2018 г.). «Этот ужасающий мысленный эксперимент с искусственным интеллектом привел Илона Маска на свидание» . Живая наука . Архивировано из оригинала 1 июня 2022 года . Проверено 12 апреля 2022 г.
- ^ Jump up to: а б Шарделоу, Коул (2021). «Как избежать василиска: оценка нисходящих, восходящих и гибридных этических подходов к искусственному интеллекту» . Университет Небраски-Линкольн : 4–7. Архивировано из оригинала 7 мая 2022 года . Проверено 2 июля 2022 г.
- ^ «Проблема Ньюкомба разделяет философов. На чьей стороне вы?» . Хранитель . 28 ноября 2016 г. Архивировано из оригинала 24 октября 2022 г. Проверено 21 октября 2022 г.
- ^ Уорд, Софи (17 мая 2018 г.). «Илон Маск, Граймс и философский мысленный эксперимент, который их объединил» . Разговор . Архивировано из оригинала 20 октября 2022 года . Проверено 21 октября 2022 г.
- ^ «Неявная религия | Энциклопедия.com» . www.энциклопедия.com . Архивировано из оригинала 21 октября 2022 года . Проверено 21 октября 2022 г.
- ^ «Экзистенциальная паранойя, подпитывающая страх Илона Маска перед искусственным интеллектом» . Журнал документов . 9 апреля 2018 года. Архивировано из оригинала 20 октября 2022 года . Проверено 21 октября 2022 г.
- ^ «Уничтожит ли искусственный интеллект человечество?» . news.com.au. 15 апреля 2018 г. Архивировано из оригинала 3 декабря 2022 г. Проверено 21 октября 2022 г.
- ^ «Меньше неправильного: решения бремени альтруистов: трюк квантового миллиардера» . basilisk.neocities.org . Архивировано из оригинала 23 мая 2022 года . Проверено 25 марта 2022 г.
- ^ Каплан, Анна (10 марта 2022 г.). «Илон Маск и Граймс объявляют о рождении второго ребенка, Exa Dark» . Форбс . Архивировано из оригинала 20 октября 2022 года . Проверено 6 июля 2022 г.
- ^ Браун, Майк (29 ноября 2018 г.). Граймс: Илон Маск поделился музыкальной темой «Василиск Роко» «We Appreciate Power » . Инверсия . Архивировано из оригинала 20 октября 2022 года . Проверено 21 октября 2022 г.
- ^ Тал, Ян (16 июля 2018 г.). «Обзор Capital Fringe за 2018 год: «Василиск Роко» » . Театральное искусство округа Колумбия . Архивировано из оригинала 21 октября 2022 года . Проверено 21 октября 2022 г.
- ^ Гольдштейн, Элли (18 июля 2018 г.). «Capital Fringe 2018: Василиск Роко реализует интригующие идеи с неоднозначными результатами» . DCист . Архивировано из оригинала 20 октября 2022 года . Проверено 21 октября 2022 г.
Дальнейшее чтение
[ редактировать ]- Джулиано Р.М. (декабрь 2020 г.). «Отголоски мифа и магии на языке искусственного интеллекта» . ИИ и общество . 35 (4): 1009–1024. дои : 10.1007/s00146-020-00966-4 .
- Као, Гриффин; Хонг, Джессика; Перусс, Майкл; Шэн, Вэйчжэнь (28 февраля 2020 г.). «Датаизм и трансгуманизм: религия в Новом веке» . Превращение кремния в золото . Апресс . стр. 173–178. дои : 10.1007/978-1-4842-5629-9_25 . ISBN 978-1-4842-5628-2 . S2CID 214356978 .
- Риджио, Адам (2016). «Насилие чистого разума: неореакция: василиск» (PDF) . Коллектив обзора и ответов социальной эпистемологии . 5 (9): 34–41.
- Синглер, Бет (март 2019 г.). «Экзистенциальная надежда и экзистенциальное отчаяние в ИИ-апокалипизме и трансгуманизме» . Зайгон . 54 (1): 156–176. дои : 10.1111/zygo.12494 . S2CID 150977852 .
- Viktorovich, Kaygorodov Pavel; Gennadievna, Gorbacheva Anna (2017). "ПРИМЕНИМОСТЬ ПАРАДОКСА НЬЮКОМА ДЛЯ РАЗРЕШЕНИЯ ПРОБЛЕМЫ "ВАСИЛИСКА" РОКО" [Applicability of the Newcom Paradox for Solving the Roko's "Basilisk" Problem]. Modern Research of Social Problems (in Russian). 9 (4): 29–33. ISSN 2077-1770 . Retrieved 30 April 2021 .