Синглтон (глобальное управление)
В футурологии синглтон — это гипотетический мировой порядок, в котором существует единственный орган, принимающий решения на самом высоком уровне, способный осуществлять эффективный контроль над своей областью и постоянно предотвращать как внутренние, так и внешние угрозы своему превосходству. Этот термин был впервые определен Ником Бостромом . [ 1 ] [ 2 ] [ 3 ] [ 4 ] [ 5 ] [ 6 ] [ 7 ] [ 8 ]
Обзор
[ редактировать ]По словам Ника Бострома, синглтон — это абстрактная концепция, которую можно реализовать различными способами: [ 9 ]
синглтоном может быть демократия, тирания, единый доминирующий ИИ , сильный набор глобальных норм, включающих эффективные положения для их собственного соблюдения, или даже инопланетный повелитель – его определяющей характеристикой является просто то, что это некая форма агентства, которое может решать проблемы. все основные глобальные проблемы координации. Можно, но нужно нет, напоминают любую знакомую форму человеческого управления.
Бостром утверждает, что сверхразум может образовать синглетона. [ 9 ] Технологии наблюдения и контроля над разумом также могут способствовать созданию синглтона. [ 10 ]
Синглтон имеет как потенциальные риски, так и потенциальные преимущества. Примечательно, что подходящий синглтон мог бы решить проблемы мировой координации, которые иначе были бы неразрешимы, открывая цивилизации иначе недоступные траектории развития. Например, Бен Герцель , исследователь AGI , предполагает, что вместо этого люди могут решить создать «ИИ-няню» с «слегка сверхчеловеческим интеллектом и способностями наблюдения», чтобы защитить человеческую расу от экзистенциальных рисков, таких как нанотехнологии , и задержать развитие других технологий. недружественные) искусственные интеллекты до тех пор, пока не будут решены вопросы безопасности. [ 11 ] Синглтон может устанавливать «очень строгие ограничения на собственное осуществление власти (например, строго ограничиваясь обеспечением соблюдения определенных международных правил, предусмотренных договором, или либертарианских принципов)». [ 9 ] Более того, Бостром предполагает, что одиночка может сдерживать дарвиновское эволюционное давление, не позволяя агентам, заинтересованным только в размножении, доминировать. [ 12 ]
Однако Бостром также считает возможность стабильного, репрессивного, тоталитарного глобального режима серьезным экзистенциальным риском. [ 13 ] Сама стабильность синглтона делает установку плохого синглтона особенно катастрофической, поскольку последствия невозможно исправить. Брайан Каплан пишет, что «возможно, вечность тоталитаризма была бы хуже, чем вымирание». [ 14 ]
Точно так же Ганс Моргентау подчеркивал, что механическое развитие оружия, транспорта и связи делает «завоевание мира технически возможным, и они делают технически возможным удерживать мир в этом завоеванном состоянии». Его отсутствие было причиной того, что великие древние империи, хотя и огромные, не смогли завершить всеобщее завоевание своего мира и увековечить это завоевание. Однако теперь это возможно. Технологии устраняют как географические, так и климатические барьеры. «Сегодня никакие технологические препятствия не стоят на пути всемирной империи», поскольку «современные технологии позволяют распространить контроль над разумом и действиями на каждый уголок земного шара, независимо от географии и времени года». [ 15 ]
См. также
[ редактировать ]- Поглощение ИИ
- Экзистенциальный риск
- Дружественный искусственный интеллект
- Суперинтеллект
- сверхдержава
Ссылки
[ редактировать ]- ^ Ник Бостром (2006). «Что такое синглтон?» . Лингвистические и философские исследования 5 (2): 48-54.
- ^ Дворский, Георгий (11 июня 2013 г.). «7 совершенно неожиданных результатов, которые могут последовать за сингулярностью» . ио9 . Проверено 3 февраля 2016 г.
- ^ Миллер, Джеймс Д. (6 сентября 2011 г.). «Синглтонное решение» . hplusmagazine.com . Проверено 3 февраля 2016 г.
- ^ Тиль, Томас (21 декабря 2014 г.). «Суперинтеллект вовсе не супер» . Фаз.нет . Франкфуртер Альгемайне Цайтунг . Проверено 3 февраля 2016 г.
- ^ Баррат, Джеймс (октябрь 2013 г.). Наше последнее изобретение: искусственный интеллект и конец человеческой эры . Макмиллан. ISBN 978-0312622374 . Проверено 3 февраля 2016 г.
- ^ Хаггстрем, Олле (2016). Здесь обитают драконы: наука, технологии и будущее человечества . Издательство Оксфордского университета. ISBN 9780198723547 . Проверено 3 февраля 2016 г.
- ^ О'Матуна, Донал (2009). Наноэтика: большие этические проблемы с маленькой технологией . А&С Черный. п. 185 . ISBN 9781847063953 . Проверено 3 февраля 2016 г.
- ^ Кеннекер, Карстен (19 ноября 2015 г.). «Фукусима с искусственным интеллектом» . Спектр . Проверено 3 февраля 2016 г.
- ^ Jump up to: а б с Бостром, Ник (2014). Суперинтеллект: пути, опасности, стратегии (1-е изд.). Оксфорд, Великобритания Нью-Йорк, Нью-Йорк: Издательство Оксфордского университета. ISBN 978-0-19-967811-2 .
- ^ Ник Бостром (2006). «Что такое синглтон?» . Лингвистические и философские исследования 5 (2): 48-54.
- ^ Герцель, Бен. « Должно ли человечество создать глобальную няню с искусственным интеллектом, чтобы отсрочить сингулярность до тех пор, пока она не будет лучше понята? », Журнал исследований сознания 19.1-2 (2012): 1-2.
- ^ Ник Бостром (2004). «Будущее эволюции человека» . Смерть и анти-смерть: двести лет после Канта, пятьдесят лет после Тьюринга , изд. Чарльз Тэнди (Издательство Университета Риа: Пало-Альто, Калифорния): 339–371.
- ^ Ник Бостром (2002). «Экзистенциальные риски: анализ сценариев вымирания человечества и связанных с ними опасностей» . Журнал эволюции и технологий 9 (1).
- ^ Брайан Каплан (2008). « Тоталитарная угроза ». Глобальные катастрофические риски , ред. Бостром и Чиркович (Издательство Оксфордского университета): 504–519. ISBN 9780198570509
- ^ Политика среди наций: борьба за власть и мир , 4-е издание, Нью-Йорк: Альфред А. Кнопф, 1967, стр. 358-365.