Центр изучения экзистенциального риска
 | |
| Формирование | 2012 год |
|---|---|
| Основатели | |
| Цель | Изучение и смягчение экзистенциального риска |
| Штаб-квартира | Кембридж , Англия |
Головная организация | Кембриджский университет |
| Веб-сайт | крачка |
Центр изучения экзистенциального риска ( CSER ) — исследовательский центр Кембриджского университета , предназначенный для изучения возможных угроз уровня вымирания, создаваемых нынешними или будущими технологиями. [1] Соучредителями центра являются Хью Прайс (профессор философии Бертрана Рассела в Кембридже), Мартин Рис (королевский астроном и бывший президент Королевского общества ) и Яан Таллинн (сооснователь Skype , ранний инвестор Anthropic ). [2]
Направления деятельности [ править ]
технологическими экстремальными Управление рисками
Риски связаны с возникающими и будущими технологическими достижениями и последствиями человеческой деятельности. Управление этими экстремальными технологическими рисками является неотложной задачей, но она создает особые трудности и сравнительно игнорируется в научных кругах. [3]
- Исследователи CSER разработали широко используемый инструмент для автоматического сканирования научной литературы в поисках новых исследований, касающихся глобальных рисков. [4]
- CSER провел две международные Кембриджские конференции по катастрофическим рискам. [5] [6] Центр также консультировал по вопросам создания проектов глобального риска в Австралийском национальном университете. [7] Калифорнийский университет, Лос-Анджелес [8] и Университет Уорика. [9]
- CSER помог создать первую межпартийную парламентскую группу для будущих поколений в парламенте Соединенного Королевства, принеся политическим лидерам Великобритании глобальный риск и долгосрочное мышление. [10]
- CSER провел более тридцати семинаров, объединяющих научные круги, политики и промышленность по таким темам, как кибербезопасность, ядерная безопасность, изменение климата и генный драйв. [11]
- Открытые лекции CSER были просмотрены в Интернете более 100 000 раз. [12]
биологические катастрофические риски Глобальные
- В 2017 году CSER собрал политиков и ученых, чтобы определить проблемы, связанные с Конвенцией о биологическом оружии (КБО). Ключевая выявленная проблема заключалась в том, что из-за высоких темпов прогресса в соответствующих науках и технологиях руководящим органам, включая КБО, стало очень трудно идти в ногу со временем. [13]
- Исследователи CSER провели исследование по 20 новым проблемам биологической инженерии, привлекая 30 европейских и американских экспертов. [14] Они представили документ на Совещании государств-участников КБО в 2017 году. [15] и в Научно-консультативном совете Организации по запрещению химического оружия в 2018 году. [16]
риски и глобальная Экстремальные среда окружающая
- Мартин Рис и Парта Дасгупта , старший советник, совместно с Ватиканом организовали серию влиятельных семинаров. Семинар 2015 года повлиял на выпуск Папской энциклики об изменении климата. [17] что, в свою очередь, повлияло на Парижское соглашение об изменении климата. Результаты семинара 2017 года вскоре будут опубликованы в виде книги о биологическом вымирании. [18]
- Исследователи CSER опубликовали статьи об утрате биоразнообразия и управлении им в журнале Nature. [19] воздействие высокоурожайного земледелия на окружающую среду [20] и перспективы геоинженерии . [21]
- Исследователи CSER опубликовали отчет, призывающий включать в рейтинги бизнес-школ устойчивое развитие. [22] Четыре дня спустя Financial Times объявила о «полном пересмотре нашей методологии». [23]
с передовым искусственным интеллектом связанные , Риски
- В 2015 году CSER помог организовать конференцию по будущим направлениям развития искусственного интеллекта в Пуэрто-Рико, в результате которой Открытое письмо по искусственному интеллекту, призывающее к проведению исследований по обеспечению безопасности и общественной пользы систем искусственного интеллекта. лидеры исследований во всем мире подписали [24]
- В 2016 году CSER запустил свое первое дочернее предприятие: Центр будущего интеллекта Леверхалма (CFI). CFI под руководством профессора Прайса фокусируется на возможностях и проблемах, связанных с ИИ. [25]
- Начиная с 2017 года CSER организовал серию научных конференций, посвященных теории принятия решений и безопасности искусственного интеллекта. [26]
- В 2018 году совместно с партнерами из технологических компаний и аналитических центров по безопасности CSER опубликовал книгу « Вредоносное использование искусственного интеллекта: прогнозирование, предотвращение и смягчение последствий », посвященную последствиям ИИ для физической и кибербезопасности. [27] Они также опубликовали книгу «Гонка ИИ: риторика и риски» , которая получила первый приз за лучшую статью на конференции AAAI / ACM AI Ethics and Society 2018. [28]
Освещение СМИ в
CSER освещался во многих газетах (особенно в Великобритании). [29] [30] [31] в основном охватывающих различные интересующие темы. CSER был представлен на обложке журнала Wired . [32] и в специальном о Франкенштейне выпуске журнала Science в 2018 году. [33]
Советники [ править ]
В число консультантов CSER входят ученые из Кембриджа, такие как:
- Сэр Парта Дасгупта (экономика), лауреат премии «Голубая планета»
- Профессор Сьюзен Оуэнс (география)
- Профессор Билл Сазерленд (зоология)
- Профессор Джейн Хил (философия).
И такие консультанты, как:
- Герман Хаузер (основатель Acorn Computers и ARM )
- Дэвид Кливли (эксперт в области телекоммуникаций и предприниматель Silicon Fen)
- Илон Маск ( Tesla и SpaceX )
- Джордж Черч (биотехнология)
- Питер Сингер (философия)
- Стюарт Дж. Рассел (Искусственный интеллект)
- Макс Тегмарк (Космология). [34]
См. также [ править ]
- Бюллетень ученых-атомщиков
- Инициатива по ядерной угрозе
- Центр Джонса Хопкинса по безопасности здоровья
- Глобальные катастрофические риски
- Институт будущего человечества
- Институт будущего жизни
- Леверхалм Центр будущего разведки
- Научно-исследовательский институт машинного интеллекта
Ссылки [ править ]
- ^ Биба, Эрин (1 июня 2015 г.). «Познакомьтесь с соучредителем аналитического центра по апокалипсису». Научный американец . 312 (6): 26. doi : 10.1038/scientificamerican0615-26 . ПМИД 26336680 .
- ^ Льюси, Фред (25 ноября 2012 г.). «Последнее изобретение человечества и наше неопределенное будущее» . Новости исследований . Проверено 24 декабря 2012 г.
- ^ «Управление экстремальными технологическими рисками» .
- ^ «Сеть исследования экзистенциальных рисков | Сеть исследования X-рисков | www.x-risk.net» .
- ^ «Кембриджская конференция по катастрофическим рискам 2016» .
- ^ «Кембриджская конференция по катастрофическим рискам 2018» .
- ^ «Последние новости | Люди за выживание» .
- ^ «Институт наук о рисках Б. Джона Гаррика» .
- ^ «Исследователи PAIS получают престижное финансирование от Леверхалма» .
- ^ «Appg-будущее-генс» .
- ^ "События" .
- ^ «CSER Кембридж» . Ютуб . Проверено 6 апреля 2019 г.
- ^ «Конвенция по биологическому оружию: что дальше?» .
- ^ Винтл, Бонни С.; Бём, Кристиан Р.; Родос, Кэтрин; Моллой, Дженнифер С.; Миллетт, Пирс; Адам, Лаура; Брейтлинг, Райнер; Карлсон, Роб; Касагранде, Рокко; Дандо, Малькольм; Даблдей, Роберт; Дрекслер, Эрик; Эдвардс, Бретт; Эллис, Том; Эванс, Николас Г.; Хаммонд, Ричард; Хаселофф, Джим; Каль, Линда; Куикен, Тодд; Личман, Бенджамин Р.; Мэтьюман, Колетт А.; Нэпьер, Джонатан А.; Охейгертай, Шон С.; Покровитель Никола Дж.; Перелло, Эдвард; Шапира, Филип; Тейт, Джойс; Такано, Эрико; Сазерленд, Уильям Дж. (2017). «Трансатлантический взгляд на 20 новых проблем биологической инженерии» . электронная жизнь . 6 . дои : 10.7554/eLife.30247 . ПМЦ 5685469 . ПМИД 29132504 .
- ^ «Пресс-конференция КБО» .
- ^ «Разговор с Организацией по запрещению химического оружия» .
- ^ Калифорнийский университет (24 сентября 2015 г.). «Представление Папе о парковке» . Проверено 6 апреля 2019 г. - через YouTube.
- ^ Дасгупта, Парта; Рэйвен, Питер; Макайвор, Анна, ред. (2019). Биологическое вымирание под редакцией Партхи Дасгупты . Издательство Кембриджского университета. дои : 10.1017/9781108668675 . ISBN 9781108668675 . S2CID 241969653 .
- ^ Амано, Тацуя; Секели, Тамаш; Сандел, Броуди; Надь, Сабольч; Мундкур, Тэдж; Лангендоен, Том; Бланко, Дэниел; Сойкан, Кандан У.; Сазерленд, Уильям Дж. (2017). «Успешное сохранение мировых популяций водоплавающих птиц зависит от эффективного управления» (PDF) . Природа . 553 (7687): 199–202. дои : 10.1038/nature25139 . ПМИД 29258291 . S2CID 205262876 .
- ^ Балмфорд, Эндрю; Амано, Тацуя; Бартлетт, Харриет; Чедвик, Дэйв; Коллинз, Адриан; Эдвардс, Дэвид; Филд, Роб; Гарнсуорси, Филип; Грин, Рис; Смит, Пит; Уотерс, Хелен; Уитмор, Эндрю; Брум, Дональд М.; Чара, Джулиан; Финч, Том; Гарнетт, Эмма; Гаторн-Харди, Альфред; Эрнандес-Медрано, Хуан; Эрреро, Марио; Хуа, Фанъюань; Латавец, Агнешка; Миссельбрук, Том; Фалан, Бен; Симмонс, Бенно И.; Такахаси, Таро; Воуз, Джеймс; Зу Эрмгассен, Эразм; Эйснер, Роуэн (2018). «Экологические издержки и выгоды высокоурожайного земледелия» . Устойчивость природы . 1 (9): 477–485. дои : 10.1038/s41893-018-0138-5 . ПМК 6237269 . ПМИД 30450426 .
- ^ Карри, Адриан (2018). «Геоинженерная напряженность» (PDF) . Фьючерсы . 102 : 78–88. doi : 10.1016/j.futures.2018.02.002 . hdl : 10871/35739 . S2CID 240258929 .
- ^ «Рейтинги бизнес-школ XXI века» .
- ^ Бервик, Изабель (27 января 2019 г.). «По мере того как бизнес-школы переосмысливают свою деятельность, то же самое должна сделать и FT» . Файнэншл Таймс .
- ^ Макмиллан, Роберт (16 января 2015 г.). «ИИ прибыл, и это действительно беспокоит самые светлые умы мира» . Проводной . Проверено 24 апреля 2015 г.
- ^ «Центр Леверхалма будущего разведки» .
- ^ «Решение и ИИ» .
- ^ вредоносный порт.com
- ^ «Награда за лучшую статью – конференция Aies» .
- ^ Коннор, Стив (14 сентября 2013 г.). «Сможем ли мы выжить?» . Новозеландский Вестник .
- ^ «Освещение CSER в СМИ» . Центр изучения экзистенциального риска. Архивировано из оригинала 30 июня 2014 года . Проверено 19 июня 2014 г.
- ^ «Последнее изобретение человечества и наше неопределенное будущее» . Новости исследований Кембриджского университета . 25 ноября 2012 г.
- ^ Бенсон, Ричард (12 февраля 2017 г.). «Познакомьтесь со Стражами Земли, реальными людьми Икс и женщинами, спасающими нас от экзистенциальных угроз» . Проводная Великобритания .
- ^ Купфершмидт, Кай (12 января 2018 г.). «Укрощение монстров завтрашнего дня». Наука . 359 (6372): 152–155. Бибкод : 2018Sci...359..152K . дои : 10.1126/science.359.6372.152 . ПМИД 29326256 .
- ^ "Команда" .
