Страдание от рисков
Риски страданий , или С-риски , — это риски, связанные с астрономическим количеством страданий ; гораздо больше, чем все страдания, которые произошли на Земле до сих пор. [ 2 ] [ 3 ] Иногда их относят к подклассу экзистенциальных рисков . [ 4 ]
Источники возможных рисков включают встроенный искусственный интеллект. [ 5 ] и сверхинтеллект , [ 6 ] а также колонизация космоса , которая потенциально может привести к «постоянным и катастрофическим войнам» [ 7 ] и огромное увеличение страданий диких животных из-за завоза диких животных, которые «обычно ведут короткую, несчастную жизнь, полную иногда самых жестоких страданий», на другие планеты, намеренно или случайно. [ 8 ]
Стивен Амбрелло, исследователь этики искусственного интеллекта , предупредил, что биологические вычисления могут сделать проектирование систем более подверженным рискам. [ 5 ]
Индуцированная амнезия была предложена как способ снижения s-рисков в замкнутом сознательном ИИ и некоторых смежных с ИИ биологических системах, таких как органоиды мозга . [ 9 ]
См. также
[ редактировать ]Ссылки
[ редактировать ]- ^ Бостром, Ник (2013). «Предотвращение экзистенциального риска как глобальный приоритет» (PDF) . Глобальная политика . 4 (1): 15–3. дои : 10.1111/1758-5899.12002 . Архивировано (PDF) из оригинала 14 июля 2014 г. Получено 12 февраля 2024 г. - через Existential Risk.
- ^ Дэниел, Макс (20 июня 2017 г.). «S-риски: почему они являются наихудшими экзистенциальными рисками и как их предотвратить (EAG Boston 2017)» . Центр долгосрочных рисков . Архивировано из оригинала 8 октября 2023 г. Проверено 14 сентября 2023 г.
- ^ Хилтон, Бенджамин (сентябрь 2022 г.). « S-риски » . 80 000 часов . Архивировано из оригинала 9 мая 2024 г. Проверено 14 сентября 2023 г.
- ^ Бауманн, Тобиас (2017). «Часто задаваемые вопросы по S-риску» . Центр уменьшения страданий . Архивировано из оригинала 9 июля 2023 г. Проверено 14 сентября 2023 г.
- ^ Перейти обратно: а б Амбрелло, Стивен; Зоргнер, Стефан Лоренц (июнь 2019 г.). «Бессознательные когнитивные страдания: рассмотрение рисков, связанных с воплощенным искусственным интеллектом» . Философии . 4 (2): 24. doi : 10.3390/philosophies4020024 . HDL : 2318/1702133 .
- ^ Сотала, Кай; Глур, Лукас (27 декабря 2017 г.). «Сверхинтеллект как причина или лекарство от рисков астрономических страданий» . Информатика . 41 (4). ISSN 1854-3871 . Архивировано из оригинала 16 апреля 2021 г. Проверено 10 февраля 2021 г.
- ^ Торрес, Фил (01 июня 2018 г.). «Космическая колонизация и риски страданий: переоценка «правила максипока» » . Фьючерсы . 100 : 74–85. doi : 10.1016/j.futures.2018.04.008 . ISSN 0016-3287 . S2CID 149794325 . Архивировано из оригинала 29 апреля 2019 г. Проверено 10 февраля 2021 г.
- ^ Кович, Марко (01 февраля 2021 г.). «Риски космической колонизации» . Фьючерсы . 126 : 102638. doi : 10.1016/j.futures.2020.102638 . ISSN 0016-3287 . S2CID 230597480 .
- ^ Ткаченко, Егор (2024). «Позиция: Принудительная амнезия как способ смягчить потенциальный риск молчаливых страданий сознательного ИИ» . Материалы 41-й Международной конференции по машинному обучению . ПМЛР . Проверено 11 июня 2024 г.
Дальнейшее чтение
[ редактировать ]- Бауманн, Тобиас (2022). Как избежать худшего: как предотвратить моральную катастрофу . Независимо опубликовано. ISBN 979-8359800037 .
- Метцингер, Томас (19 февраля 2021 г.). «Искусственное страдание: аргумент в пользу глобального моратория на синтетическую феноменологию» . Журнал искусственного интеллекта и сознания . 08 : 43–66. дои : 10.1142/S270507852150003X . ISSN 2705-0785 .
- Минарди, Ди (15 октября 2020 г.). «Мрачная судьба, которая может быть хуже вымирания » . BBC Будущее . Проверено 11 февраля 2021 г.
- Бауманн, Тобиас (2017). «S-риски: Введение» . Центр уменьшения страданий . Проверено 10 февраля 2021 г.
- Альтхаус, Дэвид; Глур, Лукас (14 сентября 2016 г.). «Снижение рисков астрономических страданий: забытый приоритет» . Центр долгосрочных рисков . Проверено 10 февраля 2021 г.
