МеньшеНеправильно
 | |
Тип сайта | Интернет-форум , блог |
|---|---|
| Доступно в | Английский |
| Создано | Элиэзер Юдковский |
| URL-адрес | LessWrong.com |
| Регистрация | Необязательно, но необходимо для добавления контента |
| Запущен | 1 февраля 2009 г |
| Текущий статус | Активный |
| Написано в | JavaScript , CSS (на базе React и GraphQL ) |
LessWrong (также называемый Less Wrong ) — это общественный блог и форум, посвященный обсуждению когнитивных предубеждений , философии , психологии , экономики , рациональности и искусственного интеллекта , а также других тем. [1] [2]
Цель
[ редактировать ]LessWrong пропагандирует изменения образа жизни, которые, по мнению сообщества, ведут к повышению рациональности и самосовершенствованию . Самыми известными публикациями LessWrong являются «Последовательности», серия эссе, целью которых является описание того, как избежать типичных ошибок человеческого рассуждения с целью улучшения процесса принятия решений и оценки доказательств. [3] [4] Одним из предложений является использование теоремы Байеса в качестве инструмента принятия решений. [2] Также уделяется внимание психологическим барьерам, которые мешают принимать правильные решения, включая обусловленность страхом и когнитивные предубеждения , которые изучал психолог Дэниел Канеман . [5]
LessWrong также занимается искусственным интеллектом, трансгуманизмом , экзистенциальными угрозами и сингулярностью . The New York Observer в 2019 году отметила, что «несмотря на то, что группа New York Less Wrong называет себя форумом, посвященным «искусству человеческой рациональности», … зациклена на той ветви футуризма , которая выглядела бы более комфортно в трехмерном мультиплексе». чем семинар для аспирантов: страшная экзистенциальная угроза – или, если повезет, утопическое обещание – известная как технологическая сингулярность … Называя себя «рационалистами», как это сделала команда «Меньше неправильных», становится намного труднее их уволить. как « культ Судного дня ». [6]
История
[ редактировать ]
LessWrong возник на основе Overcoming Bias , более раннего группового блога, посвященного человеческой рациональности, который начался в ноябре 2006 года с исследователем искусственного интеллекта Элиезером Юдковски и экономистом Робином Хэнсоном в качестве основных участников. В феврале 2009 года посты Юдковски были использованы в качестве исходного материала для создания блога сообщества LessWrong , а Overcoming Bias стал личным блогом Хэнсона. [7] В 2013 году значительная часть рационалистического сообщества переключила внимание на Кодекс Slate Star Кодекса Скотта Александера . [3]
Искусственный интеллект
[ редактировать ]Обсуждения ИИ в рамках LessWrong включают согласование ИИ , безопасность ИИ , [8] и машинное сознание . [ нужна ссылка ] Статьи об искусственном интеллекте, опубликованные на LessWrong, цитировались в средствах массовой информации. [8] [9] LessWrong и связанная с ним работа в области ИИ являются предметами книги 2019 года «ИИ не ненавидит вас» , написанной бывшим научным корреспондентом BuzzFeed Томом Чиверсом. [10] [11] [12]
Эффективный альтруизм
[ редактировать ]LessWrong сыграл значительную роль в развитии движения эффективного альтруизма (ЭА). [13] и эти два сообщества тесно переплетены. [14] : 227 В опросе пользователей LessWrong в 2016 году 664 из 3060 респондентов, или 21,7%, назвали себя «эффективными альтруистами». Отдельный опрос эффективных альтруистов в 2014 году выявил, что 31% респондентов впервые услышали об EA через LessWrong . [14] хотя к 2020 году это число упало до 8,2%. [15]
Василиск Роко
[ редактировать ]В июле 2010 года участник LessWrong Роко разместил мысленный эксперимент на сайте , в котором в остальном доброжелательная система ИИ будущего пытает людей, которые слышали об ИИ до его появления и не смогли неустанно работать над его появлением, чтобы стимулировать сказанное. работа. Эта идея стала известна как « Василиск Роко », основанная на идее Роко о том, что простое слушание об этой идее даст гипотетической системе искусственного интеллекта стимул попробовать такой шантаж . [16] [17] [6]
Неореакция
[ редактировать ]Раздел комментариев журнала «Преодоление предвзятости» привлек внимание таких видных неореакционеров , как Кертис Ярвин (псевдоним Менсиус Молдбаг), основатель неореакционного движения, [18] и Хэнсон опубликовал свою точку зрения на дебаты против Молдбага о футархии . [19] После того, как LessWrong отделилась от Overcoming Bias , она также привлекла некоторых людей, связанных с неореакцией, к дискуссиям по евгенике и эволюционной психологии . [20] Однако Юдковский решительно отверг неореакцию. [21] [22] В опросе среди пользователей LessWrong в 2016 году 28 из 3060 респондентов (0,92%) назвали себя «неореакционерами». [23]
Известные пользователи
[ редактировать ]LessWrong был связан с несколькими влиятельными участниками. Основатель Элиэзер Юдковски создал платформу для продвижения рациональности и повышения осведомленности о потенциальных рисках, связанных с искусственным интеллектом. [24] Скотт Александер стал одним из самых популярных авторов сайта, а затем запустил собственный блог Slate Star Codex, в котором обсуждал вопросы безопасности и рациональности ИИ. [24]
Среди других известных пользователей LessWrong — Пол Кристиано , Вэй Дай и Цви Мовшовиц . Подборка публикаций этих и других участников, отобранных в процессе проверки сообществом. [25] были изданы в составе сборников эссе «Карта, отражающая территорию». [26] и «Двигатели познания». [27] [25] [28]
Ссылки
[ редактировать ]- ^ «Меньше неправильных часто задаваемых вопросов» . МеньшеНеправильно. Архивировано из оригинала 30 апреля 2019 года . Проверено 25 марта 2014 г.
- ^ Jump up to: а б Миллер, Джеймс (28 июля 2011 г.). «Вы можете узнать, как стать более рациональным» . Бизнес-инсайдер . Архивировано из оригинала 10 августа 2018 года . Проверено 25 марта 2014 г.
- ^ Jump up to: а б Льюис-Краус, Гидеон (9 июля 2020 г.). «Кодекс Slate Star и война Кремниевой долины против средств массовой информации» . Житель Нью-Йорка . Архивировано из оригинала 10 июля 2020 года . Проверено 4 августа 2020 г.
- ^ «Основные моменты последовательностей» . МеньшеНеправильно. Архивировано из оригинала 6 июля 2024 года . Проверено 12 июля 2024 г.
- ^ Беркман, Оливер (9 марта 2012 г.). «Эта рубрика изменит вашу жизнь: задали каверзный вопрос? Ответьте на более простой» . Хранитель . Архивировано из оригинала 26 марта 2014 года . Проверено 25 марта 2014 г.
- ^ Jump up to: а б Тику, Ниташа (25 июля 2012 г.). «Вера, надежда и сингулярность: вход в Матрицу с футуристическим набором Нью-Йорка» . Наблюдатель . Архивировано из оригинала 12 апреля 2019 года . Проверено 12 апреля 2019 г.
- ^ «Откуда взялся Less Wrong? (Часто задаваемые вопросы по LessWrong)» . Архивировано из оригинала 30 апреля 2019 года . Проверено 25 марта 2014 г.
- ^ Jump up to: а б Чиверс, Том (22 ноября 2023 г.). «Что мы узнали об апокалипсисе роботов благодаря разгрому OpenAI» . Семафор . Архивировано из оригинала 3 марта 2024 года . Проверено 14 июля 2024 г.
С конца 1990-х годов эти опасения стали более конкретными и объединились вокруг вышедшей в 2014 году книги Ника Бострома «Суперинтеллект: пути, опасности, стратегии» и блога Элиезера Юдковски LessWrong.
- ^ Ньюпорт, Калифорния (15 марта 2024 г.). «Может ли ИИ строить планы?» . Житель Нью-Йорка . ISSN 0028-792X . Проверено 14 июля 2024 г.
- ^ Каудри, Кэтрин (21 сентября 2017 г.). «W&N выигрывает дебют научного репортера Buzzfeed после аукциона» . Книготорговец . Архивировано из оригинала 27 ноября 2018 года . Проверено 21 сентября 2017 г.
- ^ Чиверс, Том (2019). ИИ не ненавидит вас . Вайденфельд и Николсон. ISBN 978-1474608770 .
- ^ Марриотт, Джеймс (31 мая 2019 г.). «Обзор Тома Чиверса «ИИ не ненавидит тебя» — почему ботаники нервничают» . Таймс . ISSN 0140-0460 . Архивировано из оригинала 23 апреля 2020 года . Проверено 3 мая 2020 г.
- ^ де Лазари-Радек, Катажина; Певец, Питер (27 сентября 2017 г.). Утилитаризм: очень краткое введение . Издательство Оксфордского университета. п. 110. ИСБН 9780198728795 .
- ^ Jump up to: а б Чиверс, Том (2019). «Глава 38: Эффективные альтруисты». ИИ не ненавидит вас . Вайденфельд и Николсон. ISBN 978-1474608770 .
- ^ Мосс, Дэвид (20 мая 2021 г.). «Опрос EA 2020: как люди участвуют в EA» . Форум эффективного альтруизма . Архивировано из оригинала 28 июля 2021 года . Проверено 28 июля 2021 г.
- ^ С любовью, Дилан (6 августа 2014 г.). «ВНИМАНИЕ: простое чтение об этом мысленном эксперименте может разрушить вашу жизнь» . Бизнес-инсайдер . Архивировано из оригинала 18 ноября 2018 года . Проверено 6 декабря 2014 г.
- ^ Ауэрбах, Дэвид (17 июля 2014 г.). «Самый ужасающий мысленный эксперимент всех времен» . Сланец . Архивировано из оригинала 25 октября 2018 года . Проверено 18 июля 2014 г.
- ^ Сандифер, Элизабет (2018). Неореакция василиска: очерки об альтернативных правых и вокруг них (2-е изд.). Эрудиторум Пресс.
один из сайтов, где [Молдбаг] начал свою карьеру в качестве комментатора, был на Overcoming Bias, то есть там, где Юдковский писал до LessWrong.
- ^ Хэнсон, Робин. «Мои дебаты о молдбагах» . Преодоление предвзятости . Архивировано из оригинала 24 января 2010 года . Проверено 13 июля 2024 г.
- ^ Держите, Элмо (22 июня 2016 г.). «Странные и противоречивые взгляды на мир миллиардера Кремниевой долины Питера Тиля» . Слияние . Архивировано из оригинала 13 февраля 2017 года . Проверено 5 октября 2016 г.
Благодаря дискуссиям LessWrong о евгенике и эволюционной психологии она привлекла некоторых читателей и комментаторов, связанных с альтернативными правыми и неореакцией, этой широкой когортой неофашистских, белых националистов и троллей-женоненавистников.
- ^ Риджио, Адам (23 сентября 2016 г.). «Насилие чистого разума: неореакция: василиск» . Коллектив обзора и ответов социальной эпистемологии . 5 (9): 34–41. ISSN 2471-9560 . Архивировано из оригинала 5 октября 2016 года . Проверено 5 октября 2016 г.
Лэнд и Ярвин являются открытыми союзниками нового реакционного движения, в то время как Юдковский насчитывает среди своих фанатов множество реакционеров, несмотря на то, что считает их расистскую политику отвратительной.
- ^ Элиезер Юдковский (8 апреля 2016 г.). «Без названия» . Оптимизируйте буквально всё (блог) . Архивировано из оригинала 26 мая 2019 года . Проверено 7 октября 2016 г.
- ^ Херманссон, Патрик; Лоуренс, Дэвид; Малхолл, Джо; Мердок, Саймон (2020). «Тёмное Просвещение: неореакция и Кремниевая долина» . Международные альтернативные правые. Фашизм XXI века? . Абингдон-он-Темз, Англия, Великобритания: Routledge. ISBN 9781138363861 . Архивировано из оригинала 13 июня 2022 года . Проверено 2 октября 2020 г. .
- ^ Jump up to: а б Миллер, доктор медицинских наук (2017). «Размышления о путешествии к сингулярности». В Каллагане, В.; Миллер, Дж.; Ямпольский Р.; Армстронг, С. (ред.). Технологическая сингулярность . Коллекция «Границы». Берлин, Гейдельберг: Springer. стр. 225–226. ISBN 978-3-662-54033-6 .
Юдковский помог создать Институт сингулярности (ныне Научно-исследовательский институт машинного интеллекта), чтобы помочь человечеству достичь дружественной сингулярности. (Раскрытие информации: я внес свой вклад в Институт сингулярности.) Затем Юдковски основал блог сообщества http://LessWrong.com , целью которого является пропаганда искусства рациональности, повышение уровня здравомыслия и отчасти убеждение людей в необходимости принятия разумных решений. рациональные благотворительные пожертвования, часть которых, как (правильно) надеялся Юдковский, пойдет в его организацию.
- ^ Jump up to: а б Гасарч, Уильям (2022). «Обзор книги «Карта, отражающая территорию: очерки сообщества LessWrong» ». Новости ACM SIGACT . 53 (1): 13–24. дои : 10.1145/3532737.3532741 .
Пользователи писали обзоры на лучшие посты 2018 года и голосовали за них, используя квадратичную систему голосования, популяризированную Гленом Вейлом и Виталиком Бутериным. Из более чем 2000 постов, опубликованных в том году, Обзор отобрал 44 наиболее интересных и ценных поста.
- ^ Лагеррос, Дж.; Пейс, Б.; LessWrong.com (2020). Карта, отражающая территорию: очерки сообщества LessWrong . Центр прикладной рациональности. ISBN 9781736128503 .
- ^ Пейс, Б.; Меньше неправильно (2021). Машины познания: очерки сообщества LessWrong . Центр прикладной рациональности. ISBN 9781736128510 .
- ^ Гасарч, Уильям (2022). «Обзор книги «Двигатели познания: очерки менее неправильного сообщества» ». Новости ACM SIGACT . 53 (3): 6–16. doi : 10.1145/3561066.3561064 (неактивен 28 июля 2024 г.).
{{cite journal}}: CS1 maint: DOI неактивен по состоянию на июль 2024 г. ( ссылка )
