Китайская комната

Информацию о британской студии разработки видеоигр см. в The Chinese Room .

Аргумент китайской комнаты утверждает, что компьютер, выполняющий программу, не может иметь разума , понимания или сознания . независимо от того, насколько разумно или человекоподобно программа может заставить компьютер вести себя. Этот аргумент был представлен в 1980 году в статье философа Джона Сирла под названием «Сознание, мозг и программы» и опубликованной в журнале Behavioral and Brain Sciences . До Сёрла аналогичные аргументы были представлены такими фигурами, как Готфрид Вильгельм Лейбниц (1714 г.), Анатолий Днепров (1961 г.), Лоуренс Дэвис (1974 г.) и Нед Блок (1978 г.). С тех пор версия Сирла широко обсуждалась. Центральным элементом аргументации Сирла является мысленный эксперимент, известный как « Китайская комната» .

Аргумент направлен против философских позиций функционализма и компьютерализма . которые утверждают, что разум можно рассматривать как систему обработки информации, действующую на формальных символах, и что для его присутствия достаточно моделирования данного психического состояния. В частности, этот аргумент призван опровергнуть позицию, которую Серл называет сильной гипотезой ИИ : «Правильно запрограммированный компьютер с правильными входами и выходами, таким образом, будет обладать разумом точно в том же смысле, в котором разум есть у людей».

Хотя его сторонники первоначально представили этот аргумент в ответ на заявления исследователей искусственного интеллекта (ИИ), он не является аргументом против целей основных исследований ИИ, поскольку не показывает предела интеллектуального поведения, которое может проявлять машина. Этот аргумент применим только к цифровым компьютерам, на которых выполняются программы, и не применим к машинам в целом.

Мысленный эксперимент Сирла

Джон Сирл начинает мысленный эксперимент «Китайская комната» с предпосылки о компьютере, оснащенном программой , которая позволяет ему вести себя так, как если бы он понимал китайский язык. Машина принимает китайские иероглифы в качестве входных данных, шаг за шагом выполняет каждую инструкцию программы, а затем выдает китайские иероглифы в качестве выходных данных. Предполагается, что машина способна справиться с этой задачей; его результаты последовательно проходят тест Тьюринга , вовлекая в разговор людей, говорящих на китайском языке, в результате чего они убеждаются, что разговаривают с другим человеком. Учитывая эту предпосылку, Сирл ставит вопрос о том, действительно ли машина понимает китайский язык или просто создает видимость, легко связанную с пониманием китайского языка. Он называет эти позиции позицией «сильного ИИ» и позицией «слабого ИИ» соответственно. Сирл пишет: «С точки зрения сильного ИИ правильно запрограммированный компьютер не просто имитирует наличие разума; он буквально обладает разумом».

Во второй части своей аргументации Сирл показывает, что реальные методы, используемые в работе машины, не имеют отношения к ответу на этот вопрос. Вместо машины Сирл размещается в комнате: он также получает ввод китайских иероглифов и приступает к выполнению вручную тех же инструкций, которые ранее были даны компьютеру. Ни в коем случае какое-либо понимание китайского языка, которое Сирл может иметь или не иметь, имеет отношение к его успешному поэтапному выполнению задачи; Кстати, он прямо заявляет, что у него его нет. Следовательно, Сирл так же способен пройти тест Тьюринга, как и компьютер; Точно так же неоправданно утверждать, что компьютер понимает диалог на основе успешного выполнения им программы, как это было бы в случае с Сирлом.

Сирл заключает, что если понимание или интенциональность машине нельзя приписать , то нельзя и описать то, что она делает, как мышление; как таковое, оно не обладает разумом в обычном смысле этого слова. Поэтому Сирл утверждает, что позиция «сильного ИИ» должна быть ложной.

История

Готфрид Лейбниц выдвинул аналогичный аргумент в 1714 году против механизма (идея о том, что все, что составляет человека, в принципе можно объяснить в механических терминах. Другими словами, человек, включая его разум, представляет собой просто очень сложную машину). . Лейбниц использовал мысленный эксперимент по расширению мозга до размеров мельницы. Лейбницу было трудно представить, что «разум», способный к «восприятию», может быть построен с использованием только механических процессов.

Питер Винч высказал то же самое в своей книге «Идея социальной науки и ее отношение к философии» (1958), где он приводит аргументы, показывающие, что «человек, понимающий китайский язык, не является человеком, который твердо разбирается в статистических данных». вероятности появления различных слов в китайском языке» (с.108).

Советский кибернетик Анатолий Днепров выдвинул по существу идентичный аргумент в 1961 году в форме рассказа « Игра ». В нем стадион людей действует как переключатели и ячейки памяти, реализующие программу перевода предложения на португальский язык, язык, которого никто из них не знает. Игру организовал «Профессор Зарубин» для ответа на вопрос «Могут ли мыслить математические машины?» Выступая через Зарубина, Днепров пишет: «Единственный способ доказать, что машины могут думать, — это превратить себя в машину и изучить свой мыслительный процесс», и заключает, как и Серл: «Мы доказали, что даже самая совершенная имитация машины мышление — это не сам процесс мышления».

В 1974 году Лоуренс Х. Дэвис представил, как можно дублировать мозг с помощью телефонных линий и офисов, укомплектованных людьми, а в 1978 году Нед Блок представил, что все население Китая будет участвовать в таком моделировании мозга. Этот мысленный эксперимент называется « Китайский мозг» , также «Китайская нация» или «Китайский тренажерный зал».

Джон Сирл в декабре 2005 года

Версия Сирла появилась в его статье 1980 года «Сознание, мозг и программы», опубликованной в журнале Behavioral and Brain Sciences . В конечном итоге она стала «самой влиятельной целевой статьей журнала». породив огромное количество комментариев и ответов в последующие десятилетия, и Сирл продолжал защищать и уточнять эту аргументацию во многих статьях, популярных статьях и книгах. Дэвид Коул пишет, что «аргумент китайской комнаты, вероятно, был наиболее широко обсуждаемым философским аргументом в когнитивной науке, появившимся за последние 25 лет».

Большая часть дискуссии состоит из попыток его опровергнуть. «Подавляющее большинство», — отмечает «Поведенческие и мозговые науки» редактор журнала Стеван Харнад , — «Все еще думаю, что аргумент о китайской комнате совершенно неверен». Огромный объем литературы, выросшей вокруг нее, вдохновил Пэта Хейса прокомментировать, что область когнитивной науки следует переопределить как «продолжающуюся исследовательскую программу, направленную на то, чтобы доказать ложность аргумента Сирла о китайской комнате».

По словам Харнада, аргумент Сирла стал «чем-то вроде классики в когнитивной науке». Варол Акман согласен и назвал оригинальную статью «образцом философской ясности и чистоты».

Философия

Хотя аргумент «Китайской комнаты» изначально был представлен как реакция на заявления исследователей искусственного интеллекта , философы стали рассматривать его как важную часть философии разума . Это вызов функционализму и вычислительной теории разума . и связано с такими вопросами, как проблема разума и тела , проблема других разумов , проблема обоснования символов и трудная проблема сознания .

Сильный ИИ

Сирл определил философскую позицию, которую он называет «сильным ИИ»:

Таким образом, правильно запрограммированный компьютер с правильными входами и выходами будет обладать разумом точно в том же смысле, в котором разум есть у людей.

Определение зависит от различия между имитацией разума и его фактическим наличием. Сирл пишет, что «согласно «Сильному ИИ» правильная симуляция на самом деле является разумом. Согласно «Слабому ИИ» правильная симуляция — это модель разума».

Это утверждение неявно содержится в некоторых заявлениях первых исследователей и аналитиков ИИ. Например, в 1955 году основатель искусственного интеллекта Герберт А. Саймон заявил, что «теперь в мире существуют машины, которые думают, учатся и создают». Саймон вместе с Алленом Ньюэллом и Клиффом Шоу , после завершения первой программы, которая могла выполнять формальные рассуждения (« Теоретик логики» ), заявили, что они «решили почтенную проблему разума и тела, объяснив, как система, состоящая из материи, может иметь свойства ума». Джон Хаугеланд писал, что «ИИ хочет только настоящего предмета: машин с разумом в полном и буквальном смысле этого слова. Это не научная фантастика, а настоящая наука, основанная на теоретической концепции, столь же глубокой, сколь и смелой: а именно, мы есть, в корне сами компьютеры ».

Сирл также приписывает сторонникам сильного ИИ следующие утверждения:

• Системы искусственного интеллекта можно использовать для объяснения разума;
• Изучение мозга не имеет отношения к изучению ума; и
• Тест Тьюринга достаточен для установления существования психических состояний.

Сильный ИИ как вычислительный подход или функционализм

В более поздних презентациях аргумента о китайской комнате Сирл определил «сильный ИИ» как «компьютерный функционализм » (термин, который он приписывает Дэниелу Деннетту ). Функционализм — это позиция в современной философии сознания , которая утверждает, что мы можем определять психические явления (такие как убеждения, желания и восприятия), описывая их функции по отношению друг к другу и к внешнему миру. поскольку компьютерная программа может точно представлять Согласно функционализму, функциональные отношения как отношения между символами, компьютер может иметь ментальные явления, если он запускает правильную программу.

Стеван Харнад утверждает, что изображения сильного ИИ, предложенные Сирлом, можно переформулировать как «узнаваемые принципы вычислительной техники , позицию (в отличие от «сильного ИИ»), которой на самом деле придерживаются многие мыслители, и, следовательно, ее стоит опровергнуть». Вычислительность — это позиция в философии разума, которая утверждает, что разум можно точно описать как систему обработки информации .

По мнению Харнада, каждое из следующих утверждений является «принципом» компьютерализма:

• Ментальные состояния — это вычислительные состояния (именно поэтому компьютеры могут иметь ментальные состояния и помогать объяснять разум);
• Вычислительные состояния не зависят от реализации — другими словами, именно программное обеспечение определяет вычислительное состояние, а не аппаратное обеспечение (вот почему мозг, будучи аппаратным обеспечением, не имеет значения); и это
• Поскольку реализация не важна, единственные эмпирические данные, которые имеют значение, — это то, как функционирует система; следовательно, тест Тьюринга является окончательным.

Сильный ИИ против биологического натурализма

Сирл придерживается философской позиции, которую он называет « биологическим натурализмом »: сознание и понимание требует наличия особых биологических механизмов, находящихся в мозге. Он пишет: «Мозги порождают разум». и что «реальные человеческие психические явления [зависят] от реальных физико-химических свойств реального человеческого мозга». Сирл утверждает, что этот механизм (известный в нейробиологии как « нейронные корреляты сознания ») должен обладать некоторыми причинными силами, которые позволяют человеческому опыту сознания. Вера Сирла в существование этих сил подверглась критике.

Сирл не согласен с представлением о том, что машины могут обладать сознанием и пониманием, поскольку, как он пишет, «мы именно такие машины». Сирл считает, что мозг на самом деле является машиной, но мозг порождает сознание и понимание с помощью особых механизмов. Если нейробиология способна изолировать механический процесс, порождающий сознание, то Сирл допускает возможность создания машин, обладающих сознанием и пониманием. Однако Сирл не верит, что сознание может возникнуть без специального оборудования.

Биологический натурализм подразумевает, что невозможно определить, происходит ли переживание сознания, просто исследуя, как функционирует система, поскольку важен специфический механизм мозга. Таким образом, биологический натурализм прямо противоположен как бихевиоризму , так и функционализму (включая «компьютерный функционализм» или «сильный ИИ»). Биологический натурализм похож на теорию идентичности (позиция, согласно которой психические состояния «идентичны» неврологическим событиям или «состоят из них»); однако у Сирла есть конкретные технические возражения против теории идентичности. Биологический натурализм Сирла и сильный искусственный интеллект противостоят картезианскому дуализму . классическая идея о том, что мозг и разум состоят из разных «веществ». Действительно, Сирл обвиняет сильный ИИ в дуализме, написав, что «сильный ИИ имеет смысл только с учетом дуалистического предположения о том, что когда дело касается разума, мозг не имеет значения».

Сознание

В первоначальной презентации Сирла особое внимание уделялось пониманию, то есть психическим состояниям с интенциональностью , и не затрагивалось напрямую другие тесно связанные идеи, такие как «сознание». Однако в более поздних презентациях Сирл включил сознание в качестве реальной цели аргумента.

Вычислительные модели сознания сами по себе недостаточны для существования сознания. Вычислительная модель сознания связана с сознанием так же, как вычислительная модель чего-либо связана с моделируемой областью. Никто не предполагает, что вычислительная модель ливней в Лондоне оставит нас всех мокрыми. Но они допускают ошибку, полагая, что вычислительная модель сознания каким-то образом сознательна. В обоих случаях это одна и та же ошибка.

- Джон Р. Сирл, Сознание и язык , с. 16

Дэвид Чалмерс пишет: «Совершенно очевидно, что в основе всего лежит сознание» китайской комнаты.

Колин Макгинн утверждает, что «Китайская комната» убедительно доказывает, что трудная проблема сознания принципиально неразрешима. Чтобы внести ясность, спор идет не о том, может ли машина быть сознательной, а о том, можно ли показать, что она (или что-то еще) обладает сознанием. Понятно, что любой другой метод допроса обитателя китайской комнаты имеет в принципе те же трудности, что и обмен вопросами и ответами на китайском языке. Просто невозможно предугадать, обитает ли в комнате сознательная сила или какая-то хитрая симуляция.

Сирл утверждает, что это верно только для наблюдателя за пределами комнаты. Весь смысл мысленного эксперимента состоит в том, чтобы поместить кого-нибудь в комнату, где он сможет непосредственно наблюдать за действиями сознания. Сирл утверждает, что со своей точки обзора в комнате он не видит ничего, что могло бы вообразить возникновение сознания, кроме него самого, и очевидно, что у него нет разума, способного говорить по-китайски. По словам Сирла, «у компьютера нет ничего больше, чем у меня в случае, когда я ничего не понимаю».

Прикладная этика

Сидение в боевом информационном центре на борту военного корабля — предложенный как реальный аналог китайской комнаты.

Патрик Хью использовал аргумент китайской комнаты, чтобы вывести требования к системам военного командования и контроля, командира если они хотят сохранить моральную свободу . Он провел аналогию между командиром в их командном центре и человеком в Китайской комнате и проанализировал ее, читая понятия Аристотеля о «принуждении» и «невежестве» . Информацию можно «преобразовать» из смысла в символы и ею манипулировать символически, но моральная свобода действий может быть подорвана, если произойдет неадекватное «преобразование с повышением» в смысл. Хью привел примеры с авианосцем «Винсеннес» инцидента .

Информатика

Аргумент о китайской комнате — это прежде всего аргумент в философии разума, и как крупные учёные-компьютерщики, так и исследователи искусственного интеллекта считают его нерелевантным для своих областей. Однако для понимания этого аргумента необходимы несколько концепций, разработанных учеными-компьютерщиками, включая обработку символов , машины Тьюринга , полноту Тьюринга и тест Тьюринга.

Сильный ИИ против исследований ИИ

Аргументы Сирла обычно не считаются проблемой для исследований ИИ. Основная задача исследований искусственного интеллекта состоит только в создании полезных систем, которые действуют разумно, и не имеет значения, является ли интеллект «просто» симуляцией. Исследователи искусственного интеллекта Стюарт Дж. Рассел и Питер Норвиг написали в 2021 году: «Нас интересуют программы, которые ведут себя разумно. Отдельные аспекты сознания — осознание, самосознание, внимание — могут быть запрограммированы и могут быть частью интеллектуальной машины. Проект по созданию машины, обладающей таким же сознанием, как и люди, — это не тот проект, на который мы готовы взяться».

Сирл не согласен с тем, что исследования ИИ могут создать машины, способные к высокоинтеллектуальному поведению. Аргумент о китайской комнате оставляет открытой возможность создания цифровой машины, которая будет действовать более разумно, чем человек, но не будет обладать разумом или интенциональностью, как у мозга.

«Гипотезу сильного ИИ» Сирла не следует путать с «сильным ИИ», как его определил Рэй Курцвейл и другие футуристы. которые используют этот термин для описания машинного интеллекта, который конкурирует с человеческим интеллектом или превосходит его, то есть общий искусственный интеллект , ИИ человеческого уровня или сверхинтеллект . Курцвейл имеет в виду прежде всего объем интеллекта , отображаемый машиной, тогда как аргумент Сирла не устанавливает этому предела. Сирл утверждает, что сверхразумная машина не обязательно будет обладать разумом и сознанием.

Тест Тьюринга

Основная статья: Тест Тьюринга

«Стандартная интерпретация» теста Тьюринга, в которой игроку C, допрашивающему, дается задача попытаться определить, какой игрок — A или B — является компьютером, а какой — человеком. Для принятия решения следователь ограничивается использованием ответов на письменные вопросы. Изображение адаптировано из Saygin, et al. 2000.

Китайская комната реализует версию теста Тьюринга. Алан Тьюринг представил этот тест в 1950 году, чтобы помочь ответить на вопрос «могут ли машины думать?» В стандартной версии судья-человек разговаривает на естественном языке с человеком и машиной, предназначенной для достижения результатов, неотличимых от действий человека. Все участники отделены друг от друга. Если судья не может достоверно отличить машину от человека, говорят, что машина прошла испытание.

Затем Тьюринг рассмотрел все возможные возражения против предложения «машины могут думать» и обнаружил, что существуют простые и очевидные ответы, если вопрос демистифицирован таким образом. Однако он не собирался проводить тест для измерения наличия «сознания» или «понимания». Он не считал, что это имеет отношение к проблемам, которые он рассматривал. Он написал:

Я не хочу создавать впечатление, что, по моему мнению, в сознании нет никакой тайны. Например, существует некий парадокс, связанный с любой попыткой его локализации. Но я не думаю, что эти загадки обязательно нужно разгадать, прежде чем мы сможем ответить на вопрос, который нас интересует в этой статье.

Для Сирла, как философа, исследующего природу разума и сознания, это важные загадки. Китайская комната создана для того, чтобы показать, что теста Тьюринга недостаточно для обнаружения присутствия сознания, даже если комната может вести себя или функционировать так же, как сознательный разум.

Обработка символов

Основная статья: Система физических символов

Компьютеры манипулируют физическими объектами для выполнения вычислений и моделирования. Исследователи искусственного интеллекта Аллен Ньюэлл и Герберт А. Саймон назвали этот тип машины системой физических символов . Это также эквивалентно формальным системам, используемым в области математической логики .

Сирл подчеркивает тот факт, что такого рода манипуляции с символами являются синтаксическими (заимствование термина из изучения грамматики ). символов Компьютер манипулирует символами, используя определенную форму синтаксиса, без какого-либо знания семантики (то есть их значения ).

Ньюэлл и Саймон предположили, что физическая система символов (такая как цифровой компьютер) обладает всеми необходимыми механизмами для «общего разумного действия», или, как его называют сегодня, общего искусственного интеллекта . Они сформулировали это как философскую позицию, гипотезу системы физических символов : «Система физических символов обладает необходимыми и достаточными средствами для общего разумного действия». Аргумент китайской комнаты не опровергает этого, поскольку он сформулирован в терминах «разумного действия», то есть внешнего поведения машины, а не наличия или отсутствия понимания, сознания и разума.

Программы ИИ двадцать первого века (такие как « глубокое обучение ») выполняют математические операции над огромными матрицами неопознанных чисел и мало похожи на символьную обработку, используемую программами ИИ в то время, когда Сирл писал свою критику в 1980 году. Нильс Нильссон описывает такие системы, как они скорее «динамические», чем «символические». Нильссон отмечает, что это, по сути, оцифрованные представления динамических систем: отдельные числа не имеют определенной семантики, а вместо этого являются выборками или точками данных из динамического сигнала, и именно аппроксимируемый сигнал будет иметь семантику. Нильссон утверждает, что неразумно рассматривать эти сигналы как «обработку символов» в том же смысле, что и гипотезу о физических системах символов.

Китайская комната и полнота по Тьюрингу

См. Также: Полнота Тьюринга и тезис Чёрча-Тьюринга.

Китайская комната имеет дизайн, аналогичный дизайну современного компьютера. Он имеет архитектуру фон Неймана , которая состоит из программы (книги инструкций), некоторой памяти (бумаги и картотеки), машины, которая следует инструкциям (человек) и средства записи символов в память (человек). карандаш и ластик). Машина с такой конструкцией известна в теоретической информатике как « полная по Тьюрингу », поскольку она имеет необходимое оборудование для выполнения любых вычислений, которые может выполнить машина Тьюринга, и, следовательно, она способна выполнять пошаговое моделирование любая другая цифровая машина, при наличии достаточной памяти и времени. Тьюринг пишет: «Все цифровые компьютеры в некотором смысле эквивалентны». Широко распространенный тезис Чёрча-Тьюринга гласит, что любая функция, вычислимая с помощью эффективной процедуры, вычислима с помощью машины Тьюринга.

Полнота китайской комнаты по Тьюрингу подразумевает, что она может делать то же, что и любой другой цифровой компьютер (хотя и гораздо медленнее). Таким образом, если китайская комната не содержит или не может содержать разум, говорящий по-китайски, то никакой другой цифровой компьютер не может содержать разум. Некоторые ответы Сирлу начинаются с утверждения, что в описанной комнате не может быть разума, говорящего по-китайски. Аргументы этой формы, по мнению Стевана Харнада , являются «не опровержением, а скорее утверждением» аргумента о китайской комнате, поскольку эти аргументы на самом деле подразумевают, что ни один цифровой компьютер не может иметь разума.

Некоторые критики, такие как Ханох Бен-Ями, утверждают, что китайская комната не может имитировать все возможности цифрового компьютера, например, способность определять текущее время.

Полный аргумент

Сирл предложил более формальную версию аргумента, частью которого является «Китайская комната». Первую версию он представил в 1984 году. Представленная ниже версия относится к 1990 году. Мысленный эксперимент «Китайская комната» призван доказать пункт А3.

Он начинает с трех аксиом:

(А1) «Программы формальные (синтаксические)».

Программа использует синтаксис для управления символами и не обращает внимания на семантику символов. Он знает, где разместить символы и как их перемещать, но не знает, что они обозначают и что означают. Для программы символы — это такие же физические объекты, как и любые другие.

(A2) «Сознание имеет ментальное содержание (семантику)».

В отличие от символов, используемых программой, наши мысли имеют значение: они представляют вещи, и мы знаем, что они представляют.

(A3) «Синтаксис сам по себе не является ни составляющим, ни достаточным для семантики».

Именно это и призван доказать мысленный эксперимент в китайской комнате: в китайской комнате есть синтаксис (потому что там находится человек, перемещающий символы). Китайская комната не имеет семантики (поскольку, по мнению Сирла, в комнате нет никого или ничего, кто понимал бы, что означают символы). Следовательно, наличия синтаксиса недостаточно для создания семантики.

Сирл утверждает, что это приводит непосредственно к такому выводу:

(C1) Программы не являются ни составляющими, ни достаточными для разума.

Это должно следовать без противоречий из первых трех: Программы не имеют семантики. В программах есть только синтаксис, а синтаксиса недостаточно для семантики. У каждого ума есть семантика. Следовательно, никакие программы не являются разумами.

Большая часть аргументов призвана показать, что искусственный интеллект никогда не сможет создать машину с разумом, написав программы, манипулирующие символами. Остальная часть аргумента касается другой проблемы. Запускается ли в человеческом мозге программа? Другими словами, правильна ли вычислительная теория разума ? Он начинает с аксиомы, призванной выразить основной современный научный консенсус относительно мозга и разума:

(A4) Мозг порождает разум.

Сирл утверждает, что мы можем получить «немедленно» и «тривиально» что:

(C2) Любая другая система, способная вызывать разум, должна была бы обладать причинными способностями (по крайней мере), эквивалентными возможностям мозга.

В мозгу должно быть что-то, что заставляет разум существовать. Науке еще предстоит точно определить, что это такое, но оно должно существовать, потому что существует разум. Сирл называет это «причинными силами». «Причинные силы» — это все, что мозг использует для создания разума. Если что-то еще может вызвать существование разума, оно должно обладать «эквивалентными причинными силами». «Эквивалентные причинные силы» — это все , что можно использовать для формирования разума.

И отсюда он делает дальнейшие выводы:

(C3) Любой артефакт, вызывающий психические явления, любой искусственный мозг, должен был бы быть в состоянии дублировать определенные причинные способности мозга, и он не мог бы сделать это, просто запустив формальную программу.

Это следует из C1 и C2: поскольку ни одна программа не может создать разум, а «эквивалентные причинные силы» создают разум, из этого следует, что программы не обладают «эквивалентными причинными силами».

(C4) Способ, которым человеческий мозг на самом деле производит психические явления, не может быть обусловлен исключительно запуском компьютерной программы.

Поскольку программы не обладают «эквивалентными причинными силами», «эквивалентные причинные силы» создают разум, а мозг производит разум, из этого следует, что мозг не использует программы для создания разума.

Опровержения аргументов Сирла принимают самые разные формы (см. ниже). Компьютеристы и функционалисты отвергают А3, утверждая, что «синтаксис» (как его описывает Сирл) может иметь «семантику», если синтаксис имеет правильную функциональную структуру. Элиминативные материалисты отвергают А2, утверждая, что разум на самом деле не имеет «семантики» — что мысли и другие психические явления по своей сути бессмысленны, но, тем не менее, функционируют так, как если бы они имели смысл.

Ответы

Ответы на аргумент Сирла можно классифицировать в зависимости от того, что они якобы показывают:

• Те, которые определяют, кто говорит по-китайски
• Те, которые демонстрируют, как бессмысленные символы могут стать значимыми.
• Те, которые предполагают, что китайскую комнату следует каким-то образом переделать.
• Те, кто утверждает, что аргумент Сирла вводит в заблуждение.
• Те, которые утверждают, что этот аргумент делает ложные предположения о субъективном сознательном опыте и, следовательно, ничего не доказывает.

Некоторые аргументы (например, моделирование роботов и мозга) делятся на несколько категорий.

Системы и ответы виртуального разума: поиск разума

Эти ответы пытаются ответить на вопрос: поскольку мужчина в комнате не говорит по-китайски, где же разум, который это говорит? Эти ответы затрагивают ключевые онтологические проблемы разума и тела , симуляции и реальности. Все ответы, идентифицирующие разум в комнате, являются версиями «ответа системы».

Ответ системы

В базовой версии ответа системы утверждается, что именно «вся система» понимает китайский язык. Хотя человек понимает только английский, когда он объединяется с программой, бумагой для заметок, карандашами и картотекой, они образуют систему, способную понимать китайский язык. «Здесь понимание не приписывается простому индивидууму; оно скорее приписывается всей системе, частью которой он является», — объясняет Сирл.

Сирл отмечает, что (в этой простой версии ответа) «система» представляет собой не что иное, как совокупность обычных физических объектов; он наделяет силой понимания и сознания «сочетание этого человека и кусочков бумаги». не прилагая никаких усилий, чтобы объяснить, как эта куча предметов стала сознательным, мыслящим существом. Сирл утверждает, что ни один разумный человек не должен быть удовлетворен ответом, если только он не находится «во власти идеологии»; Чтобы этот ответ был хотя бы отдаленно правдоподобным, нужно принять как должное, что сознание может быть продуктом «системы» обработки информации и не требует ничего, напоминающего реальную биологию мозга.

Затем Сирл отвечает, упрощая этот список физических объектов: он спрашивает, что произойдет, если человек запомнит правила и будет отслеживать все в своей голове? Тогда вся система состоит всего из одного объекта: самого человека. Сирл утверждает, что если человек не понимает китайского языка, то и система не понимает китайского языка, потому что теперь и «система», и «человек» описывают один и тот же объект.

Критики ответа Сирла утверждают, что программа позволила этому человеку объединить два разума в одной голове. Если мы предположим, что «разум» — это форма обработки информации, тогда теория вычислений может учитывать два вычисления, происходящие одновременно, а именно (1) вычисление универсальной программируемости (которое представляет собой функцию, реализуемую человеком, и ведение заметок). материалы независимо от какого-либо конкретного содержимого программы) и (2) вычисление машины Тьюринга, описываемое программой (которое создается всем, включая конкретную программу). Таким образом, теория вычислений формально объясняет открытую возможность того, что второе вычисление в Китайской комнате может повлечь за собой семантическое понимание китайских входных данных, эквивалентное человеческому. Основное внимание уделяется машине Тьюринга программы, а не человеку. Однако, с точки зрения Сирла, этот аргумент является зацикленным. Спорный вопрос заключается в том, является ли сознание формой обработки информации, и этот ответ требует, чтобы мы сделали это предположение.

Более сложные версии ответа системы пытаются более точно определить, что такое «система», и различаются тем, как именно они ее описывают. Судя по этим ответам, «Разум, говорящий по-китайски», может представлять собой такие вещи, как: «программное обеспечение», «программа», «работающая программа», симуляция «нейронных коррелятов сознания», «функциональная система», «моделируемый разум». «, « эмерджентное свойство» или «виртуальный разум».

Ответ виртуального разума

Марвин Мински предложил версию системного ответа, известную как «ответ виртуального разума». Термин « виртуальный » используется в информатике для описания объекта, который кажется существующим «в» компьютере (или компьютерной сети) только потому, что программное обеспечение создает видимость его существования. Все объекты «внутри» компьютеров (включая файлы, папки и т. д.) являются «виртуальными», за исключением электронных компонентов компьютера. Точно так же Минский утверждает, что компьютер может содержать «разум», виртуальный в том же смысле, что и виртуальные машины , виртуальные сообщества и виртуальная реальность .

Чтобы прояснить разницу между ответом простой системы, приведенным выше, и ответом виртуального разума, Дэвид Коул отмечает, что в одной системе могут одновременно работать две симуляции: одна говорит по-китайски, а другая говорит по-корейски. Хотя существует только одна система, может быть несколько «виртуальных разумов», поэтому «система» не может быть «разумом».

Сирл отвечает, что такой разум является в лучшем случае симуляцией, и пишет: «Никто не предполагает, что компьютерное моделирование пожара с пятью сигналами тревоги сожжет весь район или что компьютерное моделирование ливня оставит нас всех мокрыми». Николас Ферн отвечает, что в некоторых вопросах симуляция ничуть не хуже реальности. «Когда мы вызываем функцию карманного калькулятора на настольном компьютере, на экране появляется изображение карманного калькулятора. Мы не жалуемся, что это не совсем калькулятор, поскольку физические характеристики устройства не имеют значения. " Вопрос в том, подобен ли человеческий разум карманному калькулятору, состоящему по существу из информации, где идеальное моделирование всего лишь является вещью? Или разум подобен ливню, вещи в мире, которая представляет собой нечто большее, чем просто его симуляцию, и не может быть полностью реализована с помощью компьютерной симуляции? На протяжении десятилетий вопрос моделирования заставлял исследователей и философов ИИ задуматься о том, является ли термин « синтетический интеллект » более подходящим, чем обычное описание такого интеллекта как «искусственного».

Эти ответы дают объяснение того, кто именно понимает китайский язык. мужчины в комнате есть что-то Если кроме , кто понимает китайский язык, Сирл не может утверждать, что (1) этот мужчина не понимает китайский язык, следовательно (2) ничто в комнате не понимает китайский язык. По мнению тех, кто дает этот ответ, это показывает, что аргумент Сирла не может доказать, что «сильный ИИ» является ложным.

Однако эти ответы сами по себе не предоставляют никаких доказательств того, что сильный ИИ верен. Они не показывают, что система (или виртуальный разум) понимает китайский язык, за исключением гипотетической предпосылки, что она проходит тест Тьюринга. Сирл утверждает, что если мы хотим считать Сильный ИИ отдаленно правдоподобным, то Китайская комната является примером, требующим объяснения, и трудно или невозможно объяснить, как сознание могло бы «появиться» из комнаты или как система могла бы обладать сознанием. Как пишет Сирл, «ответ системы просто ставит вопрос, настаивая на том, что система должна понимать китайский язык». и таким образом уклоняется от вопроса или безнадежно зацикливается.

Робот и ответы на семантику: в поисках смысла

Для человека в комнате символы — это просто бессмысленные «закорючки». Но если китайская комната действительно «понимает» то, что говорит, тогда символы должны откуда-то получить свое значение. Эти аргументы пытаются связать символы с вещами, которые они символизируют. Эти ответы касаются обеспокоенности Сирла по поводу интенциональности , обоснования символов и синтаксиса в сравнении с семантикой .

Ответ робота

Предположим, что вместо комнаты программу поместили в робота, который мог бродить и взаимодействовать с окружающей средой. Это позволило бы установить « причинную связь» между символами и вещами, которые они представляют. Ганс Моравец комментирует: «Если бы мы могли привить робота к программе рассуждения, нам больше не нужен был бы человек, который мог бы передавать смысл: он исходил бы из физического мира».

Ответ Сирла состоит в том, чтобы предположить, что без ведома человека, находившегося в китайской комнате, некоторые входные данные поступали непосредственно с камеры, установленной на роботе, а некоторые выходные данные использовались для манипулирования руками и ногами робота. Тем не менее, человек в комнате по-прежнему просто следует правилам и не знает, что означают символы. Сирл пишет: «Он не видит того, что бросается в глаза роботу».

Производное значение

Некоторые отвечают, что комната, как ее описывает Сирл, связана с миром: через говорящих по-китайски, с которыми она «разговаривает», и через программистов, спроектировавших базу знаний в его картотеке. Символы, которыми манипулирует Сирл, уже имеют значение, но для него они просто не имеют значения.

Сирл говорит, что символы имеют только «производное» значение, подобное значению слов в книгах. Значение символов зависит от сознательного понимания говорящих по-китайски и программистов за пределами комнаты. Комната, как книга, не имеет собственного понимания.

Контекстуалистический ответ

Некоторые утверждали, что значения символов берут свое начало на обширном «фоне» здравого смысла , закодированном в программе и картотечных шкафах. Это обеспечило бы «контекст», который придал бы символам их значение.

Сирл согласен с тем, что такой фон существует, но не согласен с тем, что его можно встроить в программы. Хьюберт Дрейфус также раскритиковал идею о том, что «фон» может быть представлен символически.

На каждое из этих предложений ответ Сирла один и тот же: сколько бы знаний ни было записано в программу и как бы программа ни была связана с миром, он все равно находится в комнате, манипулируя символами согласно правилам. Его действия синтаксичны, и это никогда не сможет объяснить ему, что означают символы. Сирл пишет: «Синтаксис недостаточен для семантики».

Однако для тех, кто признает, что действия Сирла имитируют разум, отдельный от его собственного, важным вопросом является не то, что символы означают для Сирла, а то, что они означают для виртуального разума. Хотя Сирл заперт в комнате, виртуальный разум — нет: он связан с внешним миром через говорящих на китайском языке, с помощью программистов, которые передали ему мировые знания, а также через камеры и другие датчики, которые робототехники могут предоставить .

Моделирование мозга и ответы коннекционистов: редизайн комнаты

Все эти аргументы представляют собой версии ответа системы, которые идентифицируют определенный тип системы как важный; они идентифицируют некую специальную технологию, которая могла бы создать в машине сознательное понимание. (Ответы «робот» и «здравый смысл» выше также указывают на важность определенного типа системы.)

Ответ на симулятор мозга

Предположим, что программа детально смоделировала действие каждого нейрона мозга говорящего по-китайски. Это укрепляет интуицию о том, что существенной разницы между работой программы и работой живого человеческого мозга не будет.

Сирл отвечает, что такое моделирование не воспроизводит важные особенности мозга — его причинные и интенциональные состояния. Он непреклонен в том, что «человеческие психические явления [зависят] от реальных физико-химических свойств реального человеческого мозга». Более того, он утверждает:

[Я] представляю, что вместо одноязычного человека в комнате, перетасовывающего символы, мы имеем человека, управляющего сложной системой водопроводных труб с соединяющими их клапанами. Когда мужчина получает китайские символы, он смотрит в программе, написанной на английском языке, какие клапаны ему нужно включать и выключать. Каждое водное соединение соответствует синапсу в китайском мозгу, и вся система устроена так, что после выполнения всех правильных включений, то есть после открытия всех правильных кранов, китайские ответы выскакивают в выходном конце серии. труб.Где же в этой системе понимание? Он принимает китайский язык в качестве входных данных, моделирует формальную структуру синапсов китайского мозга и выдает китайский язык в качестве выходного сигнала. Но этот человек определенно не понимает китайского языка, как и водопроводные трубы, и если мы склонны принять, как мне кажется, абсурдную точку зрения, которую каким-то образом понимает соединение человека и водопроводных труб, помните, что в принципе человек может усвоить формальную структуру водопроводных труб и проделывает все «нейронные импульсы» в своем воображении.

Китайский мозг

Что, если мы попросим каждого гражданина Китая смоделировать один нейрон, используя телефонную систему для моделирования связей между аксонами и дендритами ? В этой версии кажется очевидным, что ни один человек не будет иметь никакого понимания того, что может говорить мозг. Также очевидно, что эта система функционально эквивалентна мозгу, поэтому, если сознание является функцией, эта система будет сознательной.

Сценарий замены мозга

При этом нас просят представить, что инженеры изобрели крошечный компьютер, имитирующий действие отдельного нейрона. Что произойдет, если мы заменяем один нейрон за раз? Замена одного явно не изменит сознательное осознание. Замена их всех позволит создать цифровой компьютер, имитирующий мозг. Если Сирл прав, то сознательное осознание должно исчезнуть во время процедуры (либо постепенно, либо все сразу). Критики Сирла утверждают, что во время процедуры не было бы никакого смысла утверждать, что сознательное осознание заканчивается и начинается бездумное моделирование. ( см. в «Корабле Тесея» Подобный мысленный эксперимент .)

Ответы коннекционистов

Это утверждение тесно связано с ответом на симулятор мозга и утверждает, что массово-параллельная коннекционистская архитектура будет способна к пониманию. Современное глубокое обучение во многом параллельно и успешно демонстрирует интеллектуальное поведение во многих областях. Нильс Нильссон утверждает, что современный ИИ использует оцифрованные «динамические сигналы», а не символы, которые ИИ использовал в 1980 году. В данном случае семантику будет иметь дискретный сигнал, а не отдельные числа, которыми управляет программа. Это машина другого типа, отличная от той, которую визуализировал Сирл.

Комбинированный ответ

Этот ответ объединяет ответ робота с ответом симуляции мозга, утверждая, что симуляция мозга, связанная с миром через тело робота, может иметь разум.

Много особняков / подождите до следующего года, ответьте

Улучшенные технологии будущего позволят компьютерам понимать. Сирл соглашается, что это возможно, но считает этот момент несущественным. Сирл согласен, что помимо мозга могут существовать и другие аппаратные средства, обладающие сознательным пониманием.

Эти аргументы (а также ответы робота или здравого смысла) определяют некую специальную технологию, которая поможет создать в машине сознательное понимание. Их можно интерпретировать двояко: либо они утверждают, что (1) эта технология необходима для сознания, китайская комната не реализует или не может реализовать эту технологию и, следовательно, китайская комната не может пройти тест Тьюринга, либо (даже если бы и прошла) не имело бы сознательного понимания. Или они могут утверждать, что (2) легче увидеть, что китайская комната обладает разумом, если мы визуализируем эту технологию как используемую для ее создания.

В первом случае, когда требуются такие функции, как тело робота или коннекционистская архитектура, Сирл утверждает, что от сильного ИИ (в его понимании) отказались. Китайская комната имеет все элементы полной машины Тьюринга и, таким образом, способна моделировать любые цифровые вычисления. Если комната Сирла не может пройти тест Тьюринга, то не существует другой цифровой технологии, способной пройти тест Тьюринга. Если комната Сирла может пройти тест Тьюринга, но при этом не имеет разума, то теста Тьюринга недостаточно, чтобы определить, есть ли у комнаты «разум». В любом случае, это отрицает ту или иную позицию, которую Сирл называет «сильным ИИ», доказывая его аргумент.

Аргументы в пользу мозга, в частности, отрицают сильный ИИ, если предполагают, что нет более простого способа описать разум, чем создать программу, столь же загадочную, как и мозг. Он пишет: «Я думал, что вся идея сильного ИИ заключается в том, что нам не нужно знать, как работает мозг, чтобы знать, как работает разум». По мнению Сирла, если вычисления не дают объяснения человеческого разума, то сильный ИИ потерпел неудачу.

Другие критики считают, что комната, как ее описал Сирл, на самом деле обладает разумом, однако они утверждают, что его трудно увидеть — описание Сирла верно, но вводит в заблуждение. Перепроектировав комнату более реалистично, они надеются сделать это более очевидным. В данном случае эти аргументы используются как апелляция к интуиции (см. следующий раздел).

На самом деле, комнату можно с легкостью перепроектировать, чтобы ослабить нашу интуицию. Блока Неда Аргумент болвана что теоретически программу можно переписать в простую таблицу правил предполагает , вида «если пользователь пишет S , ответьте P и перейдите к X». По крайней мере, в принципе, любую программу можно переписать (или « рефакторить ») в такую ​​форму, даже симуляцию мозга. В сценарии болвана все психическое состояние скрыто в букве X, которая представляет собой адрес памяти — число, связанное со следующим правилом. Трудно себе представить, что мгновение сознательного опыта можно уловить в одном большом количестве, но именно это утверждает «сильный ИИ». С другой стороны, такая таблица поиска была бы смехотворно большой (вплоть до физической невозможности), и поэтому состояния могли бы быть слишком конкретными.

Сирл утверждает, что независимо от того, написана ли программа или как бы машина ни была подключена к миру, разум моделируется простой пошаговой цифровой машиной (или машинами). Эти машины всегда такие же, как и люди в комнате: они ничего не понимают и не говорят по-китайски. Они просто манипулируют символами, не зная, что они означают. Сирл пишет: «Я могу иметь любую формальную программу, какую захотите, но я все равно ничего не понимаю».

Скорость и сложность: взывает к интуиции

Следующие аргументы (и интуитивная интерпретация приведенных выше аргументов) не объясняют напрямую, как разум, говорящий по-китайски, мог существовать в комнате Сирла или как символы, которыми он манипулирует, могли стать значимыми. Однако, подвергая сомнению интуицию Сирла, они поддерживают другие позиции, такие как ответы системы и роботов. Эти аргументы, если они будут приняты, не позволяют Сирлу утверждать, что его вывод очевиден, поскольку подрывают интуицию, которой требует его уверенность.

Некоторые критики полагают, что аргументы Сирла полностью основаны на интуиции. Блок пишет: «Сила аргумента Сирла зависит от интуиции, о которой некоторые сущности не думают». Дэниел Деннетт описывает аргумент о китайской комнате как вводящий в заблуждение « насос интуиции ». и пишет: «Мысленный эксперимент Сирла незаконно зависит от того, что вы вообразите слишком простой случай, не относящийся к делу случай, и сделаете из него очевидный вывод».

Некоторые из приведенных выше аргументов также служат апелляцией к интуиции, особенно те, которые призваны создать более правдоподобную картину того, что в китайской комнате есть разум, который может включать в себя робота, здравый смысл, симуляцию мозга и коннекционистские ответы. Некоторые из приведенных выше ответов также затрагивают конкретную проблему сложности. В ответе коннекционистов подчеркивается, что работающая система искусственного интеллекта должна быть такой же сложной и взаимосвязанной, как человеческий мозг. В ответе на здравый смысл подчеркивается, что любая программа, прошедшая тест Тьюринга, должна быть «чрезвычайно гибкой, сложной и многослойной системой, наполненной «мировыми знаниями», мета-знаниями и мета-мета-знаниями», как Дэниел Деннетт. объясняет .

Скорость и сложность ответов

Многие из этих критических замечаний подчеркивают скорость и сложность человеческого мозга. который обрабатывает информацию со скоростью 100 миллиардов операций в секунду (по некоторым оценкам). Некоторые критики отмечают, что человеку в комнате, вероятно, потребуются миллионы лет, чтобы ответить на простой вопрос, и ему потребуются «картотеки» астрономических размеров. Это ставит под сомнение ясность интуиции Сирла.

Особенно яркая версия ответа на вопрос о скорости и сложности принадлежит Полу и Патриции Черчленд . Они предлагают аналогичный мысленный эксперимент: «Рассмотрим темную комнату, в которой находится человек, держащий стержень магнита или заряженный предмет. Если этот человек будет качать магнит вверх и вниз, то, согласно будет теории искусственной яркости Максвелла (АЛ), это инициируют распространяющийся круг электромагнитных волн и, таким образом, будут светиться. Но, как хорошо известно всем нам, кто играл с магнитами или заряженными шарами, их силы (или любые другие силы, если уж на то пошло), даже когда они приведены в движение, не производят свечения. все это немыслимо, чтобы можно было создать настоящую яркость, просто перемещая силы!» Черчленд считает, что проблема в том, что ему придется махать магнитом вверх и вниз примерно 450 триллионов раз в секунду, чтобы что-то увидеть.

Стеван Харнад критично относится к скорости и сложности ответов, когда они выходят за рамки нашей интуиции. Он пишет: «Некоторые создали культ скорости и времени, считая, что при ускорении до нужной скорости вычислительное может совершить фазовый переход в ментальное. Должно быть ясно, что это не контраргумент, а всего лишь ad hoc предположение ( как и мнение, что все это просто вопрос повышения до нужной степени «сложности».)»

Сирл утверждает, что его критики также полагаются на интуицию, однако интуиция его оппонентов не имеет эмпирической основы. Он пишет, что для того, чтобы считать «ответ системы» хотя бы отдаленно правдоподобным, человек должен находиться «во власти идеологии». Ответ системы имеет смысл (по мнению Сёрла) только в том случае, если предположить, что любая «система» может обладать сознанием просто потому, что она является системой с правильным поведением и функциональными частями. Это предположение, утверждает он, несостоятельно, учитывая наш опыт сознания.

Другие разумы и зомби: бессмысленность

В нескольких ответах утверждается, что аргумент Сирла неуместен, поскольку его предположения о разуме и сознании ошибочны. Сирл считает, что люди каждый день напрямую переживают свое сознание, интенциональность и природу разума, и что этот опыт сознания не подлежит сомнению. Он пишет, что мы должны «предполагать реальность и познаваемость психического». В приведенных ниже ответах ставится вопрос, оправдано ли использование Сирлом своего собственного опыта сознания для определения того, что это нечто большее, чем просто механическая обработка символов. В частности, ответ «другой разум» утверждает, что мы не можем использовать наш опыт сознания для ответа на вопросы о других разумах (даже о разуме компьютера), эпифенома отвечает на вопрос, можем ли мы вообще выдвигать какие-либо аргументы о чем-то вроде сознания, которое не может По определению, может быть обнаружен любым экспериментом, и элиминативный материалистический ответ утверждает, что собственное личное сознание Серла не «существует» в том смысле, в котором, по мнению Серла, оно существует.

Другие умы отвечают

В «Ответе других разумов» указывается, что аргумент Сирла представляет собой версию проблемы других разумов , примененную к машинам. Мы не можем определить, совпадает ли субъективный опыт других людей с нашим собственным. Мы можем только изучить их поведение (т. е. применив для них собственный тест Тьюринга). Критики Сирла утверждают, что он предъявляет китайскую комнату к более высокому стандарту, чем мы бы придерживались к обычному человеку.

Нильс Нильссон пишет: «Если программа ведет себя так, как будто она умножает, большинство из нас сказали бы, что она на самом деле умножает. Насколько я знаю, Сирл может вести себя только так, как если бы он глубоко размышлял об этих вещах. Но хотя я с ним и не согласен, его симуляция довольно хороша, поэтому я хочу отдать ему должное за реальную мысль».

Тьюринг предвосхитил линию аргументации Сирла (которую он назвал «Аргументом сознания») в 1950 году и заставил другие умы ответить. Он отметил, что люди никогда не учитывают проблемы других умов, общаясь друг с другом. Он пишет, что «вместо того, чтобы постоянно спорить по этому поводу, обычно принято соблюдать вежливую условность, о которой все думают». Тест Тьюринга просто распространяет это «вежливое соглашение» на машины. Он не намерен решать проблемы других разумов (машин или людей) и не считает, что нам это нужно.

Ответы, учитывая, что «сознание» Сирла необнаружимо.

Если мы примем описание интенциональности, сознания и разума, данное Сирлом, мы будем вынуждены признать, что сознание эпифеноменально : что оно «не отбрасывает тени», то есть не обнаруживается во внешнем мире. «Причинные свойства» Сирла не могут быть обнаружены никем вне разума, иначе Китайская комната не смогла бы пройти тест Тьюринга - люди снаружи могли бы сказать, что в комнате нет говорящего по-китайски, обнаружив их причинные свойства. Поскольку они не могут обнаружить причинные свойства, они не могут обнаружить существование ментального. Таким образом, сирловские «каузальные свойства» и само сознание необнаружимы, а все, что не может быть обнаружено, либо не существует, либо не имеет значения.

Майк Алдер называет это «Ответом пылающего лазерного меча Ньютона». Он утверждает, что вся эта аргументация несерьезна, потому что она неверификационистская : не только различие между симуляцией разума и нечетким определением разума, но и неуместно, потому что никакие эксперименты не были и даже не могут быть предложены для того, чтобы различать эти два понятия.

Дэниел Деннетт приводит такую ​​иллюстрацию: предположим, что в результате какой-то мутации рождается человек, который не обладает «причинными свойствами» Сёрла, но, тем не менее, действует в точности как человеческое существо. Это философский зомби , как это сформулировано в философии разума ). Это новое животное будет воспроизводиться так же, как и любой другой человек, и со временем таких зомби станет больше. Естественный отбор благоприятствовал бы зомби, поскольку их конструкция (как мы могли предположить) немного проще. В конце концов люди вымрут. Поэтому, если Сирл прав, наиболее вероятно, что люди (какими мы видим их сегодня) на самом деле являются «зомби», которые, тем не менее, настаивают на том, что обладают сознанием. Невозможно узнать, все мы зомби или нет. Даже если мы все зомби, мы все равно будем верить, что это не так.

Элиминативный материалистический ответ

Некоторые философы утверждают, что сознания, как его описывает Серл, не существует. Дэниел Деннетт описывает сознание как « иллюзию пользователя ».

Эту позицию иногда называют элиминативным материализмом : точка зрения, согласно которой сознание — это не концепция, которая может «сводиться» к строго механическому описанию, а скорее концепция, которая будет просто устранена, как работает материальный как только будет полностью понято, мозг. , точно так же, как понятие демона уже исключено из науки, а не сведено к строго механическому описанию. Другие ментальные свойства, такие как исходная интенциональность (также называемая «значением», «содержанием» и «семантическим характером»), также обычно рассматриваются как особые свойства, связанные с убеждениями и другими пропозициональными установками. Элиминативный материализм утверждает, что пропозициональные установки, такие как убеждения и желания, среди других интенциональных психических состояний, имеющих содержание, не существуют. Если элиминативный материализм является правильным научным объяснением человеческого познания, то предположение аргумента китайской комнаты о том, что «сознание имеет ментальное содержание ( семантика) )» следует отклонить.

Сирл не согласен с этим анализом и утверждает, что «изучение разума начинается с таких фактов, как то, что у людей есть убеждения, а у термостатов, телефонов и счетных машин их нет… мы хотели знать, что отличает разум от термостатов». и печень». Он считает очевидным, что мы можем обнаружить присутствие сознания, и отвергает эти ответы как не относящиеся к делу.

Другие ответы

Маргарет Боден в своей статье «Побег из китайской комнаты» утверждала, что даже если человек в комнате не понимает китайский язык, это не означает, что в комнате нет понимания. Человек в комнате, по крайней мере, понимает книгу правил, используемую для предоставления выходных ответов.

См. также

• Вычислительные модели овладения языком
• Появление
• Я странная петля
• Стохастический попугай
• Синтетический интеллект
• Разрыв Лейбница

Ссылки

• Акман, Варол (1998), Рецензия на книгу - Джон Хаугеланд (редактор), Mind Design II: Philosophy, Psychology and Artificial Intelligence , заархивировано из оригинала 20 мая 2019 г. , получено 2 октября 2018 г. - через Cogprints
• Олдер, Майк (2004), «Пылающий лазерный меч Ньютона» , Philosophy Now , vol. 46, стр. 29–33, заархивировано из оригинала 26 марта 2018 г. Также доступно по адресу: Пылающий лазерный меч Ньютона (PDF) , заархивировано из оригинала (PDF) 14 ноября 2011 г.
• Бен-Ями, Ханох (1993), «Заметка о китайской комнате», Synthese , vol. 95, нет. 2, стр. 169–72, doi : 10.1007/bf01064586 , S2CID   46968094.
• Блок, Нед (1981), «Психологизм и бихевиоризм» , The Philosophical Review , vol. 90, нет. 1, стр. 5–43, CiteSeerX   10.1.1.4.5828 , doi : 10.2307/2184371 , JSTOR   2184371 , заархивировано из оригинала 06 августа 2020 г. , получено 27 октября 2008 г.
• Чалмерс, Дэвид (30 марта 1996 г.), Сознательный разум: в поисках фундаментальной теории , Oxford University Press, ISBN  978-0-19-983935-3
• Черчленд, Пол ; Черчленд, Патриция (январь 1990 г.), «Может ли машина думать?», Scientific American , vol. 262, нет. 1, стр. 32–39, Bibcode : 1990SciAm.262a..32C , doi : 10.1038/scientificamerican0190-32 , PMID   2294584
• Коул, Дэвид (осень 2004 г.), «Аргумент китайской комнаты», в Залте, Эдвард Н. (редактор), Стэнфордская энциклопедия философии , заархивировано из оригинала 27 февраля 2021 г. , получено 26 октября 2007 г. Страница номера относятся к PDF-файлу статьи.
• Кревье, Дэниел (1993). ИИ: бурные поиски искусственного интеллекта . Нью-Йорк, штат Нью-Йорк: BasicBooks. ISBN  0-465-02997-3 .
• Деннетт, Дэниел (1991), Объяснение сознания , Пингвин, ISBN  978-0-7139-9037-9
• Дрейфус, Хьюберт (1979), Чего компьютеры все еще не могут сделать , Нью-Йорк: MIT Press, ISBN  978-0-262-04134-8
• Ферн, Николас (2007), Последние ответы на самые старые вопросы: философское приключение с величайшими мыслителями мира , Нью-Йорк: Grove Press
• Харнад, Стеван (2001), «Что плохого и правильного в аргументе Сирла о китайской комнате», в М.; Престон, Дж. (ред.), «Взгляды в китайскую комнату: новые эссе о Сирле и искусственном интеллекте» , Oxford University Press, заархивировано из оригинала 6 августа 2011 г. , получено 20 декабря 2005 г. Номера страниц относятся к PDF-файлу. статьи.
• Харнад, Стеван (2005), «Аргумент Сирла о китайской комнате», Энциклопедия философии , Macmillan, заархивировано из оригинала 16 января 2007 г. , получено 6 апреля 2006 г. Номера страниц относятся к PDF-файлу статьи.
• Хаугеланд, Джон (1985), Искусственный интеллект: сама идея , Кембридж, Массачусетс: MIT Press, ISBN  978-0-262-08153-5
• Хаугеланд, Джон (1981), Mind Design , Кембридж, Массачусетс: MIT Press, ISBN  978-0-262-08110-8
• Хаузер, Ларри (2006), «Китайская комната Сирла», Интернет-энциклопедия философии , заархивировано из оригинала 13 апреля 2009 г. , получено 9 ноября 2007 г. Номера страниц относятся к PDF-файлу статьи.
• Хью, Патрик Чисан (сентябрь 2016 г.), «Сохранение моральной свободы боевого командира: Винсеннесский инцидент как китайская комната» , Этика и информационные технологии , том. 18, нет. 3, стр. 227–235, doi : 10.1007/s10676-016-9408-y , S2CID   15333272 , заархивировано из оригинала 29 октября 2020 г. , получено 9 декабря 2019 г.
• Курцвейл, Рэй (2005), Сингулярность близка , Викинг
• Хорст, Стивен (осень 2005 г.), «Вычислительная теория разума», в Залте, Эдвард Н. (редактор), Стэнфордская энциклопедия философии , заархивировано из оригинала 04 марта 2021 г. , получено 22 марта 2012 г.
• Лейбниц, Готфрид (1714 г.), Монадология , перевод Росса, Джорджа Макдональда, заархивировано с оригинала 3 июля 2011 г.
• Моравец, Ганс (1988), Дети разума: будущее роботов и человеческого интеллекта , издательство Гарвардского университета
• Мински, Марвин (1980), «Децентрализованное мышление», «Поведенческие науки и науки о мозге» , том. 3, нет. 3, стр. 439–40, doi : 10.1017/S0140525X00005914 , S2CID   246243634 .
• МакКордак, Памела (2004), Машины, которые думают (2-е изд.), Натик, Массачусетс: AK Peters, ISBN  1-56881-205-1
• Макгинн, Коллин (2000), Таинственное пламя: Сознательный разум в материальном мире , Basic, стр. 194, ISBN  978-0786725168
• Мур, Джеймс, изд. (2003), Тест Тьюринга: неуловимый стандарт искусственного интеллекта , Дордрехт: Kluwer, ISBN  978-1-4020-1205-1
• Моцкин, Эльханан; Сирл, Джон (16 февраля 1989 г.), Искусственный интеллект и китайская комната: обмен , New York Review of Books, заархивировано из оригинала 25 октября 2015 г. , получено 21 марта 2012 г.
• Ньюэлл, Аллен ; Саймон, Х.А. (1976), «Информатика как эмпирическое исследование: символы и поиск», Communications of the ACM , vol. 19, нет. 3, стр. 113–126, doi : 10.1145/360018.360022.
• Николич, Данко (2015), «Практикопоэз: или как жизнь развивает разум», Журнал теоретической биологии , том. 373, стр. 40–61, arXiv : 1402.5332 , Bibcode : 2015JThBi.373...40N , doi : 10.1016/j.jtbi.2015.03.003 , PMID   25791287 , S2CID   12680941
• Нильссон, Нильс (1984), Краткое опровержение Сирла (PDF) , заархивировано (PDF) из оригинала 16 января 2020 г. , получено 25 августа 2019 г.
• Нильссон, Нильс (2007), Лунгарелла, М. (ред.), «Гипотеза системы физических символов: статус и перспективы» (PDF) , 50 лет искусственного интеллекта, Festschrift, LNAI 4850 , Springer, стр. 9–17.
• Пинкер, Стивен (1997), Как работает разум , Нью-Йорк: WW Norton, ISBN  978-0-393-31848-7
• Престон, Джон; Бишоп, Марк, ред. (2002), Виды на китайскую комнату: новые эссе о Сирле и искусственном интеллекте , Oxford University Press, ISBN  978-0-19-825057-9
• Рэмси, Уильям (весна 2022 г.), «Элиминативный материализм», в Эдварде Н. Залте (редактор), Стэнфордская энциклопедия философии.
• Робертс, Джейкоб (2016), «Мыслящие машины: поиск искусственного интеллекта» , Distillations , vol. 2, нет. 2, стр. 14–23, заархивировано из оригинала 19 августа 2018 г. , получено 22 марта 2018 г.
• Рассел, Стюарт Дж .; Норвиг, Питер (2021), Искусственный интеллект: современный подход (4-е изд.), Хобокен, Нью-Джерси: Пирсон, ISBN  978-0-13-461099-3
• Сайгин, А.П.; Чичекли, И.; Акман, В. (2000), «Тест Тьюринга: 50 лет спустя» (PDF) , Minds and Machines , vol. 10, нет. 4, стр. 463–518, doi : 10.1023/A:1011288000451 , hdl : 11693/24987 , S2CID   990084 , заархивировано из оригинала (PDF) 09 апреля 2011 г. , получено 5 июня 2015 г. Перепечатано в Moor (2003 , стр. 23–78).
• Сирл, Джон (1980), «Мышление, мозг и программы» , «Поведенческие и мозговые науки » , 3 (3): 417–457, doi : 10.1017/S0140525X00005756 , заархивировано из оригинала 10 декабря 2007 г. , получено 5 мая 2009 г. -13 Номера страниц относятся к PDF-файлу статьи. Сирла См. также первоначальный проект .
• Сирл, Джон (1983), «Могут ли компьютеры думать?», Чалмерс, Дэвид (редактор), «Философия разума: классические и современные чтения» , Oxford University Press, стр. 669–675, ISBN  978-0-19-514581-6
• Сирл, Джон (1984), Умы, мозг и наука: Лекции Рейта 1984 года , издательство Гарвардского университета, ISBN  978-0-674-57631-5
• Сирл, Джон (январь 1990 г.), «Является ли разум мозга компьютерной программой?», Scientific American , vol. 262, нет. 1, стр. 26–31, Bibcode : 1990SciAm.262a..26S , doi : 10.1038/scientificamerican0190-26 , PMID   2294583
• Сирл, Джон (ноябрь 1990 г.), «Является ли мозг цифровым компьютером?» , Труды и обращения Американской философской ассоциации , том. 64, нет. 3, стр. 21–37, doi : 10.2307/3130074 , JSTOR   3130074 , заархивировано из оригинала 14 ноября 2012 г.
• Сирл, Джон (1992), Новое открытие разума , Кембридж, Массачусетс: MIT Press, ISBN  978-0-262-26113-5
• Сирл, Джон (1999), Разум, язык и общество , Нью-Йорк: Basic, ISBN  978-0-465-04521-1 , OCLC   231867665
• Сирл, Джон (1 ноября 2004 г.), Разум: краткое введение , Oxford University Press, ISBN  978-0-19-515733-8
• Сирл, Джон (2002), Сознание и язык , Издательство Кембриджского университета, стр. 16, ISBN  978-0-521-59744-9
• Сирл, Джон (2009), «Спор в китайской комнате», Scholarpedia , vol. 4, нет. 8, с. 3100, Bibcode : 2009SchpJ...4.3100S , doi : 10.4249/scholarpedia.3100
• Тьюринг, Алан (октябрь 1950 г.), «Вычислительная техника и интеллект», Mind , LIX (236): 433–460, doi : 10.1093/mind/LIX.236.433 , ISSN   0026-4423
• Штайнер, Филип (31 октября 2022 г.), «Современная жесткая научная фантастика: моделирование физики в виртуальной реальности в «Задаче трех тел» Цысиня Лю » , Люблинские исследования в современных языках и литературе , том. 46, нет. 3, стр. 57–66, doi : 10.17951/lsmll.2022.46.3.57-66 , S2CID   253353924 , заархивировано из оригинала 5 февраля 2023 г. , получено 05 февраля 2023 г. Номера страниц относятся к PDF-файлу статьи.
• Уитмарш, Патрик (2016), «Представь, что ты машина»: повествовательные системы в «Слепом зрении и эхопраксии » Питера Уоттса», Science Fiction Studies , vol. 43, нет. 2, стр. 237–259, номер документа : 10.5621/sciefictstud.43.2.0237.
• Йи, Ричард (1993), «Машины Тьюринга и семантическая обработка символов: почему настоящие компьютеры не возражают против китайских императоров» (PDF) , Lyceum , vol. 5, нет. 1, стр. 37–59, заархивировано (PDF) из оригинала 24 февраля 2021 г. , получено 18 декабря 2014 г. Номера страниц относятся к PDF-файлу статьи.

Дальнейшее чтение

• Общие презентации
  • «Аргумент китайской комнаты» . Интернет-энциклопедия философии .
  • Аргумент о китайской комнате . Стэнфордская энциклопедия философии
  • Понимание китайской комнаты Марк Розенфельдер
• Источники с участием Джона Сирла:
  • Аргумент китайской комнаты Джона Сирла в Scholarpedia
  • Аргумент китайской комнаты , часть 4 интервью Сирлу «Философия и привычки критического мышления» от 2 сентября 1999 г. Архивировано 13 июня 2010 г. в Wayback Machine в серии «Беседы с историей».
  • Джон Р. Сирл , «Чего не может знать ваш компьютер» (обзор книги Лучано Флориди , «Четвертая революция: Как инфосфера меняет человеческую реальность », Oxford University Press, 2014; и Ника Бострома , «Суперинтеллект: пути, опасности, стратегии» , Oxford University Press, 2014), The New York Review of Books , vol. LXI, нет. 15 (9 октября 2014 г.), стр. 52–55.
• Критика
  • Опровержение «Аргумента о китайской комнате» Джона Сирла. Архивировано 3 февраля 2010 г. в Wayback Machine , Боб Мерфи.
  • Кугель, П. (2004), «Китайская комната — это трюк», Behavioral and Brain Sciences , vol. 27, doi : 10.1017/S0140525X04210044 , S2CID   56032408 , PDF на домашней странице автора. Архивировано 19 июля 2011 г. в Wayback Machine , критическая статья, основанная на предположении, что CR не может использовать свои входные данные (на китайском языке) для изменения своей программы ( который на английском языке).
  • Вольфрам Шмид (2004). «Снос китайской комнаты Сирла». arXiv : cs.AI/0403009 .