✖


Jump to content

Коннекционизм

Послушайте эту статью
(Перенаправлено с сайта Connectionist AI )
Модель коннекционизма «второй волны» (ИНС) со скрытым слоем.

Коннекционизм (придуманный Эдвардом Торндайком в 1931 г.) [ 1 ] ) — это название подхода к изучению психических процессов и познания человека, который использует математические модели, известные как коннекционистские сети или искусственные нейронные сети. [ 2 ] С момента своего возникновения у коннекционизма было много «волн».

Первая волна появилась в 1943 году, когда Уоррен Стерджис Маккалок и Уолтер Питтс сосредоточились на понимании нейронных цепей с помощью формального и математического подхода. [ 3 ] и Фрэнк Розенблатт, опубликовавший в 1958 году книгу «Персептрон: вероятностная модель хранения и организации информации в мозге» в журнале Psychoological Review , работая в Корнеллской авиационной лаборатории. [ 4 ] Первая волна завершилась в 1969 году книгой об ограничениях первоначальной идеи перцептрона, написанной Марвином Мински и Папертом , которая способствовала отпугиванию крупных финансовых агентств в США инвестировать в коннекционистские исследования. [ 5 ] С некоторыми примечательными отклонениями большинство коннекционистских исследований вступило в период бездействия до середины 1980-х годов. Термин «коннекционистская модель» был вновь введен в начале 1980-х годов в статье по когнитивной науке Джерома Фельдмана и Даны Баллард.

Вторая волна расцвела в конце 1980-х годов, после выхода в 1987 году книги Джеймса Л. Макклелланда , Дэвида Э. Румельхарта и др. о параллельной распределенной обработке, в которой было представлено несколько усовершенствований простой идеи перцептрона, таких как промежуточные процессоры (известные как « скрытые слои » теперь) рядом с блоками ввода и вывода и использовала сигмовидной формы функцию активации вместо старой функции «все или ничего». Их работа, в свою очередь, основывалась на работе Джона Хопфилда , который был ключевой фигурой в исследовании математических характеристик функций активации сигмовидной кишки. [ 4 ] С конца 1980-х до середины 1990-х годов коннекционизм принял почти революционный тон, когда Шнайдер [ 6 ] Теренс Хорган и Тинсон поставили вопрос о том, представляет ли коннекционизм фундаментальный сдвиг в психологии и GOFAI . [ 4 ] Некоторые преимущества коннекционистского подхода второй волны включали его применимость к широкому спектру функций, структурное приближение к биологическим нейронам, низкие требования к врожденной структуре и способность к плавной деградации . [ 7 ] Некоторые недостатки коннекционистского подхода второй волны включали трудность расшифровки того, как ИНС обрабатывают информацию или учитывают композиционность ментальных представлений, и, как следствие, трудности с объяснением явлений на более высоком уровне. [ 8 ]

Текущая (третья) волна ознаменовалась достижениями в области глубокого обучения, позволяющими создавать большие языковые модели . [ 4 ] Успех сетей глубокого обучения за последнее десятилетие значительно увеличил популярность этого подхода, но сложность и масштаб таких сетей повлекли за собой увеличение проблем с интерпретируемостью . [ 9 ]

Основной принцип

[ редактировать ]

Центральный принцип коннекционизма заключается в том, что психические явления могут быть описаны взаимосвязанными сетями простых и часто однородных единиц. Форма соединений и агрегатов может варьироваться от модели к модели. Например, элементы сети могут представлять собой нейроны , а соединения — синапсы , как в человеческом мозге . Этот принцип рассматривался как альтернатива GOFAI и классическим теориям разума, основанным на символических вычислениях, но степень совместимости этих двух подходов была предметом многочисленных споров с момента их создания. [ 9 ]

Функция активации

[ редактировать ]
Основная статья: Функция активации

Внутренние состояния любой сети меняются со временем из-за того, что нейроны отправляют сигнал следующему слою нейронов в случае сети прямого распространения или предыдущему слою в случае рекуррентной сети. Открытие нелинейных функций активации положило начало второй волне коннекционизма.

Память и обучение

[ редактировать ]
Основные статьи: Искусственные нейронные сети и глубокое обучение

Нейронные сети следуют двум основным принципам:

  1. Любое психическое состояние можно описать как (N)-мерный вектор числовых значений активации нейронных блоков в сети.
  2. Память и обучение создаются путем изменения «весов» связей между нейронными единицами, обычно представленных в виде матрицы N×M . Веса корректируются в соответствии с некоторыми правилами или алгоритмами обучения , такими как обучение Хебба . [ 10 ]

Наибольшее разнообразие моделей обусловлено:

  • Интерпретация единиц : Единицы можно интерпретировать как нейроны или группы нейронов.
  • Определение активации : Активацию можно определить различными способами. Например, в машине Больцмана активация интерпретируется как вероятность генерации всплеска потенциала действия и определяется с помощью логистической функции по сумме входных данных устройства.
  • Алгоритм обучения : разные сети по-разному модифицируют свои соединения. В общем, любое математически определенное изменение весов соединений с течением времени называется «алгоритмом обучения».

Биологический реализм

[ редактировать ]

Работа коннекционистов в целом не обязательно должна быть биологически реалистичной. [ 11 ] [ 12 ] [ 13 ] [ 14 ] [ 15 ] [ 16 ] [ 17 ] Одной из областей, где коннекционистские модели считаются биологически неправдоподобными, являются сети распространения ошибок, необходимые для поддержки обучения. [ 18 ] [ 19 ] но распространение ошибок может объяснить некоторую часть биологически генерируемой электрической активности, наблюдаемой на коже головы в связанных с событиями потенциалах, таких как N400 и P600 . [ 20 ] и это обеспечивает некоторую биологическую поддержку одного из ключевых предположений коннекционистских процедур обучения. Многие рекуррентные коннекционистские модели также включают теорию динамических систем . Многие исследователи, такие как коннекционист Пол Смоленский , утверждали, что коннекционистские модели будут развиваться в направлении полностью непрерывных , многомерных, нелинейных , динамических системных подходов.

Прекурсоры

[ редактировать ]

Предшественниками коннекционистских принципов можно считать ранние работы в области психологии , например, работы Уильяма Джеймса . [ 21 ] Психологические теории, основанные на знаниях о человеческом мозге, были модны в конце 19 века. Еще в 1869 году невролог Джон Хьюлингс Джексон выступал за многоуровневые распределенные системы. Следуя этому примеру, Герберта Спенсера » «Принципы психологии , 3-е издание (1872 г.), и Зигмунда Фрейда » «Проект научной психологии (составленный в 1895 г.) выдвинули на обсуждение коннекционистские или протоконнекционистские теории. Это были, как правило, спекулятивные теории. Но к началу 20-го века Эдвард Торндайк экспериментировал в области обучения, постулировавшего сеть коннекционистского типа.

Сети Хопфилда имели предшественников в модели Изинга благодаря Вильгельму Ленцу (1920) и Эрнсту Изингу (1925), хотя разработанная ими модель Изинга не включала время. Моделирование модели Изинга методом Монте-Карло потребовало появления компьютеров в 1950-х годах. [ 22 ]

Первая волна

[ редактировать ]

Первая волна началась в 1943 году, когда Уоррен Стерджис Маккалок и Уолтер Питтс сосредоточились на понимании нейронных цепей с помощью формального и математического подхода. Мак-Каллох и Питтс показали, как нейронные системы могут реализовывать логику первого порядка : их классическая статья «Логическое исчисление идей, имманентных нервной деятельности» (1943) играет здесь важную роль. На них повлияли работы Николая Рашевского 1930-х годов и символическая логика в стиле Principia Mathematica . [ 23 ] [ 4 ]

Хебб внес большой вклад в размышления о функционировании нейронов и предложил принцип обучения — обучение Хебба . Лэшли выступал за распределенные репрезентации, поскольку ему не удалось найти ничего похожего на локализованную инграмму за годы экспериментов с повреждениями . Фридрих Хайек независимо разработал эту модель, сначала в краткой неопубликованной рукописи в 1920 году. [ 24 ] [ 25 ] затем в 1952 году расширился до книги. [ 26 ]

Машины перцептрона были предложены и построены Фрэнком Розенблаттом статью «Персептрон: вероятностная модель хранения и организации информации в мозгу» , который в 1958 году опубликовал в журнале Psychoological Review , работая в Корнеллской авиационной лаборатории. Он назвал Хебба, Хайека, Аттли и Эшби главными влиятельными людьми.

Другой формой коннекционистской модели была структура реляционной сети, разработанная лингвистом Сидни Лэмбом в 1960-х годах.

Исследовательская группа под руководством Уидроу эмпирически искала методы обучения двухслойных сетей ADALINE (MADALINE), но с ограниченным успехом. [ 27 ] [ 28 ]

Метод обучения многослойных перцептронов с произвольными уровнями обучаемых весов был опубликован Алексеем Григорьевичем Ивахненко и Валентином Лапой в 1965 году и назван « Групповой метод обработки данных» . Этот метод использует постепенное послойное обучение на основе регрессионного анализа , при котором ненужные единицы в скрытых слоях отсекаются с помощью набора проверки. [ 29 ] [ 30 ] [ 31 ]

Первые многослойные перцептроны, обученные методом стохастического градиентного спуска [ 32 ] был опубликован в 1967 году Шуничи Амари . [ 33 ] В компьютерных экспериментах, проведенных учеником Амари Сайто, пятислойная MLP с двумя изменяемыми слоями изучила полезные внутренние представления для классификации классов нелинейно разделимых шаблонов. [ 30 ]

В 1972 году Шуничи Амари создал ранний пример самоорганизующейся сети . [ 34 ]

Нейронная сеть зима

[ редактировать ]

Среди исследователей искусственного интеллекта возник некоторый конфликт относительно того, для чего полезны нейронные сети. Примерно в конце 1960-х годов в исследованиях и публикациях по нейронным сетям наблюдалось повсеместное затишье, «зима нейронных сетей», которое продолжалось до 1970-х годов, когда область искусственного интеллекта обратилась к символическим методам. Публикация «Персептронов» (1969) обычно рассматривается как катализатор этого события. [ 35 ] [ 36 ]

Вторая волна

[ редактировать ]

Вторая волна началась в начале 1980-х годов. Включены некоторые ключевые публикации ( Джон Хопфилд , 1982). [ 37 ] которая популяризировала сети Хопфилда , статья 1986 года, популяризировавшая обратное распространение ошибки, [ 38 ] и двухтомная книга 1987 года о параллельной распределенной обработке (PDP) Джеймса Л. Макклелланда , Дэвида Э. Румельхарта и др., В которой внесено несколько улучшений в простую идею перцептрона, таких как промежуточные процессоры (известные как « скрытые слои » теперь) рядом с блоками ввода и вывода и использованием сигмовидной формы функции активации вместо старой функции «все или ничего».

Хопфилд подошел к этой области с точки зрения статистической механики, предложив некоторые ранние формы математической строгости, которые повысили воспринимаемую респектабельность этой области. [ 4 ] Другая важная серия публикаций доказала, что нейронные сети являются универсальными аппроксиматорами функций , что также обеспечило некоторую математическую респектабельность. [ 39 ]

В это время появились некоторые ранние популярные демонстрационные проекты. NETtalk (1987) научился произносить письменный английский. Он добился популярного успеха, появившись на Today шоу . [ 40 ] TD-Gammon (1992) достиг высшего человеческого уровня в игре в нарды . [ 41 ]

Дебаты о коннекционизме и компьютерализме

[ редактировать ]

Поскольку в конце 1980-х годов коннекционизм становился все более популярным, некоторые исследователи (в том числе Джерри Фодор , Стивен Пинкер и другие) выступили против него. Они утверждали, что развивающийся в то время коннекционизм угрожал уничтожить то, что они считали прогрессом, достигнутым в области когнитивной науки и психологии классическим подходом компьютерализма . Компьютерализм — это особая форма когнитивизма, которая утверждает, что умственная деятельность является вычислительной , то есть что разум действует, выполняя чисто формальные операции над символами, подобно машине Тьюринга . Некоторые исследователи утверждали, что тенденция коннекционизма представляет собой возврат к ассоциативизму и отказ от идеи языка мысли , что они считали ошибочным. Напротив, именно эти тенденции сделали коннекционизм привлекательным для других исследователей.

Коннекционизм и компьютерализм не должны противоречить друг другу, но дебаты в конце 1980-х и начале 1990-х годов привели к противостоянию между двумя подходами. На протяжении всей дискуссии некоторые исследователи утверждали, что коннекционизм и компьютерализм полностью совместимы, хотя полного консенсуса по этому вопросу достичь не удалось. Различия между этими двумя подходами заключаются в следующем:

  • Компьютеристы постулируют символические модели, которые структурно подобны базовой структуре мозга, тогда как коннекционисты занимаются «низкоуровневым» моделированием, пытаясь гарантировать, что их модели напоминают неврологические структуры.
  • Компьютералисты в целом сосредотачиваются на структуре явных символов ( ментальных моделей ) и синтаксических правилах их внутренних манипуляций, тогда как коннекционисты сосредотачиваются на обучении на стимулах окружающей среды и хранении этой информации в форме связей между нейронами.
  • Компьютеристы полагают, что внутренняя умственная деятельность состоит из манипулирования явными символами, тогда как коннекционисты считают, что манипулирование явными символами представляет собой плохую модель умственной деятельности.
  • Компьютеристы часто постулируют специфичные для предметной области символические подсистемы, предназначенные для поддержки обучения в конкретных областях познания (например, язык, интенциональность, число), тогда как коннекционисты постулируют один или небольшой набор очень общих механизмов обучения.

Несмотря на эти различия, некоторые теоретики предполагают, что коннекционистская архитектура — это просто способ, которым органический мозг реализует систему манипулирования символами. Это логически возможно, поскольку хорошо известно, что коннекционистские модели могут реализовывать системы манипулирования символами, подобные тем, которые используются в вычислительных моделях. [ 42 ] поскольку они действительно должны быть способны объяснить человеческую способность выполнять задачи манипулирования символами. Было предложено несколько когнитивных моделей, сочетающих как символьно-манипулятивную, так и коннекционистскую архитектуру. Среди них — Пола Смоленского . «Интегрированная коннекционистская/символическая когнитивная архитектура» [ 9 ] [ 43 ] и CLARION Рона Сана ( когнитивная архитектура) . Но споры ведутся вокруг того, формирует ли эта манипуляция символами основу познания в целом, так что это не является потенциальным оправданием компьютерализма. Тем не менее, вычислительные описания могут быть полезны, например, для высокоуровневых описаний познания логики.

Дебаты в основном были сосредоточены на логических аргументах о том, могут ли коннекционистские сети создать синтаксическую структуру, наблюдаемую в такого рода рассуждениях. Позже это было достигнуто, хотя и с использованием быстро изменяющихся способностей связывания, выходящих за рамки тех, которые стандартно предполагались в коннекционистских моделях. [ 42 ] [ 44 ]

Привлекательность компьютерных описаний отчасти заключается в том, что их относительно легко интерпретировать и, таким образом, можно рассматривать как способствующие нашему пониманию конкретных психических процессов, тогда как коннекционистские модели в целом более непрозрачны до такой степени, что их можно описать только в в очень общих терминах (например, указание алгоритма обучения, количества модулей и т. д.) или в бесполезных низкоуровневых терминах. В этом смысле коннекционистские модели могут воплощать и тем самым предоставлять доказательства широкой теории познания (т. е. коннекционизма), не представляя при этом полезной теории конкретного моделируемого процесса. В этом смысле дебаты можно рассматривать как в некоторой степени отражающие простую разницу в уровне анализа, на котором строятся конкретные теории. Некоторые исследователи предполагают, что пробел в анализе является следствием коннекционистских механизмов, порождающих возникающие явления , которые можно описать в вычислительных терминах. [ 45 ]

В 2000-е годы популярность динамических систем в философии сознания открыла новый взгляд на дебаты; [ 46 ] [ 47 ] некоторые авторы [ который? ] теперь утверждают, что любой раскол между коннекционизмом и компьютерализмом более убедительно характеризуется как раскол между компьютерализмом и динамическими системами .

В 2014 году Алекс Грейвс и другие сотрудники DeepMind опубликовали серию статей, описывающих новую структуру глубокой нейронной сети, названную нейронной машиной Тьюринга. [ 48 ] способен читать символы на ленте и сохранять символы в памяти. Реляционные сети, еще один модуль Deep Network, опубликованный DeepMind, способны создавать объектные представления и манипулировать ими, чтобы отвечать на сложные вопросы. Реляционные сети и нейронные машины Тьюринга являются еще одним доказательством того, что коннекционизм и компьютерализм не обязательно должны противоречить друг другу.

Дебаты о символизме и коннекционизме

[ редактировать ]

Субсимволическая парадигма Смоленского. [ 49 ] [ 50 ] должен ответить на вызов Фодора-Пилишина [ 51 ] [ 52 ] [ 53 ] [ 54 ] сформулированная классической теорией символов для убедительной теории познания в современном коннекционизме. Чтобы стать адекватной альтернативной теорией познания, субсимволическая парадигма Смоленского должна была бы объяснить существование систематичности или систематических отношений в языковом познании без предположения, что когнитивные процессы каузально чувствительны к классической составляющей структуре ментальных представлений. Таким образом, субсимволическая парадигма или коннекционизм в целом должны были бы объяснить существование систематичности и композиционности, не полагаясь на простую реализацию классической когнитивной архитектуры. Этот вызов подразумевает дилемму: если бы субсимволическая парадигма не могла внести никакого вклада в систематичность и композиционность мысленных представлений, ее было бы недостаточно в качестве основы для альтернативной теории познания. Однако если вклад Субсимволической парадигмы в систематичность требует психических процессов, основанных на классической конституирующей структуре ментальных репрезентаций, теория познания, которую она развивает, будет в лучшем случае архитектурой реализации классической модели теории символов и, следовательно, не будет подлинной альтернативой. (коннекционистская) теория познания. [ 55 ] Классическая модель символизма характеризуется (1) комбинаторным синтаксисом и семантикой мысленных представлений и (2) мысленными операциями как структурно-чувствительными процессами, основанными на фундаментальном принципе синтаксической и семантической составляющей структуры мысленных представлений, использованном в «Фодоре». Язык мысли (ЛОТ)». [ 56 ] [ 57 ] Это можно использовать для объяснения следующих тесно связанных свойств человеческого познания, а именно его (1) продуктивности, (2) систематичности, (3) композиционности и (4) логической последовательности. [ 58 ]

Эта задача была решена в современном коннекционизме, например, не только в «Интегрированной коннекционистско-символической (ICS) когнитивной архитектуре» Смоленского. [ 59 ] [ 60 ] но также и «Колебательные сети» Вернинга и Мэй. [ 61 ] [ 62 ] [ 63 ] Обзор этого дан, например, компанией Bechtel & Авраамсен, [ 64 ] Маркус [ 65 ] и Маурер. [ 66 ]

См. также

[ редактировать ]

Примечания

[ редактировать ]
  1. ^ Эдвард Торндайк (1931) Человеческое обучение , страница 122
  2. ^ «Интернет-энциклопедия философии» . iep.utm.edu . Проверено 19 августа 2023 г.
  3. ^ Маккалок, Уоррен С.; Питтс, Уолтер (1 декабря 1943 г.). «Логическое исчисление идей, имманентных нервной деятельности» . Вестник математической биофизики . 5 (4): 115–133. дои : 10.1007/BF02478259 . ISSN   1522-9602 .
  4. ^ Jump up to: а б с д и ж Беркли, Иштван С.Н. (2019). «Загадочный случай коннекционизма» . Открытая философия . 2019 (2): 190–205. дои : 10.1515/opphil-2019-0018 . S2CID   201061823 .
  5. ^ Боден, Маргарет (2006). Разум как маньяк: история когнитивной науки . Оксфорд: Oxford UP, стр. 914. ИСБН  978-0-262-63268-3 .
  6. ^ Шнайдер, Уолтер (1987). «Коннекционизм: смена парадигмы психологии?» . Методы, инструменты и компьютеры исследования поведения . 19 : 73–83. дои : 10.1515/opphil-2019-0018 . S2CID   201061823 .
  7. ^ Маркус, Гэри Ф. (2001). Алгебраический разум: интеграция коннекционизма и когнитивной науки (обучение, развитие и концептуальные изменения) . Кембридж, Массачусетс: MIT Press. стр. 27–28 . ISBN  978-0-262-63268-3 .
  8. ^ Смоленский, Павел (1999). «Грамматические коннекционистские подходы к языку» . Когнитивная наука . 23 (4): 589–613. дои : 10.1207/s15516709cog2304_9 .
  9. ^ Jump up to: а б с Гарсон, Джеймс (27 ноября 2018 г.). Залта, Эдвард Н. (ред.). Стэнфордская энциклопедия философии . Лаборатория метафизических исследований, Стэнфордский университет – через Стэнфордскую энциклопедию философии.
  10. ^ Ново, Мария-Луиза; Альсина, Ангел; Марбан, Хосе-Мария; Берсиано, Эноа (2017). «Связной интеллект для детского математического образования» . Общайтесь (на испанском языке). 25 (52): 29–39. дои : 10.3916/c52-2017-03 . hdl : 10272/14085 . ISSN   1134-3478 .
  11. ^ «Журнал Энцефалос» . www.encephalos.gr . Проверено 20 февраля 2018 г.
  12. ^ Уилсон, Элизабет А. (4 февраля 2016 г.). Нейронная география: феминизм и микроструктура познания . Рутледж. ISBN  978-1-317-95876-5 .
  13. ^ Ди Паоло, EA (1 января 2003 г.). «Организмоподобная робототехника: гомеостатическая адаптация и телеология за пределами замкнутого сенсомоторного цикла» (PDF) . Динамический системный подход к воплощению и социальности, Advanced Knowledge International . Университет Сассекса . S2CID   15349751 . Проверено 29 декабря 2023 г.
  14. ^ Зорзи, Марко; Тестолин, Альберто; Стоянов, Ивилин П. (20 августа 2013 г.). «Моделирование языка и познания с помощью глубокого обучения без учителя: обзор учебного пособия» . Границы в психологии . 4 : 515. doi : 10.3389/fpsyg.2013.00515 . ISSN   1664-1078 . ПМЦ   3747356 . ПМИД   23970869 .
  15. ^ Тисзен, Р. (2011). «Аналитическая и континентальная философия, наука и глобальная философия» . Сравнительная философия . 2 (2): 4–22 . Проверено 29 декабря 2023 г.
  16. ^ Браун, А. (1 января 1997 г.). Перспективы нейронных сетей в области познания и адаптивной робототехники . ЦРК Пресс. ISBN  978-0-7503-0455-9 .
  17. ^ Пфайфер, Р.; Шретер, З.; Фогельман-Сулье, Ф.; Стилз, Л. (23 августа 1989 г.). Коннекционизм в перспективе . Эльзевир. ISBN  978-0-444-59876-9 .
  18. ^ Крик, Фрэнсис (январь 1989 г.). «Недавний ажиотаж по поводу нейронных сетей». Природа . 337 (6203): 129–132. Бибкод : 1989Natur.337..129C . дои : 10.1038/337129a0 . ISSN   1476-4687 . ПМИД   2911347 . S2CID   5892527 .
  19. ^ Румельхарт, Дэвид Э.; Хинтон, Джеффри Э.; Уильямс, Рональд Дж. (октябрь 1986 г.). «Изучение представлений с помощью ошибок обратного распространения». Природа . 323 (6088): 533–536. Бибкод : 1986Natur.323..533R . дои : 10.1038/323533a0 . ISSN   1476-4687 . S2CID   205001834 .
  20. ^ Фитц, Хартмут; Чанг, Франклин (01 июня 2019 г.). «Языковые ERP отражают обучение посредством распространения ошибок прогнозирования». Когнитивная психология . 111 : 15–52. дои : 10.1016/j.cogpsych.2019.03.002 . hdl : 21.11116/0000-0003-474F-6 . ISSN   0010-0285 . ПМИД   30921626 . S2CID   85501792 .
  21. ^ Андерсон, Джеймс А.; Розенфельд, Эдвард (1989). «Глава 1: (1890) Уильям Джеймс Психология (Краткий курс) ». Нейрокомпьютеры: основы исследований . Книга Брэдфорда. п. 1. ISBN  978-0-262-51048-6 .
  22. ^ Браш, Стивен Г. (1967). «История модели Ленца-Изинга». Обзоры современной физики . 39 (4): 883–893. Бибкод : 1967РвМП...39..883Б . дои : 10.1103/RevModPhys.39.883 .
  23. ^ Маккалок, Уоррен С.; Питтс, Уолтер (1 декабря 1943 г.). «Логическое исчисление идей, имманентных нервной деятельности» . Вестник математической биофизики . 5 (4): 115–133. дои : 10.1007/BF02478259 . ISSN   1522-9602 .
  24. ^ Хайек, Фридрих А. [1920] 1991. Вклад в теорию развития сознания. Рукопись в переводе Греты Хайнц.
  25. ^ Колдуэлл, Брюс (2004). «Некоторые размышления о «Сенсорном порядке» Ф.А. Хайека» . Журнал биоэкономики . 6 (3): 239–254. дои : 10.1007/s10818-004-5505-9 . ISSN   1387-6996 . S2CID   144437624 .
  26. ^ Хайек, ФА (15 сентября 2012 г.). Сенсорный порядок: исследование основ теоретической психологии (1-е изд.). Издательство Чикагского университета.
  27. ^ стр. 124-129, Олазаран Родригес, Хосе Мигель. Историческая социология исследований нейронных сетей . Кандидатская диссертация. Эдинбургский университет, 1991.
  28. ^ Уидроу, Б. (1962) Обобщение и хранение информации в сетях «нейронов» ADALINE . В М. К. Йовитсе, Г. Т. Якоби и Г. Д. Гольдштейне (ред.), Самоорганизующиеся системы-1962 (стр. 435-461). Вашингтон, округ Колумбия: Спартанские книги.
  29. ^ Ивахненко А.Г.; Григорьевич Лапа, Валентин (1967). Кибернетика и методы прогнозирования . Американский паб Elsevier. Ко.
  30. ^ Jump up to: а б Шмидхубер, Юрген (2022). «Аннотированная история современного искусственного интеллекта и глубокого обучения». arXiv : 2212.11279 [ cs.NE ].
  31. ^ Ивахненко, А.Г. (1973). Кибернетические предсказывающие устройства . Информационная корпорация CCM.
  32. ^ Роббинс, Х .; Монро, С. (1951). «Метод стохастической аппроксимации» . Анналы математической статистики . 22 (3): 400. дои : 10.1214/aoms/1177729586 .
  33. ^ Амари, Шуничи (1967). «Теория адаптивного классификатора шаблонов». IEEE-транзакции . ЕС (16): 279–307.
  34. ^ Амари, С.-И. (ноябрь 1972 г.). «Обучение шаблонам и последовательностям шаблонов с помощью самоорганизующихся сетей пороговых элементов» . Транзакции IEEE на компьютерах . С-21 (11): 1197–1206. дои : 10.1109/TC.1972.223477 . ISSN   0018-9340 .
  35. ^ Олазаран, Микель (1993-01-01), Йовитс, Маршалл К. (редактор), Социологическая история споров о нейронных сетях , Достижения в области компьютеров, том. 37, Elsevier, стр. 335–425, номер документа : 10.1016/S0065-2458(08)60408-8 , ISBN.  978-0-12-012137-3 , получено 7 августа 2024 г.
  36. ^ Олазаран, Микель (август 1996 г.). «Социологическое исследование официальной истории спора о перцептронах» . Социальные исследования науки . 26 (3): 611–659. дои : 10.1177/030631296026003005 . ISSN   0306-3127 .
  37. ^ Хопфилд, Джей-Джей (апрель 1982 г.). «Нейронные сети и физические системы с возникающими коллективными вычислительными способностями» . Труды Национальной академии наук . 79 (8): 2554–2558. Бибкод : 1982PNAS...79.2554H . дои : 10.1073/pnas.79.8.2554 . ISSN   0027-8424 . ПМЦ   346238 . ПМИД   6953413 .
  38. ^ Румельхарт, Дэвид Э.; Хинтон, Джеффри Э.; Уильямс, Рональд Дж. (октябрь 1986 г.). «Изучение представлений путем обратного распространения ошибок» . Природа . 323 (6088): 533–536. Бибкод : 1986Natur.323..533R . дои : 10.1038/323533a0 . ISSN   1476-4687 .
  39. ^ Цыбенко, Г. (1 декабря 1989 г.). «Приближение суперпозициями сигмоидальной функции» . Математика управления, сигналов и систем . 2 (4): 303–314. Бибкод : 1989MCSS....2..303C . дои : 10.1007/BF02551274 . ISSN   1435-568X .
  40. ^ Сейновски, Терренс Дж. (2018). Революция глубокого обучения . Кембридж, Массачусетс, Лондон, Англия: MIT Press. ISBN  978-0-262-03803-4 .
  41. ^ Саммут, Клод; Уэбб, Джеффри И., ред. (2010), «TD-Gammon» , Энциклопедия машинного обучения , Бостон, Массачусетс: Springer US, стр. 955–956, doi : 10.1007/978-0-387-30164-8_813 , ISBN  978-0-387-30164-8 , получено 25 декабря 2023 г.
  42. ^ Jump up to: а б Чанг, Франклин (2002). «Символически говоря: коннекционистская модель производства предложений» . Когнитивная наука . 26 (5): 609–651. дои : 10.1207/s15516709cog2605_3 . ISSN   1551-6709 .
  43. ^ Смоленский, Павел (1990). «Связывание переменных тензорного произведения и представление символических структур в коннекционистских системах» (PDF) . Искусственный интеллект . 46 (1–2): 159–216. дои : 10.1016/0004-3702(90)90007-М .
  44. ^ Шастри, Локендра; Аджанагадде, Венкат (сентябрь 1993 г.). «От простых ассоциаций к систематическим рассуждениям: коннекционистское представление правил, переменных и динамических привязок с использованием временной синхронности». Поведенческие и мозговые науки . 16 (3): 417–451. дои : 10.1017/S0140525X00030910 . ISSN   1469-1825 . S2CID   14973656 .
  45. ^ Эллис, Ник К. (1998). «Эмерджентизм, коннекционизм и изучение языков» (PDF) . Изучение языка . 48 (4): 631–664. дои : 10.1111/0023-8333.00063 .
  46. ^ Ван Гелдер, Тим (1998), «Динамическая гипотеза в когнитивной науке» , Behavioral and Brain Sciences , 21 (5): 615–28, обсуждение 629–65, doi : 10.1017/S0140525X98001733 , PMID   10097022 , получено 28 мая 2022 г.
  47. ^ Бир, Рэндалл Д. (март 2000 г.). «Динамические подходы к когнитивной науке». Тенденции в когнитивных науках . 4 (3): 91–99. дои : 10.1016/s1364-6613(99)01440-0 . ISSN   1364-6613 . ПМИД   10689343 . S2CID   16515284 .
  48. ^ Грейвс, Алекс (2014). «Нейронные машины Тьюринга». arXiv : 1410.5401 [ cs.NE ].
  49. ^ П. Смоленский: О правильной трактовке коннекционизма. В: Поведенческие науки и науки о мозге. Полоса 11, 1988, С. 1-74.
  50. ^ П. Смоленский: Конституционная структура коннекционистских психических состояний: ответ Фодору и Пилишину. В: Т. Хорган, Дж. Тинсон (Hrsg.): Конференция Шпиндела, 1987: Коннекционизм и философия разума. Южный философский журнал. Специальный выпуск о коннекционизме и основах когнитивной науки. Добавка. Полоса 26, 1988, с. 137-161.
  51. ^ Дж. А. Фодор, З. В. Пилишин: Коннекционизм и когнитивная архитектура: критический анализ. Познание. Полоса 28, 1988 г., С. 12-13, 33-50.
  52. ^ Дж. А. Фодор, Б. Маклафлин: Коннекционизм и проблема систематичности: почему решение Смоленского не работает. Познание. Полоса 35, 1990, с. 183-184.
  53. ^ Б. Маклафлин: Битва коннекционизма и классицизма за завоевание душ. Философские исследования, Группа 71, 1993, С. 171-172.
  54. ^ Б. Маклафлин: Может ли архитектура АСУ ТП решить проблемы систематичности и производительности? В: П. Кальво, Дж. Саймонс (Hrsg.): Архитектура познания. Переосмысление проблемы системности Фодора и Пилишина. MIT Press, Кембридж/Массачусетс, Лондон, 2014, С. 31–76.
  55. ^ Дж. А. Фодор, Б. Маклафлин: Коннекционизм и проблема систематичности: почему решение Смоленского не работает. Познание. Полоса 35, 1990, с. 183-184.
  56. ^ Дж. А. Фодор: Язык мысли. Harvester Press, Сассекс, 1976, ISBN 0-85527-309-7.
  57. ^ Дж. А. Фодор: ЛОТ 2: Новый взгляд на язык мысли. Clarendon Press, Оксфорд, 2008, ISBN 0-19-954877-3.
  58. ^ Я. А. Фодор, З. В. Пилишин (1988), С. 33-48.
  59. ^ П. Смоленький: Ответ: Составляющая структура и объяснение в интегрированной коннекционистской / символической когнитивной архитектуре. В: К. Макдональд, Г. Макдональд (Hrsg.): Коннекционизм: дебаты о психологическом объяснении. Издательство Блэквелл. Оксфорд/Великобритания, Кембридж/Массачусетс. Том. 2, 1995, с. 224, 236-239, 242-244, 250-252, 282.
  60. ^ П. Смоленский, Г. Лежандр: Гармоничный разум: от нейронных вычислений к грамматике теории оптимальности. Том. 1: Когнитивная архитектура. Книга Брэдфорда, MIT Press, Кембридж, Лондон, 2006a, ISBN 0-262-19526-7, S. 65-67, 69-71, 74-75, 154-155, 159-202, 209-210, 235 -267, 271-342, 513.
  61. ^ М. Вернинг: Нейрональная синхронизация, ковариация и композиционное представление. В: М. Вернинг, Э. Мачери, Г. Шурц (Hrsg.): Композиционность значения и содержания. Том. II: Приложения к лингвистике, психологии и нейробиологии. Онтос Верлаг, 2005, С. 283-312.
  62. ^ М. Вернинг: Несимволическое композиционное представление и его нейронная основа: к эмулятивной семантике. В: М. Вернинг, В. Хинзен, Э. Мачери (Hrsg.): Оксфордский справочник по композиционности. Издательство Оксфордского университета, 2012, стр. 633–654.
  63. ^ А. Мэй и М. Вернинг: Синхронизация нейронов: от привязки динамических характеристик к композиционным представлениям. Письма о хаосе и сложности, Группа 2, С. 315–325.
  64. ^ Бектель, В., Абрахамсен, А.А. Коннекционизм и разум: параллельная обработка, динамика и эволюция в сетях. 2-е издание. Издательство Блэквелл, Оксфорд. 2002 г.
  65. ^ Г. Ф. Маркус: Алгебраический ум. Интеграция коннекционизма и когнитивной науки. Книга Брэдфорда, MIT Press, Кембридж, 2001, ISBN 0-262-13379-2.
  66. ^ Х. Маурер: Когнитивная наука: Механизмы интегративной синхронизации в когнитивных нейроархитектурах современного коннекционизма. CRC Press, Бока-Ратон/Флорида, 2021, ISBN 978-1-351-04352-6. https://doi.org/10.1201/9781351043526

Ссылки

[ редактировать ]
  • Фельдман, Джером и Баллард, Дана. Коннекционистские модели и их свойства (1982). Когнитивная наука. V6, Iвыпуск 3, стр. 205–254.
  • Румельхарт, Д.Э., Дж.Л. Макклелланд и исследовательская группа НДП (1986). Параллельная распределенная обработка: исследования микроструктуры познания. Том 1: Фонды , Кембридж, Массачусетс: MIT Press , ISBN   978-0-262-68053-0
  • Макклелланд, Дж. Л., Д. Е. Румельхарт и исследовательская группа НДП (1986). Параллельная распределенная обработка: исследования микроструктуры познания. Том 2: Психологические и биологические модели , Кембридж, Массачусетс: MIT Press, ISBN   978-0-262-63110-5
  • Пинкер, Стивен и Мелер, Жак (1988). Соединения и символы , Кембридж, Массачусетс: MIT Press, ISBN   978-0-262-66064-8
  • Джеффри Л. Элман, Элизабет А. Бейтс, Марк Х. Джонсон, Аннетт Кармилов-Смит, Доменико Паризи, Ким Планкетт (1996). Переосмысление врожденности: коннекционистский взгляд на развитие , Кембридж, Массачусетс: MIT Press, ISBN   978-0-262-55030-7
  • Маркус, Гэри Ф. (2001). Алгебраический разум: интеграция коннекционизма и когнитивной науки (обучение, развитие и концептуальные изменения) , Кембридж, Массачусетс: MIT Press, ISBN   978-0-262-63268-3
  • Дэвид А. Медлер (1998). «Краткая история коннекционизма» (PDF) . Нейронные компьютерные опросы . 1 : 61–101.
  • Маурер, Харальд (2021). Когнитивная наука: механизмы интегративной синхронизации в когнитивных нейроархитектурах современного коннекционизма , Бока-Ратон/Флорида: CRC Press, https://doi.org/10.1201/9781351043526 , ISBN   978-1-351-04352-6
[ редактировать ]
Послушайте эту статью ( 19 минут )
Duration: 19 minutes and 20 seconds.
Разговорная иконка Википедии
Этот аудиофайл был создан на основе редакции этой статьи от 26 ноября 2011 г. ( 26 ноября 2011 г. ) и не отражает последующие изменения.
( Аудио помощь · Больше устных статей )
Retrieved from "https://en.wikipedia.org/w/index.php?title=Connectionism&oldid=1239053728"
Arc.Ask3.Ru: конец переведенного документа.
Arc.Ask3.Ru
Номер скриншота №: 66f83149f11a412840758a38837c0471__1722989580
URL1:https://arc.ask3.ru/arc/aa/66/71/66f83149f11a412840758a38837c0471.html
Заголовок, (Title) документа по адресу, URL1:
Connectionism - Wikipedia
Данный printscreen веб страницы (снимок веб страницы, скриншот веб страницы), визуально-программная копия документа расположенного по адресу URL1 и сохраненная в файл, имеет: квалифицированную, усовершенствованную (подтверждены: метки времени, валидность сертификата), открепленную ЭЦП (приложена к данному файлу), что может быть использовано для подтверждения содержания и факта существования документа в этот момент времени. Права на данный скриншот принадлежат администрации Ask3.ru, использование в качестве доказательства только с письменного разрешения правообладателя скриншота. Администрация Ask3.ru не несет ответственности за информацию размещенную на данном скриншоте. Права на прочие зарегистрированные элементы любого права, изображенные на снимках принадлежат их владельцам. Качество перевода предоставляется как есть. Любые претензии, иски не могут быть предъявлены. Если вы не согласны с любым пунктом перечисленным выше, вы не можете использовать данный сайт и информация размещенную на нем (сайте/странице), немедленно покиньте данный сайт. В случае нарушения любого пункта перечисленного выше, штраф 55! (Пятьдесят пять факториал, Денежную единицу (имеющую самостоятельную стоимость) можете выбрать самостоятельно, выплаичвается товарами в течение 7 дней с момента нарушения.)