Стивен Гроссберг

Стивен Гроссберг
Гроссберг в июле 2016 года
Рожденный	( 1939-12-31 ) 31 декабря 1939 г. Нью-Йорк , Нью-Йорк

Стивен Гроссберг (родился 31 декабря 1939 г.) — учёный-когнитивист , теоретический и вычислительный психолог , нейробиолог , математик , биомедицинский инженер и нейроморфный технолог. Он является профессором когнитивных и нейронных систем Ванга и почетным профессором математики и статистики, психологии и наук о мозге, а также биомедицинской инженерии в Бостонском университете .

Карьера

Молодость

Гроссберг сначала жил в Вудсайде, Квинс , в Нью-Йорке . Его отец умер от лимфомы Ходжкина , когда ему был один год. Его мать снова вышла замуж, когда ему было пять лет. Затем он переехал со своей матерью, отчимом и старшим братом Митчеллом в Джексон-Хайтс , Квинс. Он поступил в среднюю школу Стуйвесант в нижнем Манхэттене после сдачи конкурсного вступительного экзамена. Он первым в своем классе окончил Стуйвесант в 1957 году.

Он начал обучение в Дартмутском колледже в 1957 году, где впервые придумал парадигму использования нелинейных дифференциальных уравнений для описания нейронных сетей, моделирующих динамику мозга, а также основные уравнения, которые многие ученые используют для этой цели сегодня. Затем он продолжил изучать психологию и нейробиологию. Он получил степень бакалавра в 1961 году в Дартмуте , став первой совместной специализацией в области математики и психологии .

Затем Гроссберг поступил в Стэнфордский университет , который окончил в 1964 году со степенью магистра математики и перевёлся в Институт медицинских исследований Рокфеллера (ныне Университет Рокфеллера ) на Манхэттене. В первый год работы в Рокфеллере он написал монографию на 500 страниц, в которой подытожил свои открытия того времени. Она называется «Теория встраивания полей с приложениями к психологии и нейрофизиологии». Гроссберг получил докторскую степень по математике от Рокфеллера в 1967 году за диссертацию, в которой были доказаны первые теоремы о глобальной адресуемой памяти о моделях нейронного обучения, которые он обнаружил в Дартмуте. Руководителем его докторской диссертации был Джан-Карло Рота .

Поступление в академию

Гроссберг был принят на работу в 1967 году на должность доцента кафедры прикладной математики Массачусетского технологического института по настоятельным рекомендациям Марка Каца и Роты. В 1969 году Гроссберг получил звание доцента после публикации ряда концептуальных и математических результатов по многим аспектам нейронных сетей, включая серию основополагающих статей в Трудах Национальной академии наук в период с 1967 по 1971 год.

Гроссберг был принят на работу профессором Бостонского университета в 1975 году, где он работает до сих пор. Во время учебы в Бостонском университете он основал кафедру когнитивных и нейронных систем, несколько междисциплинарных исследовательских центров и различные международные институты.

Исследования

Гроссберг — пионер в области вычислительной нейробиологии , коннекционистской когнитивной науки и нейроморфных технологий. Его работа сосредоточена на принципах проектирования и механизмах, которые позволяют поведению людей или машин автономно адаптироваться в режиме реального времени к неожиданным вызовам окружающей среды. Это исследование включало нейронные модели зрения и обработки изображений ; изучение объектов, сцен и событий, распознавание образов и поиск; слух, речь и язык; когнитивная обработка и планирование информации; обучение с подкреплением и когнитивно-эмоциональные взаимодействия; автономная навигация; адаптивное сенсомоторное управление и робототехника ; самоорганизующаяся нейродинамика ; и психические расстройства . Гроссберг также сотрудничает с экспериментаторами для разработки экспериментов, которые проверяют теоретические предсказания и заполняют концептуально важные пробелы в экспериментальной литературе, проводит анализ математической динамики нейронных систем и переносит биологические нейронные модели в приложения в технике и технологиях. Он опубликовал 18 книг или специальных выпусков журналов, более 560 научных статей и имеет 7 патентов. На веб-странице Гроссберга site.bu.edu/steveg представлены его исследовательские статьи в загружаемой форме, а также видео основных лекций на различные темы.

Гроссберг изучал, как мозг порождает разум, с тех пор, как он, будучи первокурсником Дартмутского колледжа в 1957 году, прошел вводный курс психологии. В то время Гроссберг представил парадигму использования нелинейных систем дифференциальных уравнений , чтобы показать, как механизмы мозга могут вызывать поведенческие реакции. функции. Эта парадигма помогает решить классическую проблему разума и тела и представляет собой базовый математический формализм, который сегодня используется в исследованиях биологических нейронных сетей. В частности, в 1957–1958 годах Гроссберг обнаружил широко используемые уравнения для (1) кратковременной памяти (STM) или активации нейронов (часто называемые моделями аддитивной и шунтирующей модели или моделью Хопфилда после применения Джоном Хопфилдом в 1984 году аддитивной модели). уравнение); (2) среднесрочная память (MTM), или зависимое от активности привыкание (часто называемое привычными медиаторными воротами или депрессирующими синапсами после того, как Ларри Эбботт ввел этот термин в 1997 году); и (3) долговременная память (LTM), или нейронное обучение (часто называемое контролируемым обучением наискорейшего спуска). Один из вариантов этих уравнений обучения, названный Instar Learning, был представлен Гроссбергом в 1976 году в книге «Теория адаптивного резонанса и самоорганизующиеся карты» для обучения адаптивных фильтров в этих моделях. Это уравнение обучения также использовалось Кохоненом в его приложениях самоорганизующихся карт, начиная с 1984 года. Другой вариант этих уравнений обучения, названный Outstar Learning, использовался Гроссбергом, начиная с 1967 года, для обучения пространственным закономерностям. Обучение Outstar и Instar было объединено Гроссбергом в 1976 году в трехслойную сеть для изучения многомерных карт из любого m-мерного входного пространства в любое n-мерное выходное пространство. В 1987 году Хехт-Нильсен назвал это приложение встречным распространением.

Основываясь на своей докторской диссертации Рокфеллера 1964 года, в 1960-х и 1970-х годах Гроссберг обобщил аддитивные и шунтирующие модели на класс динамических систем, которые включали эти модели, а также ненейронные биологические модели, и доказал теоремы об адресуемой по содержанию памяти для этих более общих моделей. класс моделей. В рамках этого анализа он представил функциональный метод Ляпунова, который помогает классифицировать предельную и колебательную динамику конкурентных систем, отслеживая, какая популяция выигрывает с течением времени. Этот метод Ляпунова побудил его и Майкла Коэна открыть в 1981 году и опубликовать в 1982 и 1983 годах функцию Ляпунова, которую они использовали для доказательства существования глобальных пределов в классе динамических систем с симметричными коэффициентами взаимодействия, который включает модели аддитивной и шунтирующей моделей. Эту модель часто называют моделью Коэна-Гроссберга и функцией Ляпунова. Джон Хопфилд опубликовал специальный случай функции Коэна-Гроссберга Ляпунова для аддитивной модели в 1984 году. В 1987 году Барт Коско адаптировал модель Коэна-Гроссберга и функцию Ляпунова, которые доказали глобальную сходимость СТМ, для определения адаптивной двунаправленной ассоциативной памяти, которая объединяет STM и LTM и также глобально сходится к пределу.

Гроссберг представил и разработал вместе со своими коллегами фундаментальные концепции, механизмы, модели и архитектуры по широкому спектру тем, касающихся мозга и поведения. Он сотрудничал с более чем 100 аспирантами и докторантами.

Эти модели предоставили унифицированное и принципиальное объяснение психологических и нейробиологических данных о процессах, включая слуховое и зрительное восприятие, внимание, сознание, познание, когнитивно-эмоциональные взаимодействия и действия как у типичных или нормальных людей, так и у клинических пациентов. В этой работе моделируется, как определенные нарушения или поражения головного мозга вызывают поведенческие симптомы психических расстройств, таких как болезнь Альцгеймера, аутизм, амнезия, посттравматическое стрессовое расстройство, СДВГ, зрительная и слуховая агнозия и пренебрежение, а также медленноволновой сон.

Модели также применялись во многих крупномасштабных приложениях в области техники, технологий и искусственного интеллекта. В совокупности они представляют собой основу для разработки автономных адаптивных интеллектуальных алгоритмов, агентов и мобильных роботов.

Эти результаты были объединены в автономное и нетехническое изложение в разговорном стиле в книге Гроссберга «Magnum Opus» 2021 года под названием « Сознательный разум, резонансный мозг: как каждый мозг формирует разум» .Эта книга получила книжную премию PROSE 2022 года в области неврологии Ассоциации американских издателей.

Модели, которые Гроссберг представил и помог разработать, включают:

• основы исследования нейронных сетей: конкурентное обучение , самоорганизующиеся карты , возрасты и маскирующие поля (для классификации), аутстары (для изучения пространственных паттернов), лавины (для изучения последовательного порядка и производительности), закрытые диполи (для обработки оппонентов) ;
• перцептивное и когнитивное развитие, социальное познание, рабочая память, когнитивная обработка информации, планирование, числовая оценка и внимание: теория адаптивного резонанса (ART), ARTMAP, STORE, CORT-X, SpaN, LIST PARSE, listELOS, SMART, CRIB;
• визуальное восприятие, внимание, сознание, изучение объектов и сцен, распознавание, прогнозирующее переназначение и поиск: BCS/FCS, FACADE, 3D LAMINART, aFILM, LIGHTSHAFT, Motion BCS, 3D FORMOTION, MODE, VIEWNET, dARTEX, CART, ARTSCAN, pARTSCAN , dARTSCAN, 3D ARTSCAN, Поиск ARTSCAN, ARTSCENE, Поиск ARTSCENE;
• слуховая потоковая передача, восприятие, речь и языковая обработка: SPINET, ARTSTREAM, NormNet, PHONET, ARTPHONE, ARTWORD;
• когнитивно-эмоциональная динамика, обучение с подкреплением, мотивированное внимание и адаптивно рассчитанное поведение: CogEM, START, MOTIVATOR; Спектральный тайминг;
• визуальная и пространственная навигация: SOVEREIGN, STARS, ViSTARS, GRIDSmap, GridPlaceMap, Spectral Spacing;
• адаптивный сенсомоторный контроль движений глаз, рук и ног: VITE, FLETE, VITEWRITE, DIRECT, VAM, CPG, SACCART, TELOS, SAC-SPEM;
• аутизм: iSTART

инфраструктуры

Учитывая, что инфраструктуры для поддержки областей, которые он и другие пионеры моделирования развивали, было мало или вообще не было, Гроссберг основал несколько учреждений, нацеленных на обеспечение междисциплинарного обучения, исследований и публикаций в области вычислительной нейробиологии, коннекционистской когнитивной науки и нейроморфных технологий. . В 1981 году он основал Центр адаптивных систем Бостонского университета и остается его директором. В 1991 году он основал кафедру когнитивных и нейронных систем в Бостонском университете и был ее председателем до 2007 года. В 2004 году он основал Центр передового опыта NSF по обучению в области образования, науки и технологий (CELEST). и занимал пост его директора до 2009 года.

Все эти институты были направлены на ответ на два взаимосвязанных вопроса: i) Как мозг контролирует поведение? ii) Как технологии могут имитировать биологический интеллект?

В 1987 году Гроссберг основал и стал первым президентом Международного общества нейронных сетей (INNS), которое за четырнадцать месяцев его президентства выросло до 3700 членов из 49 штатов США и 38 стран. Образование INNS вскоре привело к образованию Европейского общества нейронных сетей (ENNS) и Японского общества нейронных сетей (JNNS). Гроссберг также основал официальный журнал INNS. и был его главным редактором с 1987 по 2010 год. Neural Networks также является архивным журналом ENNS и JNNS.

Серия лекций Гроссберга в Лаборатории Линкольна Массачусетского технологического института положила начало национальному исследованию нейронных сетей DARPA в 1987–88 годах, что привело к повышению интереса правительства к исследованиям нейронных сетей. Он был генеральным председателем первой Международной конференции IEEE по нейронным сетям (ICNN) в 1987 году и сыграл ключевую роль в организации первого ежегодного собрания INNS в 1988 году, объединение которого в 1989 году привело к Международной совместной конференции по нейронным сетям (IJCNN). которое остается крупнейшим ежегодным собранием, посвященным исследованиям нейронных сетей. Гроссберг также организовал и возглавил ежегодную Международную конференцию по когнитивным и нейронным системам (ICCNS) с 1997 по 2013 год, а также многие другие конференции в области нейронных сетей.

Гроссберг входил в редакционный совет 30 журналов, в том числе Journal of Cognitive Neuroscience , Behavioral and Brain Sciences , Cognitive Brain Research , Cognitive Science , Neural Computation , IEEE Transactions on Neural Networks , IEEE Expert и International Journal of Humanoid Robotics .

Награды

Награды, врученные Гроссбергу:

• Медаль Норберта Винера 1969 года за кибернетику
• 1991 Премия IEEE Neural Network Pioneer Award за «фундаментальное понимание и инженерное применение в области нейронных сетей».
• Премия INNS за лидерство 1992 года
• Премия Бостонского компьютерного общества 1992 года за технологию мышления
• Премия 2000 года в области информатики Ассоциации интеллектуального оборудования
• 2002 года Премия Charles River Laboratories Общества поведенческой токсикологии.
• Премия Гельмгольца 2003 года от INNS, вручаемая «за выдающийся вклад в исследования восприятия».
• Премия Нормана Андерсона за выдающиеся заслуги в 2015 году от Общества психологов-экспериментаторов «за новаторские теоретические исследования того, как мозг порождает разум, и его основополагающий вклад в вычислительную нейробиологию и коннекционистскую когнитивную науку». Его благодарственную речь можно прочитать здесь.
• Премия Фрэнка Розенблатта Института инженеров по электротехнике и электронике (IEEE) 2017 года со следующей цитатой: «За вклад в понимание познания и поведения мозга, а также их имитацию с помощью технологий».
• Премия Дональда О. Хебба от INNS 2019 года, вручаемая «за выдающийся вклад в исследования в области биологического обучения».
• Премия PROSE за книгу 2022 года в области неврологии от Ассоциации американских издателей за его выдающееся произведение 2021 года: Сознательный разум, резонансный мозг: как каждый мозг формирует разум.
• Премия Лофти А. Заде «Пионер» 2022 года от Общества систем, человека и кибернетики IEEE за «выдающийся вклад в понимание познания и поведения мозга, а также их имитацию с помощью технологий».
• Премия Research.com за лидера в области компьютерных наук 2023 г.

Членство:

• 1990 член Общества исследования расстройств памяти.
• 1994 член Американской психологической ассоциации.
• 1996 Член Общества психологов-экспериментаторов.
• 2002 г. Член Американского психологического общества.
• Сотрудник IEEE 2005 г.
• Первый член Американской ассоциации исследований в области образования, 2008 г.
• Сотрудник INNS 2011 г.

Теория АРТ

Вместе с Гейл Карпентер Гроссберг разработал теорию адаптивного резонанса (ART). ART — это когнитивная и нейронная теория того, как мозг может быстро учиться, стабильно запоминать и распознавать объекты и события в меняющемся мире. ART предложил решение дилеммы стабильности-пластичности; а именно, как мозг или машина могут быстро узнавать о новых объектах и ​​событиях, не заставляя так же быстро забывать ранее изученные, но все же полезные воспоминания.

ART предсказывает, как усвоенные нисходящие ожидания фокусируют внимание на ожидаемых комбинациях функций, что приводит к синхронному резонансу, который может способствовать быстрому обучению. ART также предсказывает, насколько большие несоответствия между восходящими шаблонами признаков и нисходящими ожиданиями могут стимулировать поиск в памяти или проверку гипотез для категорий распознавания, с помощью которых можно лучше научиться классифицировать мир. Таким образом, ART определяет тип самоорганизующейся производственной системы.

ART был практически продемонстрирован с помощью семейства классификаторов ART (например, ART 1, ART 2, ART 2A, ART 3, ARTMAP, нечеткого ARTMAP, ART eMAP, распределенного ARTMAP), разработанного совместно с Гейл Карпентер и использовавшегося в крупномасштабных проектах. приложения в области техники и технологий, где необходимы быстрая, но стабильная, постепенно обучаемая классификация и прогнозирование.

Гроссберг предсказал, что «все состояния сознания являются резонансными состояниями». Таким образом, он показал, как свойства обучения без катастрофического забывания обеспечиваются в ART посредством сопоставления внимания между восходящим шаблоном функций и усвоенными ожиданиями сверху вниз, что приводит к резонансному состоянию, которое сохраняется достаточно долго, чтобы стимулировать обучение между посещаемыми шаблонами критических функций и активными категории признания. Такое резонансное состояние также может привести к сознательному осознанию, если оно включает в себя клетки, селективные по признакам, которые представляют квалиа. Таким образом, Гроссберг использовал ART для объяснения многих данных разума и мозга о том, как люди сознательно видят, слышат, чувствуют и знают вещи об их уникальных меняющихся мирах, одновременно используя эти сознательные представления для планирования и действий для реализации ценных целей.

вычислительные

Гроссберг представил и возглавил разработку двух вычислительных парадигм, имеющих отношение к биологическому интеллекту и его приложениям:

Дополнительные вычисления

Какова природа специализации мозга? Многие ученые предположили, что наш мозг обладает независимыми модулями, как в цифровом компьютере. Организация мозга по отдельным анатомическим областям и потокам обработки данных показывает, что обработка данных в мозгу действительно специализирована. Однако независимые модули должны иметь возможность самостоятельно полностью рассчитывать свои конкретные процессы. Многие поведенческие данные свидетельствуют против такой возможности.

Дополнительные вычисления (Гроссберг, 2000, 2012 ) касается открытия того, что пары параллельных потоков корковой обработки вычисляют взаимодополняющие свойства в мозге. У каждого потока есть взаимодополняющие вычислительные преимущества и недостатки, как и в физических принципах, таких как принцип неопределенности Гейзенберга. Каждый кортикальный поток также может иметь несколько стадий обработки. Эти этапы реализуют иерархическое разрешение неопределенности . «Неопределенность» здесь означает, что вычисление одного набора свойств на данном этапе предотвращает вычисление дополнительного набора свойств на этом этапе.

Дополнительные вычисления предполагают, что вычислительная единица обработки мозга, имеющая поведенческое значение, состоит из параллельных взаимодействий между дополнительными потоками корковой обработки с несколькими этапами обработки для вычисления полной информации об определенном типе биологического интеллекта.

Ламинарные вычисления

Кора головного мозга, место высшего интеллекта во всех модальностях, организована в виде многоуровневых цепей (часто шести основных слоев), которые подвергаются характерным восходящим, нисходящим и горизонтальным взаимодействиям. Как специализации этой общей ламинарной конструкции воплощают различные типы биологического интеллекта, включая зрение, речь и язык, а также познание? Ламинарные вычисления показывают, как это может произойти (Гроссберг, 1999, 2012 ).

Ламинарные вычисления объясняют, как ламинарная конструкция неокортекса может реализовать лучшие свойства обработки прямой и обратной связи, цифровой и аналоговой обработки, а также восходящей обработки, основанной на данных, и внимательной обработки, основанной на гипотезах, сверху вниз. Внедрение подобных проектов в микросхемы СБИС обещает позволить разрабатывать адаптивные автономные алгоритмы все более общего назначения для множества приложений.

См. также

• Сеть Гроссберга

Внешние ссылки

• Официальный профиль Бостонского университета