Джон К. Крушке
Джон К. Крушке | |
|---|---|
| Альма-матер | Калифорнийский университет в Беркли |
| Известный | |
| Научная карьера | |
| Поля | |
| Учреждения | Университет Индианы в Блумингтоне |
| Диссертация | Коннекционистская модель категорийного обучения (1990) |
| Докторские консультанты | Стивен Э. Палмер Роберт Нософски |
| Веб-сайт | Джккеве |
Джон Кендалл Крушке — американский психолог и статистик, известный своими работами в области коннекционистских моделей человеческого обучения. [1] и в байесовском статистическом анализе. [2] Он почетный проректор. [3] [4] на факультете психологии и наук о мозге Университета Индианы в Блумингтоне . В 2002 году он получил премию Троланда за исследования Национальной академии наук. [5]
Исследовать
[ редактировать ]Байесовский статистический анализ
[ редактировать ]Распространение
[ редактировать ]Популярный учебник Крушке «Выполнение байесовского анализа данных » [2] отличался доступностью и уникальным набором концепций. В первой половине книги использовался простейший тип данных (т.е. дихотомические значения) для представления всех фундаментальных концепций байесовского анализа, включая обобщенный байесовский степенной анализ и планирование размера выборки. Во второй половине книги обобщенная линейная модель использовалась как основа для объяснения приложений к спектру других типов данных.
Крушке написал множество обучающих статей по байесовскому анализу данных, в том числе статью в открытом доступе, в которой параллельно объясняются байесовские и частотные концепции. [6] Существует сопутствующее онлайн-приложение , которое в интерактивном режиме одновременно выполняет частотный и байесовский анализ. Крушке выступил с записанным на видео пленарным докладом на эту тему на конференции США по статистике преподавания (USCOTS) .
Рекомендации по составлению отчетов по байесовскому анализу
[ редактировать ]Популярность байесовского анализа данных растет, но он по-прежнему остается относительно новым во многих областях, а рекомендации по составлению отчетов о байесовском анализе полезны для исследователей, рецензентов и студентов. Руководство Крушке по составлению отчетов по байесовскому анализу в открытом доступе (BARG) [7] предоставить пошаговый список с пояснениями. Например, BARG рекомендует, чтобы, если аналитик использует проверку байесовской гипотезы, отчет должен включать не только фактор Байеса, но и минимальную вероятность априорной модели, чтобы вероятность апостериорной модели превзошла критерий принятия решения.
Оценка нулевых значений параметров
[ редактировать ]Крушке предложил процедуру принятия решения для оценки нулевых значений параметров, основанную на неопределенности апостериорной оценки параметра. [8] Этот подход контрастирует с проверкой байесовской гипотезы как сравнением моделей.. [9]
Порядковые данные
[ редактировать ]Лидделл и Крушке [10] показали, что обычная практика рассмотрения порядковых данных (таких как субъективные оценки) как если бы они были метрическими значениями, может систематически приводить к ошибкам интерпретации, даже к инверсии средних значений. Проблемы были решены путем обработки порядковых данных с помощью порядковых моделей, в частности модели упорядоченного пробита. Частотные методы также могут использовать модели упорядоченного пробита, но авторы отдали предпочтение байесовским методам из-за их надежности.
Модели обучения
[ редактировать ]Обзор моделей обучения с вниманием Крушке до 2010 года представлен в ссылке. [11] В этом справочнике обобщены многочисленные результаты человеческого обучения, которые предполагают обучение с вниманием. В этом справочнике также обобщается серия моделей обучения Крушке в общих рамках.
Размерность в сетях обратного распространения ошибки
[ редактировать ]Сети обратного распространения ошибки — это тип коннекционистской модели, лежащей в основе нейронных сетей глубокого обучения. Ранние работы Крушке с сетями обратного распространения ошибки создали алгоритмы для расширения или сжатия размерности скрытых слоев в сети, тем самым влияя на то, как сеть обобщается от обучающих случаев к тестовым случаям.. [12] Алгоритмы также улучшили скорость обучения. [13]
Модели, основанные на образцах, и приобретенное внимание
[ редактировать ]Модель ассоциативного обучения ALCOVE [1] использовал градиентный спуск по ошибке, как в сетях обратного распространения ошибки, чтобы узнать, на какие измерения стимула следует обращать внимание, а на какие игнорировать. Модель ALCOVE была получена на основе обобщенной контекстной модели. [14] Р.М. Нософского . Эти модели математически представляют стимулы в многомерном пространстве на основе воспринимаемых человеком измерений (таких как цвет, размер и т. д.) и предполагают, что обучающие примеры хранятся в памяти как полные экземпляры (то есть как комбинации значений измерений). ). Модель ALCOVE обучается с использованием пар ввода-вывода и постепенно связывает образцы с обученными выходными данными, одновременно переключая внимание на релевантные измерения и отвлекая их от нерелевантных измерений.
Усовершенствование модели ALCOVE, получившее название RASHNL, обеспечило математически последовательный механизм градиентного спуска с ограниченной способностью внимания. [15] Модель RASHNL предполагала, что внимание быстро переключается при предъявлении стимула, тогда как обучение вниманию в ходе испытаний происходит более постепенно.
Эти модели были адаптированы к эмпирическим данным многочисленных экспериментов по обучению человека и обеспечили хорошее описание относительных трудностей изучения различных типов ассоциаций, а также точности отдельных стимулов во время обучения и обобщения. Эти модели не могут объяснить все аспекты обучения; например, необходим был дополнительный механизм, объясняющий быстроту обучения человека обратному сдвигу (т. е. то, что было «А», теперь стало «Б» и наоборот). [16]
Эффект выделения
[ редактировать ]Когда люди учатся классифицировать комбинации отдельных признаков последовательно на протяжении всего сеанса обучения, они будут склонны узнавать об отличительных особенностях изучаемых позже элементов вместо того, чтобы узнавать о полной комбинации их признаков. Такое внимание к отличительным особенностям предметов, изученных позже, называется «эффектом выделения» и основано на более раннем открытии, известном как «эффект обратной базовой ставки». [17]
Крушке провел обширную серию новых обучающих экспериментов с участием людей и разработал две коннекционистские модели для объяснения полученных результатов. Модель АДИТ [18] научились обращать внимание на отличительные особенности и модель EXIT [19] использовали быстрые переключения внимания в каждом испытании.Канонический эксперимент по выделению и обзор результатов были представлены в ссылке. [20]
Гибридные модели представления правил или функций с исключениями.
[ редактировать ]Люди могут научиться классифицировать стимулы в соответствии с такими правилами, как «контейнер для жидкостей, ширина которого превышает высоту, называется миской», а также исключениями из правил, такими как «если только этот конкретный случай не называется кружкой». . Серия экспериментов продемонстрировала, что люди склонны классифицировать новые элементы, которые относительно близки к исключительному случаю, в соответствии с правилом больше, чем можно было бы предсказать с помощью моделей, основанных на образцах. Чтобы объяснить данные, Эриксон и Крушке разработали гибридные модели, которые переключают внимание между представлением, основанным на правилах, и представлением, основанным на примерах. [21] [22] [23]
Люди также могут изучить непрерывные связи между переменными, называемыми функциями, например, «высота страницы примерно в 1,5 раза превышает ее ширину». Когда люди обучаются на примерах функций, имеющих исключительные случаи, данные учитываются с помощью гибридных моделей, сочетающих в себе применимые локально функциональные правила. [24]
Байесовские модели обучения
[ редактировать ]Крушке также исследовал байесовские модели результатов человеческого обучения, которые рассматривались в его коннекционистских моделях. Эффекты последовательного или последовательного обучения (например, выделения, упомянутого выше) могут быть особенно сложными для байесовских моделей, которые обычно предполагают независимость от порядка. Вместо того чтобы предполагать, что вся система обучения является глобально байесовской, Крушке разработал модели, в которых уровни системы являются локально байесовскими. [25] Это «локальное байесовское обучение» объясняет комбинации явлений, которые сложны для небайесовских моделей обучения или для глобальных байесовских моделей обучения.
Еще одним преимуществом байесовских представлений является то, что они по своей сути представляют неопределенность значений параметров, в отличие от типичных коннекционистских моделей, которые сохраняют только одно значение для каждого параметра. Представление неопределенности можно использовать для руководства активным обучением, в ходе которого учащийся решает, какие случаи будут наиболее полезны для изучения в следующий раз. [26]
Карьера
[ редактировать ]Крушке поступил на факультет кафедры психологии и наук о мозге Университета Индианы в Блумингтоне в качестве лектора в 1989 году. Он оставался в IU до тех пор, пока не вышел на пенсию с должности почетного проректора в 2022 году.
Образование
[ редактировать ]Крушке получил степень бакалавра математики с отличием по общей стипендии в Калифорнийском университете в Беркли в 1983 году. В 1990 году он получил степень доктора философии. степень бакалавра психологии также получила в Калифорнийском университете в Беркли.
Крушке посетил Летнюю научную программу 1978 года в Школе Тэчера в Охай, Калифорния, которая была посвящена астрофизике и небесной механике. В 1988 году он посетил Летнюю школу моделей-коннекционистов. [27] в Университете Карнеги-Меллон.
Награды
[ редактировать ]- Фи Бета Каппа (академическое общество чести), 1982 год.
- Стипендия для выпускников Национального научного фонда , 1983 год.
- ПЕРВАЯ премия Национального института психического здоровья , 1994 год.
- Награды за выдающиеся достижения в области преподавания попечителей Университета Индианы: 1997, 1998, 1999, 2008, 2009, 2010, 2011, 2012 гг. [28]
- Премия Троланда за исследования, Национальная академия наук, 2002 г. [5]
- Премия Ремака выдающемуся ученому, Университет Индианы, 2012 г.
- Проректор, Университет Индианы, 2018 г. [3] [4]
Ссылки
[ редактировать ]- ^ Перейти обратно: а б Крушке, Джон К. (1992). «АЛЬКОВ: коннекционистская модель категорийного обучения, основанная на примерах». Психологический обзор . 99 (1): 22–44. дои : 10.1037/0033-295X.99.1.22 . ПМИД 1546117 .
- ^ Перейти обратно: а б Крушке, Джон К. (2015). Выполнение байесовского анализа данных: учебное пособие с R, JAGS и Stan (2-е изд.). Академическая пресса. ISBN 9780124058880 .
- ^ Перейти обратно: а б «Премия проректора-профессора» . Канцелярия заместителя проректора по факультетским и академическим вопросам . Проверено 27 мая 2022 г.
- ^ Перейти обратно: а б Хиннефельд, Стив (19 марта 2018 г.). «АйЮ Блумингтон объявляет лауреата премии Зоннеборна, проректора профессоров» . Новости в МЕ . Проверено 01 октября 2021 г.
- ^ Перейти обратно: а б «Премия Троланда за исследования» . Национальная академия наук . Проверено 22 января 2022 г.
- ^ Крушке, Джон К.; Лидделл, Торрин М. (2018). «Новая байесовская статистика: проверка гипотез, оценка, метаанализ и анализ мощности с байесовской точки зрения» . Психономический бюллетень и обзор . 25 (1): 178–206. дои : 10.3758/s13423-016-1221-4 . ПМИД 28176294 . S2CID 4523799 .
- ^ Крушке, Джон К. (2021). «Руководство по составлению отчетов по байесовскому анализу» . Природа человеческого поведения . 5 (10): 1282–1291. дои : 10.1038/s41562-021-01177-7 . ПМЦ 8526359 . ПМИД 34400814 .
- ^ Крушке, Джон К. (2018). «Отклонение или принятие значений параметров в байесовской оценке» (PDF) . Достижения в методах и практике психологической науки . 1 (2): 270–280. дои : 10.1177/2515245918771304 . S2CID 125788648 .
- ^ Крушке, Джон К.; Лидделл, Торрин М. (2018). «Байесовский анализ данных для новичков» . Психономический бюллетень и обзор . 25 (1): 155–177. дои : 10.3758/s13423-017-1272-1 . ПМИД 28405907 . S2CID 4117798 .
- ^ Лидделл, Торрин М; Крушке, Джон К. (2018). «Анализ порядковых данных с помощью метрических моделей: что может пойти не так?» (PDF) . Журнал экспериментальной социальной психологии . 79 : 328–348. дои : 10.1016/j.jesp.2018.08.009 . S2CID 149652068 .
- ^ Крушке, Джон К. (2011). «Модели обучения вниманию». В Потосе, EM; Уиллс, Эй Джей (ред.). Формальные подходы к категоризации (PDF) . Издательство Кембриджского университета. стр. 120–152. ISBN 9781139493970 .
- ^ Крушке, Джон К. (1989). «Распределенные узкие места для улучшения обобщения в сетях обратного распространения ошибки» (PDF) . Международный журнал исследований и приложений нейронных сетей . 1 : 187–193.
- ^ Крушке, Джон К.; Дж. Р. Мовеллан, Дж. Р. Мовеллан (1991). «Преимущества усиления: ускоренное обучение и минимальное количество скрытых слоев в сетях обратного распространения ошибки» (PDF) . Транзакции IEEE по системам, человеку и кибернетике . 21 : 273–280. дои : 10.1109/21.101159 .
- ^ Нософский, Р.М. (1986). «Внимание, сходство и идентификация-категоризация». Журнал экспериментальной психологии . 115 (1): 39–57. дои : 10.1037/0096-3445.115.1.39 . ПМИД 2937873 .
- ^ Крушке, Джон К.; Йохансен, МК (1999). «Модель вероятностного категорийного обучения». Журнал экспериментальной психологии: обучение, память и познание . 25 (5): 1083–1119. дои : 10.1037/0278-7393.25.5.1083 . ПМИД 10505339 .
- ^ Крушке, Джон К. (1996). «Изменения масштабной релевантности в категориальном обучении». Наука о связях . 8 (2): 201–223. дои : 10.1080/095400996116893 .
- ^ Медин, Д.Л.; Эдельсон, С.М. (1988). «Структура проблемы и использование базовой информации из опыта». Журнал экспериментальной психологии: Общие сведения . 117 (1): 68–85. дои : 10.1037/0096-3445.117.1.68 . ПМИД 2966231 .
- ^ Крушке, Джон К. (1996). «Базовые ставки по категориям обучения». Журнал экспериментальной психологии: обучение, память и познание . 22 (1): 3–26. дои : 10.1037/0278-7393.22.1.3 . ПМИД 8648289 .
- ^ Крушке, Джон К. (2001). «Эффект обратной базовой ставки не объясняется элиминативным выводом». Журнал экспериментальной психологии: обучение, память и познание . 27 (6): 1385–1400. дои : 10.1037/0278-7393.27.6.1385 . ПМИД 11713874 .
- ^ Крушке, Джон К. (2009). «Выделение: канонический эксперимент». В Росс, Брайан (ред.). Психология обучения и мотивации, том 51 (PDF) . Том. 51. Академическая пресса. стр. 153–185. дои : 10.1016/S0079-7421(09)51005-5 .
- ^ Эриксон, Массачусетс; Крушке, Джон К. (1998). «Правила и примеры в категорийном обучении». Журнал экспериментальной психологии: Общие сведения . 127 (2): 107–140. дои : 10.1037/0096-3445.127.2.107 . ПМИД 9622910 .
- ^ Эриксон, Массачусетс; Крушке, Джон К. (2002). «Экстраполяция на основе правил в перцептивной категоризации» . Психономический бюллетень и обзор . 9 (1): 160–168. дои : 10.3758/BF03196273 . ПМИД 12026949 . S2CID 2388327 .
- ^ Дентон, ЮВ; Крушке, Джон К.; Эриксон, Массачусетс (2008). «Экстраполяция на основе правил: постоянная проблема для образцовых моделей» . Психономический бюллетень и обзор . 15 (4): 780–786. дои : 10.3758/PBR.15.4.780 . ПМИД 18792504 . S2CID 559864 .
- ^ Калиш, МЛ; Левандовски, С. (2004). «Популяция линейных экспертов: разделение знаний и функциональное обучение». Психологический обзор . 111 (4): 1072–1099. дои : 10.1037/0033-295X.111.4.1072 . ПМИД 15482074 .
- ^ Крушке, Джон К. (2006). «Локальное байесовское обучение с применением к ретроспективной переоценке и выделению». Психологический обзор . 113 (4): 677–699. дои : 10.1037/0033-295X.113.4.677 . ПМИД 17014300 .
- ^ Крушке, Джон К. (2008). «Байесовские подходы к ассоциативному обучению: от пассивного к активному обучению» . Обучение и поведение . 36 (3): 210–226. дои : 10.3758/LB.36.3.210 . ПМИД 18683466 . S2CID 16668044 .
- ^ Турецкий, Д; Хинтон, GE; Сейновский Т., ред. (1989). Материалы Летней школы коннекционистских моделей 1988 года (PDF) . Морган Кауфманн. ISBN 978-9999081214 .
- ^ «Офис проректора по факультетским и академическим вопросам: Премия попечителей за преподавание» .
Внешние ссылки
[ редактировать ]- Официальный сайт
- Страница факультета
- Публикации Джона К. Крушке , проиндексированные Google Scholar
| Международный | |
|---|---|
| Национальный | |
| академики | |
| Другой | |
