Статистическое овладение языком

Статистическое овладение языком , раздел развивающей психолингвистики , изучает процесс, посредством которого люди развивают способность воспринимать, производить, понимать и общаться с естественным языком во всех его аспектах ( фонологических , синтаксических , лексических , морфологических , семантических ) посредством использования общих механизмов обучения, действующих на основе статистических закономерностей лингвистического ввода. Статистическое обучение утверждает, что изучение языка младенцами основано на восприятии закономерностей, а не на врожденной биологической грамматике. Некоторые статистические элементы, такие как частота слов, частые кадры, фонотаксические закономерности и другие закономерности, предоставляют информацию о структуре и значении языка для облегчения овладения языком.

Философия

Фундаментальным для изучения статистического овладения языком является многовековая дискуссия между рационализмом (или его современным проявлением в психолингвистическом сообществе, нативизмом ) и эмпиризмом , причем исследователи в этой области решительно поддерживают последнюю категорию. Нативизм — это позиция, согласно которой люди рождаются с врожденными знаниями в конкретной области , особенно с врожденными способностями к изучению языка. От философов-рационалистов семнадцатого века, таких как Декарт , Спиноза и Лейбниц, до современных философов, таких как Ричард Монтегю , и лингвистов, таких как Ноам Хомский , нативисты постулируют врожденный механизм обучения с специфической функцией овладения языком.

В наше время эти дебаты в основном окружают поддержку Хомским универсальной грамматики , свойств, которыми должны обладать все естественные языки, посредством спорного постулата об устройстве овладения языком (LAD), инстинктивном психическом «органе», ответственном за изучение языка, который ищет все возможные языковые альтернативы и выбирает параметры, которые лучше всего соответствуют лингвистическому вкладу учащегося. Большая часть теории Хомского основана на аргументе о бедности стимула (POTS), утверждении о том, что лингвистические данные ребенка настолько ограничены и искажены, что изучение языка только на основе этих данных невозможно. Например, многие сторонники POTS утверждают, что, поскольку дети никогда не подвергаются негативным доказательствам, то есть информации о том, какие фразы являются неграмматическими, структура языка, которую они изучают, не будет напоминать структуру правильной речи без механизма обучения, специфичного для языка. Аргумент Хомского в пользу биолингвистики внутренней системы, ответственной за язык, представляет собой трехфакторную модель. «Генетический дар» позволяет младенцу извлекать лингвистическую информацию, определять правила и владеть универсальной грамматикой. «Внешняя среда» освещает необходимость взаимодействия с другими людьми и преимущества языкового воздействия в раннем возрасте. Последний фактор включает в себя свойства мозга, принципы обучения и эффективность вычислений, которые позволяют детям быстро освоить язык, используя шаблоны и стратегии.

Резким контрастом с этой позицией является эмпиризм, эпистемологическая теория, согласно которой все знания происходят из чувственного опыта. Эта школа мысли часто характеризует зарождающийся разум как tabula rasa , или чистый лист, и во многом может быть связана с перспективой воспитания в « дебатах о природе и воспитании ». Эта точка зрения имеет давнюю историческую традицию, параллельную традиции рационализма, начиная с философов-эмпириков семнадцатого века, таких как Локк , Бэкон , Гоббс и, в следующем столетии, Юм . Основной принцип эмпиризма заключается в том, что информация в окружающей среде достаточно структурирована, чтобы ее закономерности можно было как обнаружить, так и извлечь с помощью общепредметных механизмов обучения. С точки зрения овладения языком эти закономерности могут носить как языковой, так и социальный характер.

Хомский очень критично относится к этой эмпирической теории овладения языком. Он сказал: «Это правда, что было проделано много работы по применению статистических моделей к различным лингвистическим проблемам. Я думаю, что были некоторые успехи, но много неудач». Он утверждает, что идея использования статистических методов для овладения языком — это просто имитация процесса, а не истинное понимание того, как приобретается язык.

Экспериментальные парадигмы

Процедура предпочтения поворота головы (HPP)

Одной из наиболее часто используемых экспериментальных парадигм при исследовании способностей младенцев к статистическому овладению языком является процедура предпочтения поворота головы (HPP), разработанная из Стэнфорда психологом Энн Фернальд в 1985 году для изучения предпочтений младенцев в отношении прототипической речи, направленной на ребенка, по сравнению с нормальной речью взрослых. В классической парадигме HPP младенцам разрешается свободно поворачивать голову, и их размещают между двумя динамиками с установленными светильниками. Затем свет правого или левого динамика мигает, поскольку этот динамик предоставляет младенцу какой-то звуковой или лингвистический входной стимул. Надежная ориентация на данную сторону считается показателем предпочтения входа, связанного с говорящим на этой стороне. С тех пор эта парадигма становится все более важной в изучении восприятия речи младенцев , особенно для ввода на уровнях выше, чем фрагменты слогов , хотя и с некоторыми модификациями, включая использование времени прослушивания вместо предпочтения стороны в качестве соответствующей зависимой меры.

Процедура условного поворота головы

Подобно HPP, процедура условного поворота головы также использует дифференциальное предпочтение младенца определенной стороны как показатель предпочтения или, чаще всего, знакомства с вводом или речью, связанными с этой стороной. Используется в исследованиях просодических пограничных маркеров Gout et al. (2004) а позднее Веркер в ее классических исследованиях восприятия фонем родного языка категориального , Младенцы приучены каким-то привлекательным изображением или изображением смотреть в одном из двух направлений каждый раз, когда слышны определенные слова: целое слово в случае Гаута и один фонематический слог в случае Веркера. После обусловливания младенцу затем предъявляется новый или более сложный ввод, и его способность обнаружить более раннее целевое слово или различить вводимые данные двух попыток наблюдается по тому, поворачивают ли они голову в ожидании условного отображения или нет.

Упреждающее движение глаз

В то время как HPP и процедура условного поворота головы позволяют наблюдать за поведенческими реакциями на стимулы и постфактум делать выводы о том, какими должны были быть ожидания субъекта, чтобы мотивировать такое поведение, парадигма упреждающего движения глаз позволяет исследователям непосредственно наблюдать за ожиданиями субъекта до того, как событие произойдет. . Отслеживая исследователи испытуемых, движения глаз смогли изучить процесс принятия решений младенцами и способы, которыми младенцы кодируют и действуют на основе вероятностных знаний , чтобы делать прогнозы об окружающей среде. Эта парадигма также дает преимущество, заключающееся в сравнении различий в поведении глазных движений в более широком диапазоне возрастов, чем у других.

Искусственные языки

Искусственные языки , то есть небольшие языки, которые обычно имеют крайне ограниченный словарный запас и упрощенные грамматические правила, являются широко используемой парадигмой для исследователей -психолингвистов . Искусственные языки позволяют исследователям изолировать интересующие переменные и иметь большую степень контроля над входными данными, которые получит субъект. К сожалению, чрезмерно упрощенная природа этих языков и отсутствие ряда явлений, общих для всех естественных языков человека, таких как ритм , изменение высоты звука и последовательные закономерности, поднимают вопросы внешней достоверности любых результатов, полученных с использованием этой парадигмы, даже после того, как попытки было сделано для увеличения сложности и богатства используемых языков. Отсутствие сложности или пониженная сложность искусственного языка не может объяснить потребность ребенка распознавать данный слог естественного языка, независимо от звуковой вариативности, присущей естественному языку, хотя «возможно, что сложность естественного языка действительно облегчает обучение».

Таким образом, эксперименты с искусственным языком обычно проводятся для того, чтобы выяснить, каковы соответствующие лингвистические переменные, какие источники информации младенцы могут использовать и когда, а также как исследователи могут моделировать процесс обучения и усвоения информации. Эслин и Ньюпорт , например, использовали искусственные языки, чтобы изучить, какие особенности лингвистического ввода делают определенные шаблоны заметными и легко обнаруживаемыми младенцами, что позволяет им легко сравнивать обнаружение повторения слогов с обнаружением слогов в конце слова и делать выводы о условия, при которых любой признак признается важным.

Аудио и аудиовизуальные записи

Было показано, что статистическое обучение играет большую роль в овладении языком, но социальное взаимодействие также является необходимым компонентом обучения. В одном исследовании младенцам, которым были предоставлены аудио- или аудиовизуальные записи говорящих на китайском языке, не удалось различить фонемы языка. Это означает, что простого прослушивания звуков недостаточно для изучения языка; социальное взаимодействие побуждает младенца собирать статистику. Особое взаимодействие, ориентированное на младенцев, известно как «ориентированный на ребенка» язык, поскольку он более повторяющийся и ассоциативный, что облегчает его изучение. Такое взаимодействие, ориентированное на ребенка, также может быть причиной того, что ребенку легче выучить язык, чем взрослому.

Двуязычные

Исследования двуязычных младенцев, такие как исследование Биежака-Бабика и др., посвященное младенцам, изучающим французский язык, дали представление о роли просодии в овладении языком. Исследование Биежака-Бабика показало, что языковое доминирование влияет на «чувствительность к просодическим контрастам». Хотя это исследование не касалось статистического обучения, его результаты по распознаванию просодических образов могут иметь значение для статистического обучения.

Вполне возможно, что языковой опыт и знания, полученные в ходе статистического изучения первого языка, влияют на овладение вторым языком. Некоторые исследования указывают на возможность того, что сложность изучения второго языка может быть связана со структурными закономерностями и языковыми сигналами, которые человек уже усвоил при освоении первого языка. В этом смысле знание и навыки обработки первого языка, полученные в результате статистического приобретения, могут выступать в качестве усложняющего фактора, когда кто-то пытается выучить новый язык с другой структурой предложений, грамматическими правилами и речевыми моделями.

Важные выводы

Изучение фонетических категорий

Первым шагом в развитии знаний о такой сложной системе, как естественный язык, является умение различать важные специфичные для языка классы звуков, называемые фонемами, которые различают значения слов. UBC Психолог Джанет Веркер , начиная с серии влиятельных экспериментов в 1980-х годах, стала одной из самых выдающихся фигур в попытках понять процесс, посредством которого у человеческих младенцев развиваются эти фонологические различия. В то время как взрослые, говорящие на разных языках, не способны различать значимые звуковые различия в других языках, которые не определяют разные значения в их собственном, дети рождаются со способностью универсально различать все звуки речи. Работа Веркера показала, что, хотя младенцы в возрасте шести-восьми месяцев все еще способны воспринимать разницу между некоторыми хинди и английского языка согласными , они полностью теряют эту способность к 11-13 месяцам.

В настоящее время общепризнано, что дети используют некоторую форму перцептивного распределительного обучения , с помощью которой категории обнаруживаются путем объединения одинаковых экземпляров входного стимула, чтобы сформировать фонетические категории на раннем этапе жизни. Было обнаружено, что развивающиеся дети являются эффективными судьями лингвистического авторитета, проверяя входные данные, на основе которых они моделируют свой язык, меньше переключая свое внимание на говорящих, которые неправильно произносят слова. Младенцы также используют статистическое отслеживание, чтобы вычислить вероятность того, что определенные фонемы будут следовать друг за другом.

Разбор

Синтаксический анализ — это процесс, посредством которого непрерывный речевой поток сегментируется на дискретные значимые единицы, например предложения , слова и слоги. Saffran (1996) представляет собой исключительно плодотворное исследование в этом направлении. Младенцам давали две минуты непрерывной речи на искусственном языке с помощью компьютеризированного голоса, чтобы исключить любые помехи от посторонних переменных, таких как просодия или интонация . После этой презентации младенцы смогли отличать слова от неслов, что измерялось более длительным временем просмотра во втором случае.

Важным понятием для понимания этих результатов является концепция переходной вероятности , вероятность того, что элемент, в данном случае слог, следует за другим элементом или предшествует ему. В этом эксперименте слоги, которые соединялись в словах, имели гораздо более высокую вероятность перехода, чем слоги на границах слов , которые случайно оказались рядом. Невероятно, но младенцы после короткой двухминутной презентации смогли отслеживать эту статистику и распознавать с высокой вероятностью слова . Дальнейшие исследования с тех пор повторили эти результаты на естественных языках, незнакомых младенцам, указывая на то, что обучающиеся младенцы также отслеживают направление (вперед или назад) вероятностей перехода. Хотя нервные процессы, лежащие в основе этого явления, остаются в значительной степени неизвестными, недавние исследования сообщают об увеличении активности в левой нижней лобной извилине и средней лобной извилине во время обнаружения границ слов.

Развитие предубеждений в порядке слогов является важным шагом на пути к полноценному языковому развитию. Способность классифицировать слоги и группировать вместе часто встречающиеся последовательности может иметь решающее значение для развития протолексикона — набора общеязыковых шаблонов слов, основанных на характерных закономерностях в словах, которые слышит младенец. Развитие этого протолексикона, в свою очередь, может позволить распознавать новые типы паттернов, например, высокую частоту ударных согласных в начале слова в английском языке, что позволит младенцам дополнительно анализировать слова, распознавая общие просодические фразы как автономные лингвистические единицы, перезапуская динамический цикл изучения слов и языка.

Ассоциации референтных меток

Вопрос о том, как начинающие пользователи языка способны ассоциировать выученные ярлыки с соответствующим референтом , человеком или объектом в среде, который называет ярлык, был в центре философских размышлений о языке и значении от Платона до Куайна и Хофштадтера . слова Эта проблема, заключающаяся в том, чтобы найти некую прочную связь между словом и объектом, найти значение , не поддаваясь бесконечной рекурсии поиска в словаре, известна как проблема заземления символа .

Исследователи показали, что эта проблема тесно связана со способностью анализировать язык и что те слова, которые легко сегментировать из-за их высокой вероятности перехода, также легче сопоставить с подходящим референтом. Это служит еще одним свидетельством развития овладения языком: детям требуется понимание распределения звуков естественных языков, чтобы формировать фонетические категории, анализировать слова на основе этих категорий, а затем использовать эти анализы для сопоставления их с объектами в качестве меток.

Сообщалось, что самое раннее понимание слов с референтными ассоциациями в процессе развития наблюдалось в возрасте шести месяцев, когда младенцы понимали слова « мама » и « папа » или их семейные или культурные эквиваленты. Дальнейшие исследования показали, что младенцы быстро развиваются в этом качестве и к семи месяцам способны запоминать ассоциации между движущимися изображениями и бессмысленными словами и слогами.

Важно отметить, что существует различие, которое часто путают в исследованиях приобретения, между сопоставлением метки с конкретным экземпляром или отдельным лицом и сопоставлением метки с целым классом объектов. Этот последний процесс иногда называют обобщением или изучением правил. Исследования показали, что если входные данные закодированы с точки зрения перцептивно значимых измерений, а не конкретных деталей, и если закономерности во входных данных указывают на то, что несколько объектов называются взаимозаменяемо в одном и том же контексте, изучающий язык с гораздо большей вероятностью обобщит это имя. к каждому экземпляру с соответствующими функциями. Эта тенденция во многом зависит от последовательности контекстных подсказок и степени перекрытия контекстов слов во входных данных. Эти различия, кроме того, связаны с хорошо известными закономерностями недостаточного и чрезмерного обобщения детьми при изучении слов . Исследования также показали, что также отслеживается частота совместного появления референтов, что помогает создавать ассоциации и устранять двусмысленности в объектно-референтных моделях.

Способность соответствующим образом обобщать целые классы еще невиданных слов в сочетании со способностями анализировать непрерывную речь и отслеживать закономерности порядка слов может быть важнейшими навыками, необходимыми для развития навыков и знаний синтаксиса и грамматики.

Различия в аутичных популяциях

Согласно недавним исследованиям, не существует нейронных доказательств статистического изучения языка детьми с расстройствами аутистического спектра . При воздействии непрерывного потока искусственной речи нейротипичные дети проявляли меньшую корковую активность в дорсолатеральной лобной коре (в частности, в средней лобной извилине ), поскольку сигналы о границах слов увеличивались. Однако активность в этих сетях у детей с аутизмом оставалась неизменной, независимо от предоставляемых вербальных сигналов. Эти данные, подчеркивающие важность правильного функционирования лобных долей мозга, поддерживают теорию «исполнительных функций», используемую для объяснения некоторых биологически связанных причин аутистического дефицита речи. Из-за нарушения рабочей памяти, принятия решений, планирования и постановки целей, которые являются жизненно важными функциями лобной доли, дети-аутисты теряют способность к социализации и общению (Ozonoff et al., 2004). Кроме того, исследователи обнаружили, что уровень коммуникативных нарушений у детей с аутизмом обратно коррелировал с увеличением сигнала в тех же самых регионах во время воздействия искусственных языков. Основываясь на этих данных, исследователи пришли к выводу, что дети с расстройствами аутистического спектра не обладают нейронной архитектурой, позволяющей определять границы слов в непрерывной речи. Было показано, что ранние навыки сегментации слов предсказывают дальнейшее речевое развитие, что может объяснить, почему задержка речи является отличительной чертой расстройств аутистического спектра.

Статистическое изучение языка в разных ситуациях

Изучение языка происходит в разных контекстах, при этом как младенец, так и лицо, осуществляющее уход, участвуют в социальных взаимодействиях. Недавние исследования изучали, как младенцы и взрослые используют кросс-ситуативную статистику, чтобы узнать не только значения слов, но и ограничения в контексте. Например, Смит и его коллеги предположили, что младенцы изучают язык, приобретая склонность маркировать объекты похожими объектами, происходящими из четко определенных категорий. Важным для этой точки зрения является идея о том, что ограничения, способствующие изучению слов, не являются независимыми от самого ввода или опыта младенца. Скорее, ограничения возникают по мере того, как младенцы узнают о том, как используются слова, и начинают обращать внимание на определенные характеристики объектов, которые использовались в прошлом для представления слов.

Проблема индуктивного обучения может возникнуть, поскольку слова часто используются в неоднозначных ситуациях, в которых доступно более одного возможного референта. Это может привести к путанице у младенцев, поскольку они могут быть не в состоянии различить, какие слова следует использовать для обозначения объектов, на которые они ссылаются. Смит и Ю предположили, что способ провести различие в таких неоднозначных ситуациях — это отслеживать пары слов-референтов в нескольких сценах. Например, младенец, который слышит слово в присутствии объекта A и объекта B, будет не уверен, является ли это слово референтом объекта A или объекта B. Однако, если затем ребенок снова услышит ярлык в присутствии объекта B и объект C, младенец может прийти к выводу, что объект B является референтом метки, поскольку объект B постоянно сочетается с меткой в ​​различных ситуациях.

Вычислительные модели

Вычислительные модели уже давно используются для изучения механизмов, с помощью которых изучающие язык обрабатывают и манипулируют лингвистической информацией . Модели этого типа позволяют исследователям систематически контролировать важные переменные обучения, которыми зачастую вообще трудно манипулировать у участников-людей.

Ассоциативные модели

Ассоциативные нейронные сетевые модели овладения языком являются одним из старейших типов когнитивных моделей , использующих распределенные представления и изменения весов связей между узлами, которые составляют эти представления, для моделирования обучения способом, напоминающим пластичности. на основе нейронов реорганизацию Это составляет основу человеческого обучения и памяти . Ассоциативные модели представляют собой разрыв с классическими когнитивными моделями, характеризующимися дискретными и бесконтекстными символами , в пользу динамического системного подхода к языку, который лучше справляется с временными соображениями.

Предшественником этого подхода и одним из первых типов моделей, учитывающих измерение времени в лингвистическом понимании и производстве, была Элмана простая рекуррентная сеть (SRN). Используя сеть обратной связи для представления прошлых состояний системы, SRN смогли в задаче по предсказанию слов группировать входные данные в самоорганизующиеся грамматические категории, основываясь исключительно на статистических закономерностях совпадения.

Подобные ранние успехи проложили путь к исследованиям динамических систем лингвистического усвоения, ответив на многие вопросы о раннем языковом развитии, но оставив без ответа многие другие, например, о том, как статистически приобретенные лексемы эти представлены . Особое значение в недавних исследованиях имела попытка понять динамическое взаимодействие переменных обучения (например, на основе языка) и обучающегося (например, на основе говорящего) в лексической организации и конкуренции у билингвов . В непрекращающихся попытках перейти к более психологически реалистичным моделям многие исследователи обратились к подмножеству ассоциативных моделей, самоорганизующимся картам (СОМ), как к устоявшимся, когнитивно правдоподобным моделям языкового развития.

SOM были полезны исследователям в выявлении и исследовании ограничений и переменных, представляющих интерес в ряде процессов приобретения знаний, а также в изучении последствий этих результатов для лингвистических и когнитивных теорий. Определив рабочую память как важное ограничение как для изучающих язык, так и для современных вычислительных моделей, исследователи смогли показать, что манипулирование этой переменной позволяет осуществлять синтаксическую загрузку , извлекая не только категориальное, но и фактическое значение содержания из позиционного совпадения слов в предложения.

Вероятностные модели

Некоторые недавние модели овладения языком были сосредоточены на методах байесовского вывода, позволяющих учитывать способности младенцев правильно анализировать потоки речи и усваивать значения слов. Модели этого типа в значительной степени полагаются на понятие условной вероятности (вероятность А при условии Б), что соответствует выводам, касающимся использования младенцами переходных вероятностей слов и слогов для изучения слов.

Модели, использующие эти вероятностные методы, смогли объединить ранее дихотомические подходы к освоению языка социальных теорий , которые подчеркивают важность изучения намерений говорящего, а также статистических и ассоциативных теорий , которые полагаются на кросс-ситуативные контексты, в единую задачу совместного вывода. Этот подход привел к важным результатам в объяснении таких явлений приобретения, как взаимная исключительность , обучение с одной попытки или быстрое картирование , а также использование социальных намерений .

Хотя эти результаты кажутся надежными, исследования, касающиеся способности этих моделей справляться с более сложными ситуациями, такими как сопоставление нескольких референтов с одной меткой, сопоставление нескольких меток с одной референтной и овладение двуязычным языком, по сравнению с успехами ассоциативных моделей в этих областях. еще предстоит изучить. Однако остается надежда, что эти типы моделей можно будет объединить, чтобы обеспечить всестороннее описание овладения языком.

Гипотеза C/V

Что касается вероятностных частот, гипотеза C/V в основном утверждает, что все слушатели языка используют частоты согласных, чтобы различать слова (лексические различия) в непрерывных речевых цепочках по сравнению с гласными. Гласные более подходят для ритмической идентификации. Несколько последующих исследований выявили этот вывод, поскольку они показали, что гласные обрабатываются независимо от их местного статистического распределения. Другое исследование показало, что соотношение согласных и гласных не влияет на размеры лексиконов при сравнении разных языков. В случае языков с более высоким соотношением согласных дети могут больше зависеть от соседей по согласным, чем от рифмы или частоты гласных.

Алгоритмы овладения языком

Некоторые модели овладения языком основаны на адаптивном синтаксическом анализе. и алгоритмы индукции грамматики .