Теория ответа на предмет

В психометрии , теория ответов на задания ( IRT ) (также известная как теория скрытых черт , теория сильной истинной оценки или современная теория ментальных тестов ) является парадигмой для разработки, анализа и оценки тестов , анкет и подобных инструментов измеряющих способности. отношения или другие переменные. Это теория тестирования, основанная на взаимосвязи между успеваемостью отдельных людей по заданию теста и уровнем успеваемости участников теста по общему показателю способностей, для измерения которых предназначено это задание. Для представления как заданий, так и характеристик тестируемых используется несколько различных статистических моделей. В отличие от более простых альтернатив создания шкал и оценки ответов на анкеты, здесь не предполагается, что каждый пункт одинаково сложен. Это отличает IRT от, например, масштабирования Лайкерта , в котором « предполагается, что все элементы являются копиями друг друга или, другими словами, элементы считаются параллельными инструментами». Напротив, теория реакции на задание рассматривает сложность каждого задания (характеристические кривые задания, или ICC ) как информацию, которая должна быть включена в масштабирование заданий.

Он основан на применении соответствующих математических моделей к данным тестирования . Поскольку ее часто считают превосходящей классическую теорию тестирования , это предпочтительный метод разработки весов в США, особенно когда требуются оптимальные решения, как в так называемых тестах с высокими ставками , например, вступительный экзамен в аспирантуру (GRE) и вступительный тест по менеджменту в аспирантуру (GMAT).

имени Теория ответа на задание обусловлена ​​тем, что теория фокусирует внимание на задании, в отличие от фокуса на уровне теста, как в классической теории тестирования. Таким образом, IRT моделирует реакцию каждого испытуемого с заданными способностями на каждый элемент теста. Термин «элемент» является общим и охватывает все виды информационных элементов. Это могут быть вопросы с несколькими вариантами ответов, на которые даны неправильные и правильные ответы, но они также обычно представляют собой утверждения в анкетах, которые позволяют респондентам указать уровень согласия ( рейтинг или шкала Лайкерта ), или симптомы пациента, оцениваемые как присутствующие/отсутствующие, или диагностическую информацию в комплексе. системы.

IRT основан на идее, что вероятность правильного ответа на предмет является математической функцией человека и предмета параметров . (Выражение «математическая функция параметров человека и предмета» аналогично Левина уравнению B = f(P, E) , которое утверждает, что поведение является функцией человека в его среде.) Параметр человека истолковывается как ( обычно) одна скрытая черта или измерение. Примеры включают общий интеллект или силу позиции. Параметры, по которым характеризуются элементы, включают их сложность (известную как «местоположение» из-за их местоположения в диапазоне сложности); дискриминация (наклон или корреляция), показывающая, насколько сильно уровень успеха людей зависит от их способностей; и параметр псевдоугадывания, характеризующий (нижнюю) асимптоту , при которой даже наименее способные люди получат баллы благодаря угадыванию (например, 25% для чистого шанса на предмет с множественным выбором и четырьмя возможными ответами).

Таким же образом IRT можно использовать для измерения поведения людей в социальных сетях. Мнения, высказанные разными людьми, можно объединить для изучения с помощью IRT. Также оценивалось его использование для классификации информации как дезинформации или правдивой информации.

Обзор

Концепция функции ответа на задание возникла примерно до 1950 года. Новаторская работа IRT как теории произошла в 1950-х и 1960-х годах. Тремя пионерами были Службы образовательного тестирования психометрик Фредерик М. Лорд . датский математик Георг Раш и австрийский социолог Пауль Лазарсфельд , которые независимо проводили параллельные исследования. Ключевые фигуры, которые способствовали прогрессу IRT, включают Бенджамина Дрейка Райта и Дэвида Андрича . ИРТ не получил широкого распространения до конца 1970-х и 1980-х годов, когда практикующим специалистам рассказали о «полезности» и «преимуществах» ИРТ, с одной стороны, а персональные компьютеры предоставили многим исследователям доступ к вычислительной мощности, необходимой для ИРТ, с другой. В 1990-х годах Маргарет Ву разработала две программы для ответов на вопросы, которые анализируют данные PISA и TIMSS; ACER ConQuest (1998 г.) и R-пакет ТАМ (2010 г.).

Помимо прочего, цель IRT — предоставить основу для оценки того, насколько хорошо работают оценки и насколько хорошо работают отдельные элементы оценок. Наиболее распространенное применение IRT — в образовании, где психометристы используют его для разработки и проектирования экзаменов , ведения банков заданий для экзаменов и уравнивания сложности заданий для последовательных версий экзаменов (например, чтобы обеспечить возможность сравнения результатов с течением времени). .

Модели IRT часто называют моделями скрытых черт . Термин «скрытый» используется, чтобы подчеркнуть, что ответы на отдельные вопросы считаются наблюдаемыми проявлениями гипотетических черт, конструкций или атрибутов, которые не наблюдаются напрямую, но которые должны быть выведены из явных ответов. Модели скрытых черт были разработаны в области социологии, но практически идентичны моделям IRT.

Обычно IRT считается улучшением классической теории тестирования (CTT). Для задач, которые можно выполнить с помощью CTT, IRT обычно обеспечивает большую гибкость и предоставляет более сложную информацию. Некоторые приложения, такие как компьютеризированное адаптивное тестирование , поддерживаются IRT и не могут быть реализованы с использованием только классической теории тестирования. позволяет исследователю повысить надежность оценки Еще одним преимуществом IRT перед CTT является то, что более сложная информация, которую предоставляет IRT , .

IRT предполагает три предположения:

1. Одномерный признак, обозначаемый ${\theta }$ ;
2. Локальная независимость элементов;
3. Реакция человека на предмет может быть смоделирована с помощью математической функции ответа предмета (IRF).

Кроме того, предполагается, что признак можно измерить по шкале (само существование теста предполагает это), обычно установленной на стандартной шкале со средним значением 0,0 и стандартным отклонением 1,0. Одномерность следует интерпретировать как однородность, качество, которое следует определить или эмпирически продемонстрировать в отношении данной цели или использования, но не как величину, которую можно измерить. «Локальная независимость» означает (а) что вероятность использования одного предмета не связана с использованием какого-либо другого предмета(ов) и (б) что ответ на задание является независимым решением каждого тестируемого, т.е. здесь нет читерства, парной или групповой работы. Тема размерности часто исследуется с помощью факторного анализа , в то время как IRF является основным строительным блоком IRT и центром большей части исследований и литературы.

Функция ответа на элемент

IRF дает вероятность того, что человек с данным уровнем способностей ответит правильно. У людей с более низкими способностями меньше шансов, в то время как люди с высокими способностями, скорее всего, ответят правильно; например, учащиеся с более высокими математическими способностями с большей вероятностью правильно решат математический вопрос. Точное значение вероятности зависит, помимо способностей, от набора параметров предмета для IRF.

Логистическая модель с тремя параметрами

Рисунок 1: Пример 3PL IRF с наложенными пунктирными линиями для демонстрации параметров.

Например, в логистической модели с тремя параметрами ( 3PL ) вероятность правильного ответа на дихотомический элемент i , обычно вопрос с несколькими вариантами ответов, равна:

$p_{i}({\theta })=c_{i}+{\frac {1-c_{i}}{1+e^{-a_{i}({\theta }-b_{i})}}}$

где ${\theta }$ указывает на то, что способности человека моделируются как выборка из нормального распределения с целью оценки параметров элемента. После оценки параметров предмета оцениваются способности отдельных людей для целей отчетности. $a_{i}$, $b_{i}$, и $c_{i}$ — параметры элемента. Параметры элемента определяют форму IRF. На рисунке 1 изображен идеальный ICC 3PL.

Параметры товара можно интерпретировать как изменение формы стандартной логистической функции :

$P(t)={\frac {1}{1+e^{-t}}}.$

Вкратце, параметры интерпретируются следующим образом (для наглядности опускаем индексы); b является самым простым, поэтому указан первым:

• б – сложность, расположение предмета: $p(b)=(1+c)/2,$ середина пути между $c_{i}$ (мин) и 1 (макс), а также при максимальном наклоне.
• а – дискриминация, масштаб, наклон: максимальный наклон $p'(b)=a\cdot (1-c)/4.$
• в – псевдоугадайка, случайность, асимптотический минимум $p(-\infty )=c.$

Если $c=0,$ тогда это упрощается до $p(b)=1/2$ и $p'(b)=a/4,$ это означает, что b равно 50% уровню успеха (сложности), а a (деленное на четыре) - это максимальный наклон (дискриминация), который происходит на уровне успеха 50%. Кроме того, логит (логарифм шансов ) правильного ответа равен $a(\theta -b)$ (при условии, что $c=0$): в частности, если способность θ равна сложности b, существуют четные шансы (1:1, поэтому логит 0) правильного ответа, чем больше способность выше (или ниже) сложности, тем больше (или меньше) вероятность правильного ответа ответ, при этом дискриминация определяет , насколько быстро шансы увеличиваются или уменьшаются в зависимости от способностей.

Другими словами, стандартная логистическая функция имеет асимптотический минимум 0 ( $c=0$), сосредоточен вокруг 0 ​​( $b=0$, $P(0)=1/2$), и имеет максимальный наклон $P'(0)=1/4.$ $a$ параметр растягивает горизонтальный масштаб, $b$ параметр смещает горизонтальный масштаб, а $c$ параметр сжимает вертикальный масштаб от $[0,1]$ к $[c,1].$ Это подробно описано ниже.

Параметр $b_{i}$ представляет местоположение предмета, который в случае тестирования достижений называется сложностью предмета. Это точка на ${\theta }$ где IRF имеет максимальный наклон и где значение находится посередине между минимальным значением $c_{i}$ и максимальное значение 1. Пример задания имеет среднюю сложность, поскольку $b_{i}$=0,0, что находится вблизи центра распределения. Обратите внимание, что эта модель масштабирует сложность задания и черты характера человека в один и тот же континуум. Таким образом, можно говорить о том, что задание примерно так же сложно, как уровень характеристики человека А, или о том, что уровень характеристики человека примерно такой же, как сложность предмета Y, в том смысле, что успешное выполнение задачи, связанной с заданием, отражает конкретную уровень способностей.

Параметр элемента $a_{i}$ представляет собой дискриминацию предмета: то есть степень, в которой предмет дискриминирует людей в разных регионах скрытого континуума. Этот параметр характеризует наклон IRF, при котором наклон достигает максимального значения. В примере элемента есть $a_{i}$=1,0, что обеспечивает достаточно хорошую дискриминацию; у людей с низкими способностями действительно гораздо меньше шансов правильно ответить, чем у людей с более высокими способностями. Этот параметр дискриминации соответствует весовому коэффициенту соответствующего элемента или показателя в стандартной взвешенной линейной регрессии ( МНК ) и, следовательно, может использоваться для создания взвешенного индекса показателей для неконтролируемого измерения лежащей в основе скрытой концепции.

Для таких элементов, как элементы с множественным выбором , параметр $c_{i}$ используется для того, чтобы объяснить влияние догадок на вероятность правильного ответа. Это указывает на вероятность того, что люди с очень низкими способностями случайно ответят на этот вопрос правильно, что математически представлено как нижняя асимптота . Элемент с четырьмя вариантами множественного выбора может иметь IRF, как пример элемента; вероятность того, что кандидат с чрезвычайно низкими способностями угадает правильный ответ, составляет 1/4, поэтому $c_{i}$ будет примерно 0,25. Этот подход предполагает, что все варианты одинаково вероятны, потому что, если один вариант не имеет смысла, даже человек с самыми низкими способностями сможет от него отказаться, поэтому методы оценки параметров IRT учитывают это и оценивают $c_{i}$ на основании наблюдаемых данных.

модели ИРТ

В общих чертах модели IRT можно разделить на два семейства: одномерные и многомерные. Одномерные модели требуют одного измерения черт (способностей). ${\theta }$. Многомерные модели IRT моделируют данные ответов, предположительно возникающие из множества характеристик. Однако из-за значительно возросшей сложности в большинстве исследований и приложений IRT используется одномерная модель.

Модели IRT также можно классифицировать по количеству полученных ответов. Типичный элемент с множественным выбором является дихотомическим ; даже несмотря на то, что вариантов может быть четыре или пять, они все равно оцениваются только как правильные/неправильные (верные/неправильные). Другой класс моделей применим к политомическим результатам, где каждый ответ имеет разное значение балла. Типичным примером этого являются элементы типа Лайкерта , например «Оцените по шкале от 1 до 5». Другим примером является скоринг частичной кредитоспособности, к которому могут быть применены такие модели, как политомическая модель Раша .

Количество параметров IRT

Дихотомические модели IRT описываются количеством параметров, которые они используют. 3PL назван так потому, что в нем используются три параметра элемента. Двухпараметрическая модель (2PL) предполагает, что данные не подлежат угадыванию, но элементы могут различаться по местоположению ( $b_{i}$) и дискриминация ( $a_{i}$). Однопараметрическая модель (1PL) предполагает, что угадывание является частью способности и что все предметы, соответствующие модели, имеют эквивалентные различия, так что предметы описываются только одним параметром ( $b_{i}$). В результате однопараметрические модели обладают свойством специфической объективности, то есть ранг сложности задания одинаков для всех респондентов независимо от способностей, а ранг способностей человека одинаков для заданий независимо от сложности. Таким образом, модели с 1 параметром не зависят от выборки, а это свойство не справедливо для моделей с двумя и тремя параметрами. Кроме того, теоретически существует четырехпараметрическая модель (4PL) с верхней асимптотой , обозначаемой $d_{i},$ где $1-c_{i}$ в 3PL заменяется на $d_{i}-c_{i}$. Однако это используется редко. Обратите внимание, что алфавитный порядок параметров заданий не соответствует их практической или психометрической важности; расположение/сложность ( $b_{i}$) параметр, очевидно, является наиболее важным, поскольку он включен во все три модели. 1PL использует только $b_{i}$, 2PL использует $b_{i}$ и $a_{i}$, добавляет 3PL $c_{i}$, а 4PL добавляет $d_{i}$.

Модель 2PL эквивалентна модели 3PL с $c_{i}=0$и подходит для тестирования заданий, в которых угадывание правильного ответа крайне маловероятно, например заданий с заполнением пропусков («Каков квадратный корень из 121?»), или когда концепция угадывания неприменима, например как личность, отношение или интересы (например, «Мне нравятся бродвейские мюзиклы. Согласен/Не согласен»).

1PL предполагает не только отсутствие угадывания (или неуместность), но и то, что все задания эквивалентны с точки зрения дискриминации, что аналогично общему факторному анализу с одинаковыми нагрузками для всех заданий. Отдельные предметы или индивидуумы могут иметь вторичные факторы, но предполагается, что они взаимно независимы и коллективно ортогональны .

Логистические и обычные модели IRT

Альтернативная формулировка строит IRF на основе нормального распределения вероятностей; их иногда называют нормальными оживальными моделями . Например, формула для двухпараметрической IRF с нормальным оживалом:

$p_{i}(\theta )=\Phi \left({\frac {\theta -b_{i}}{\sigma _{i}}}\right)$

где Φ — кумулятивная функция распределения (CDF) стандартного нормального распределения.

Модель нормального ожива основана на предположении о нормально распределенной ошибке измерения и на этом основании теоретически привлекательна. Здесь $b_{i}$ это, опять же, параметр сложности. Параметр дискриминации ${\sigma }_{i}$, стандартное отклонение ошибки измерения для элемента i и сравнимое с 1/ $a_{i}$.

Можно оценить модель скрытых черт нормального огива путем факторного анализа матрицы тетрахорических корреляций между элементами. Это означает, что технически возможно оценить простую модель IRT с использованием статистического программного обеспечения общего назначения.

Благодаря изменению масштаба параметра способности можно приблизить логистическую модель 2PL к кумулятивной нормальной оживе. Обычно логистические и нормально-оживальные IRF 2PL различаются по вероятности не более чем на 0,01 во всем диапазоне функции. Однако наибольшая разница проявляется в хвостах распределения, которые, как правило, оказывают большее влияние на результаты.

Модель скрытых признаков/IRT изначально была разработана с использованием обычных огив, но в то время (1960-е годы) это считалось слишком требовательным в вычислительном отношении для компьютеров. Логистическая модель была предложена как более простая альтернатива и с тех пор получила широкое распространение. Однако совсем недавно было продемонстрировано, что, используя стандартные полиномиальные аппроксимации нормального CDF , модель нормального ожива не требует больше вычислительных затрат, чем логистические модели.

Модель Раша

Модель Раша часто называют моделью 1PL IRT. Однако сторонники моделирования Раша предпочитают рассматривать его как совершенно другой подход к концептуализации взаимосвязи между данными и теорией. Как и другие подходы к статистическому моделированию, IRT подчеркивает приоритет соответствия модели наблюдаемым данным. в то время как модель Раша подчеркивает первостепенность требований к фундаментальным измерениям, при этом адекватное соответствие модели данных является важным, но второстепенным требованием, которое необходимо выполнить, прежде чем можно будет заявить, что тест или исследовательский инструмент измеряет признак. С практической точки зрения это означает, что подходы IRT включают дополнительные параметры модели для отражения закономерностей, наблюдаемых в данных (например, позволяя элементам варьироваться в их корреляции со скрытым признаком), тогда как в подходе Раша утверждения о наличии скрытого признака может считаться действительным только тогда, когда (а) данные соответствуют модели Раша и (б) тестовые задания и испытуемые соответствуют модели. Таким образом, в соответствии с моделями Раша несоответствующие ответы требуют диагностики причины несоответствия и могут быть исключены из набора данных, если можно подробно объяснить, почему они не затрагивают скрытую черту. Таким образом, подход Раша можно рассматривать как подтверждающий подход, в отличие от исследовательских подходов, которые пытаются смоделировать наблюдаемые данные.

Наличие или отсутствие параметра предположения или псевдослучайности является важным, а иногда и спорным различием. Подход IRT включает параметр левой асимптоты для учета угадывания в экзаменах с множественным выбором , тогда как модель Раша этого не делает, поскольку предполагается, что угадывание добавляет к данным случайно распределенный шум. Поскольку шум распределяется случайным образом, предполагается, что при условии, что проверено достаточное количество элементов, ранжирование людей по скрытому признаку по исходному баллу не изменится, а просто подвергнется линейному изменению масштаба. Напротив, трехпараметрическая IRT обеспечивает соответствие модели данных путем выбора модели, которая соответствует данным. за счет принесения в жертву конкретной объективности .

На практике модель Раша имеет как минимум два принципиальных преимущества по сравнению с подходом IRT. Первое преимущество – это приоритет конкретных требований Раша, который (при его соблюдении) обеспечивает фундаментальное измерение без участия человека (когда люди и предметы могут быть отображены на одной и той же инвариантной шкале). Еще одним преимуществом подхода Раша является то, что оценка параметров в моделях Раша более проста из-за наличия достаточной статистики, что в этом приложении означает взаимно однозначное сопоставление необработанных правильных числовых оценок с Рашем. ${\theta }$ оценки.

Анализ соответствия модели

Как и при любом использовании математических моделей, важно оценить соответствие данных модели. Если диагностировано несоответствие задания какой-либо модели из-за плохого качества задания, например, запутывание отвлекающих факторов в тесте с несколькими вариантами ответов, то элементы могут быть удалены из этой тестовой формы и переписаны или заменены в будущих тестовых формах. Однако если возникает большое количество несоответствующих элементов без видимой причины несоответствия, необходимо будет пересмотреть конструктную валидность теста и, возможно, переписать спецификации теста. Таким образом, несоответствие предоставляет разработчикам тестов бесценные диагностические инструменты, позволяющие эмпирически проверять гипотезы, на которых основаны спецификации тестов, на основе данных.

Существует несколько методов оценки соответствия, например статистика Хи-квадрат или ее стандартизированная версия. Двух- и трехпараметрические модели IRT корректируют различение элементов, обеспечивая улучшенное соответствие модели данных, поэтому статистике соответствия не хватает подтверждающей диагностической ценности, обнаруженной в однопараметрических моделях, где идеализированная модель указывается заранее.

Данные следует удалять не на основании несоответствия модели, а скорее потому, что была диагностирована соответствующая конструкция причина несоответствия, например, если английский язык не является родным, сдавая тест по естественным наукам, написанный на английском языке. Можно утверждать, что такой кандидат не принадлежит к одной и той же популяции людей, в зависимости от размерности теста, и, хотя один параметр измерения IRT считается независимым от выборки, они не являются независимыми от популяции, поэтому такое несоответствие, как это, построить релевантную и не делает тест или модель недействительными. Такой подход является важным инструментом валидации инструментов. В двух- и трехпараметрических моделях, где психометрическая модель корректируется в соответствии с данными, будущие применения теста должны быть проверены на соответствие той же модели, которая использовалась при первоначальной валидации, чтобы подтвердить гипотезу о том, что баллы от каждой администрации обобщают. другим администрациям. Если для каждой администрации указана другая модель для достижения соответствия модели данных, то измеряется другой скрытый признак, и нельзя утверждать, что результаты тестов сопоставимы между администрациями.

Информация

Одним из основных вкладов теории реагирования на предмет является расширение концепции надежности . Традиционно надежность относится к точности измерения (т.е. степени отсутствия ошибок в измерениях). Традиционно он измеряется с использованием единого индекса, определяемого различными способами, например, отношения истинной и наблюдаемой дисперсии оценок. Этот индекс полезен для характеристики средней надежности теста, например, для сравнения двух тестов. Но IRT ясно дает понять, что точность не одинакова для всего диапазона результатов тестов. Например, результаты на границах диапазона теста обычно содержат больше ошибок, чем результаты ближе к середине диапазона.

Теория реагирования на задание выдвигает концепцию задания и тестовой информации вместо надежности. Информация также является функцией параметров модели. Например, согласно теории информации Фишера , информация об элементе, предоставляемая в случае 1PL для данных дихотомического ответа, представляет собой просто вероятность правильного ответа, умноженную на вероятность неправильного ответа, или

$I(\theta )=p_{i}(\theta )q_{i}(\theta ).\,$

Стандартная ошибка оценки (SE) является обратной величиной тестовой информации на данном уровне признака.

${\text{SE}}(\theta )={\frac {1}{\sqrt {I(\theta )}}}.$

Таким образом, больше информации означает меньшую ошибку измерения.

Для других моделей, таких как модели с двумя и тремя параметрами, параметр дискриминации играет важную роль в функции. Функция информации об элементе для модели с двумя параметрами:

$I(\theta )=a_{i}^{2}p_{i}(\theta )q_{i}(\theta ).\,$

Функция информации об элементе для модели с тремя параметрами:

$I(\theta )=a_{i}^{2}{\frac {(p_{i}(\theta )-c_{i})^{2}}{(1-c_{i})^{2}}}{\frac {q_{i}(\theta )}{p_{i}(\theta )}}.$

В целом функции информации об элементах имеют форму колокола. Предметы с высокой степенью различения имеют высокие и узкие информационные функции; они вносят большой вклад, но в узком диапазоне. Менее разборчивые элементы дают меньше информации, но в более широком диапазоне.

Графики информации об элементе можно использовать, чтобы увидеть, какой объем информации вносит элемент и в какую часть диапазона оценок шкалы. Из-за локальной независимости информационные функции элемента являются аддитивными . Таким образом, информационная функция теста представляет собой просто сумму информационных функций заданий экзамена. Используя это свойство с большим банком элементов, можно сформировать функции тестовой информации для очень точного контроля погрешности измерения .

Характеристика точности результатов тестов, пожалуй, является центральным вопросом психометрической теории и главным различием между IRT и CTT. Результаты IRT показывают, что концепция надежности CTT является упрощением. Вместо надежности IRT предлагает функцию тестовой информации, которая показывает степень точности при различных значениях тета, θ.

Эти результаты позволяют специалистам по психометрии (потенциально) тщательно формировать уровень надежности для разных диапазонов способностей, включая тщательно выбранные элементы. Например, в ситуации сертификации , когда тест может быть пройден или не пройден, где имеется только один «проходной балл» и где фактический проходной балл неважен, можно разработать очень эффективный тест, выбрав только те элементы, которые имеют высокая информация возле кат-скора. Эти предметы обычно соответствуют предметам, сложность которых примерно такая же, как и у кат-скора.

Подсчет очков

Параметр человека ${\theta }$ представляет собой величину скрытой черты личности, которая представляет собой человеческие способности или качества, измеряемые с помощью теста. Это могут быть когнитивные способности, физические способности, навыки, знания, отношение, характеристики личности и т. д.

Оценка личностного параметра — «балла» в тесте с IRT — рассчитывается и интерпретируется совершенно иначе по сравнению с традиционными оценками, такими как число или процент правильных ответов. Общий балл индивидуума за правильность чисел не является фактическим баллом, а скорее основан на IRF, что приводит к взвешенному баллу, когда модель содержит параметры распознавания предметов. Фактически он получается путем умножения функции ответа элемента для каждого элемента, чтобы получить функцию правдоподобия , высшая точка которой является максимального правдоподобия оценкой ${\theta }$. Эта самая высокая точка обычно оценивается с помощью программного обеспечения IRT с использованием метода Ньютона-Рафсона . Хотя при IRT оценка гораздо сложнее, для большинства тестов корреляция между тета-оценкой и традиционным баллом очень высока; часто оно составляет 0,95 и более [цитата?]. График сопоставления оценок IRT с традиционными оценками имеет оживающую форму, что означает, что IRT оценивает отдельных индивидуумов на границах диапазона больше, чем в середине.

Важным различием между CTT и IRT является обработка ошибки измерения, индексируемой стандартной ошибкой измерения . Все тесты, анкеты и инвентаризации являются неточными инструментами; человека мы никогда не сможем узнать истинный балл , а можем получить только приблизительную оценку, наблюдаемый балл. Существует некоторая случайная ошибка, которая может привести к тому, что наблюдаемая оценка окажется выше или ниже истинной. СТТ предполагает, что величина ошибки одинакова для каждого экзаменуемого, а IRT допускает ее варьирование.

Кроме того, ничто в IRT не опровергает развитие или совершенствование человека и не предполагает, что уровень черт является фиксированным. Человек может приобрести навыки, знания или даже так называемые «навыки сдачи тестов», которые могут привести к более высокому истинному баллу. Фактически, часть исследований IRT фокусируется на измерении изменений уровня черт.

Сравнение классической теории и теории реагирования на предметы

Классическая теория тестирования (КТТ) и IRT в основном касаются одних и тех же проблем, но представляют собой разные разделы теории и используют разные методы. Хотя эти две парадигмы в целом согласованы и дополняют друг друга, существует ряд различий:

• IRT делает более строгие предположения, чем CTT, и во многих случаях дает соответственно более убедительные выводы; прежде всего, характеристики ошибки. Конечно, эти результаты верны только тогда, когда предположения моделей IRT действительно выполняются.
• Хотя результаты КТТ позволили получить важные практические результаты, основанная на моделях природа IRT дает много преимуществ по сравнению с аналогичными результатами КТТ.
• Процедуры оценки результатов теста CTT имеют то преимущество, что их легко вычислить (и объяснить), тогда как оценка IRT обычно требует относительно сложных процедур оценки.
• IRT обеспечивает несколько улучшений в масштабировании предметов и людей. Особенности зависят от модели IRT, но большинство моделей масштабируют сложность предметов и способности людей по одному и тому же показателю. Таким образом, можно осмысленно сравнить сложность предмета и способности человека.
• Еще одно улучшение, обеспечиваемое IRT, заключается в том, что параметры моделей IRT обычно не зависят от выборки или теста, тогда как истинный балл определяется в CTT в контексте конкретного теста. Таким образом, IRT обеспечивает значительно большую гибкость в ситуациях, когда используются разные образцы или формы испытаний. Эти результаты IRT лежат в основе компьютеризированного адаптивного тестирования.

Стоит также упомянуть некоторые конкретные сходства между CTT и IRT, которые помогают понять соответствие между понятиями. Во-первых, Господь показал, что в предположении, что $\theta$ нормально распределена, дискриминация в модели 2PL является примерно монотонной функцией точечно -бисериальной корреляции . В частности:

$a_{i}\cong {\frac {\rho _{it}}{\sqrt {1-\rho _{it}^{2}}}}$

где $\rho _{it}$ — это точечная бисериальная корреляция элемента i . Таким образом, если предположение верно, то там, где существует более высокая дискриминация, обычно будет более высокая корреляция между точками и бирядами.

Еще одно сходство заключается в том, что, хотя IRT предусматривает стандартную ошибку каждой оценки и информационную функцию, также возможно получить индекс для теста в целом, который напрямую аналогичен альфе Кронбаха , называемый индексом разделения . Для этого необходимо начать с разложения оценки IRT на истинное местоположение и ошибку, аналогично разложению наблюдаемой оценки на истинную оценку и ошибку в CTT. Позволять

${\hat {\theta }}=\theta +\epsilon$

где $\theta$ это истинное местоположение, и $\epsilon$ – это связь ошибки с оценкой. Затем ${\mbox{SE}}({\theta })$ представляет собой оценку стандартного отклонения $\epsilon$ для человека с заданным взвешенным баллом и индексом разделения получается следующим образом

$R_{\theta }={\frac {{\text{var}}[\theta ]}{{\text{var}}[{\hat {\theta }}]}}={\frac {{\text{var}}[{\hat {\theta }}]-{\text{var}}[\epsilon ]}{{\text{var}}[{\hat {\theta }}]}}$

где среднеквадратическая стандартная ошибка оценки человека дает оценку дисперсии ошибок, $\epsilon _{n}$, среди людей. Стандартные ошибки обычно возникают как побочный продукт процесса оценки. Индекс разделения обычно очень близок по значению к альфе Кронбаха.

IRT иногда называют сильной теорией истинного результата или современной теорией ментальных тестов, потому что это более поздняя теория, которая делает более явными гипотезы, которые неявно заложены в CTT.

См. также

Классическая теория тестирования Инвентаризация концепций Дифференциальное функционирование элемента Теория обобщаемости Анализ соответствия личности

Психометрия Масштаб (социальные науки) Стандартизированный тест Был

Дальнейшее чтение

Было написано множество книг, посвященных теории ответов на задания или содержащих модели IRT или подобные IRT. Это неполный список, в котором основное внимание уделяется текстам, которые обеспечивают большую глубину.

• Лорд, FM (1980). Применение теории реагирования на задания к практическим задачам тестирования. Махва, Нью-Джерси: Эрлбаум.

В этой книге изложена большая часть работы Лорда по IRT, включая главы, посвященные взаимосвязи между IRT и классическими методами, основам IRT, оценке и нескольким более сложным темам. Глава, посвященная оценкам, уже устарела, поскольку в ней в основном обсуждается совместный метод максимального правдоподобия, а не метод предельного максимального правдоподобия, реализованный Дарреллом Боком и его коллегами.

• Эмбретсон, Сьюзен Э.; Рейз, Стивен П. (2000). Теория ответов на вопросы для психологов . Психология Пресс. ISBN  978-0-8058-2819-1 .

Эта книга представляет собой доступное введение в ИРТ, предназначенное, как следует из названия, для психологов.

• Бейкер, Фрэнк (2001). Основы теории ответов на вопросы. Информационный центр ERIC по оценке и анализу, Университет Мэриленда, Колледж-Парк, Мэриленд.

Эта вводная книга написана одним из пионеров в этой области и доступна в Интернете по адресу [1].

• Бейкер, Фрэнк Б.; Ким, Сок-Хо (2004). Теория ответа на предмет: методы оценки параметров (2-е изд.). Марсель Деккер. ISBN  978-0-8247-5825-7 .

В этой книге описаны различные модели теории реагирования предметов и представлены подробные объяснения алгоритмов, которые можно использовать для оценки параметров предметов и способностей. Части книги доступны онлайн в виде ограниченного предварительного просмотра в Google Книгах .

• ван дер Линден, Вим Дж.; Хэмблтон, Рональд К., ред. (1996). Справочник по современной теории реагирования на предметы . Спрингер. ISBN  978-0-387-94661-0 .

В этой книге представлен всесторонний обзор различных популярных моделей IRT. Он хорошо подходит для людей, которые уже получили базовое представление о IRT.

• де Бек, Поль; Уилсон, Марк (2004). Модели ответов на пояснительные задания: обобщенный линейный и нелинейный подход . Спрингер. ISBN  978-0-387-40275-8 .

В этом томе представлено комплексное введение в модели ответов на вопросы, предназначенное в основном для практиков, исследователей и аспирантов.

• Фокс, Жан-Поль (2010). Байесовское моделирование реакции предмета: теория и приложения . Спрингер. ISBN  978-1-4419-0741-7 .

В этой книге обсуждается байесовский подход к моделированию ответов на вопросы. Книга будет полезна для людей (знакомых с IRT), заинтересованных в анализе данных ответов на задания с байесовской точки зрения.

Внешние ссылки

• «ИСТОРИЯ ТЕОРИИ РЕАКЦИИ НА ПРЕДМЕТ (до 1982 г.)» , Университет Иллинойса в Чикаго.
• Простое руководство по теории реагирования на предмет (PDF)
• Загрузка психометрического программного обеспечения
• Учебное пособие по ИРТ
• Учебное пособие по IRT: часто задаваемые вопросы
• Введение в ИРТ
• Стандарты образовательного и психологического тестирования
• Компьютерная программа IRT Command Language (ICL)
• Программы IRT от SSI, Inc.
• Анализ скрытых признаков и модели IRT
• Экспресс-анализ
• Программы анализа Раша от Winsteps
• Теория реакции предмета
• Бесплатное программное обеспечение IRT
• Пакеты IRT в R
• Поддержка IRT/EIRT в Lertap 5
• Визуальный IRT-анализ и отчетность с помощью Xcaliber