Когнитивное предварительное тестирование
Когнитивное предварительное тестирование , или когнитивное интервью , — это метод полевого исследования , при котором собираются данные о том, как испытуемый отвечает на вопросы интервью. Это оценка теста или анкеты перед его проведением. [1] Он позволяет исследователям опросов собирать отзывы об ответах на опрос и используется для оценки того, измеряет ли вопрос ту конструкцию, которую намеревается использовать исследователь. Собранные данные затем используются для корректировки проблемных вопросов в анкете перед тем, как опрос будет проведен среди всей выборки людей. [2] [3] [4] [5] [6]
Когнитивное интервью обычно собирает от участников следующую информацию: оценки того, как испытуемый построил свои ответы; объяснения того, что субъект интерпретирует вопросы; сообщение о любых трудностях, с которыми субъект столкнулся при ответе на вопросы; и все остальное, что раскрывает обстоятельства ответов субъекта.
Когнитивное предварительное тестирование считается важным для проверки достоверности интервью, теста или анкеты. [7]
Цель
[ редактировать ]Целью этих предварительных испытаний является:
- убедитесь, что тест или собеседование понятны
- решить любые проблемы, которые могли возникнуть у участников во время теста
- измерять внимание участников и их любопытство к вопросам
- измерить шкалу ответов (например: используется ли вся шкала или ответы слишком сильно различаются)
- оценить порядок вопросов и другие эффекты контекста
- проблемы с интервьюерами
- устранить любые технические проблемы с тестом (например, сбои в работе какой-либо технологии или грамматические ошибки)
- и сколько времени потребуется, чтобы пройти тест или собеседование. [1] [4] [6]
Типы
[ редактировать ]В целом при проведении когнитивного предварительного теста практикуется множество методов. В том числе: традиционное предварительное тестирование, когнитивное интервью, кодирование поведения, разбор полетов респондентов, групповое обсуждение, экспертная оценка, отслеживание глаз и веб-зондирование. [1]
Традиционное предварительное тестирование . Это похоже на репетицию, во время которой пытаются имитировать и моделировать то, на что будет похоже настоящее тестирование или собеседование. Имитация реального теста или собеседования, которое происходит до настоящего. Какой бы метод ни использовался в реальном собеседовании или тесте, он должен использоваться и в этом методе предварительного тестирования. [1] [8]
Когнитивное претестирование (когнитивное интервью) – очень похоже на обычное претестирование. Однако участникам активно задают вопросы во время прохождения теста. Проводится во время собеседования или теста. [1] [6]
Их также можно представить разными способами, включая письменные опросы, устные опросы, электронные опросы. [4]
Техники
[ редактировать ]Существуют определенные методы, которые интервьюер применяет при когнитивном предварительном тестировании для извлечения информации, необходимой для обеспечения хорошего интервью или анкеты.
Техника «мысли вслух». Это происходит, когда интервьюер просит интервьюируемого озвучить свои мысли и то, как они пришли к своему ответу. Это может быть одновременно (во время) или ретроспективно (после) собеседования. [1] [2]
Техника зондирования . Это происходит, когда интервьюер задает интервьюируемому один или несколько дополнительных вопросов. Они «исследуют» задаваемые вопросы, используемую терминологию и даже ответы. [1] [2] Зонды могут быть одновременными (во время выполнения задачи, но не нарушающими ее выполнение) или ретроспективными (после выполнения задачи). [9]
Перефразирование – это происходит, когда интервьюер просит интервьюируемого использовать свои слова, чтобы повторить вопрос. Это тест, чтобы убедиться, что вопросы понятны. [1]
Рейтинг уверенности . Это происходит, когда интервьюер спрашивает интервьюируемого о его уверенности в том, насколько правильно он ответил на вопрос. [1]
Сортировка или сортировка карточек . Это происходит, когда интервьюер спрашивает интервьюируемого или пытается понять, как интервьюируемый классифицирует определенные ситуации или даже термины. [1] [9]
Виньетки – это краткие описания одного или нескольких гипотетических персонажей (похожие на виньетки, используемые в психологических и социологических экспериментах или закрепляющие виньетки в исследованиях количественного опроса), которые используются для изучения когнитивных процессов респондента в отношении их решений, важных для опроса. [9] [10]
Веб-зондирование. Этот метод реализует методы когнитивного интервьюирования в веб-опросах. Его сильные стороны включают стандартизацию, анонимность, а также большой и быстрый охват, поскольку управление осуществляется через Интернет. Тем не менее, веб-зонды могут охватывать только онлайн-группы населения, наблюдается отсутствие ответов на зонды, а недостаточные ответы на зонды с точки зрения содержания не могут быть отслежены. [11] [12]
Участники и набор
[ редактировать ]Размер выборки — очень важная тема в предварительном тестировании. Небольшие выборки из 5–15 участников являются обычным явлением. Хотя некоторые исследователи предполагают, что лучше всего, если размер выборки будет составлять не менее 30 человек, а лучше всегда больше, [13] В настоящее время лучшая практика заключается в том, чтобы проводить исследования в несколько раундов для повторного тестирования изменений. Например, при предварительном тестировании анкеты полезнее провести 3 тура по 9 участников, чем 1 тур по 27 участников. [9]
Существует два разных метода информирования участников об анкете: участие в предварительном тестировании и необъявленное предварительное тестирование. [4]
- Участвуя в предварительных тестах, убедитесь, что участники знают, что тест, который они проходят, — это всего лишь тренировка. Это используется в основном в технике зондирования и размышления вслух или когнитивного предварительного тестирования и интервьюирования. [4]
- Необъявленные предварительные тесты — это тесты, в которых участники не знают, что это тренировочный забег. Это больше всего похоже на обычное предварительное тестирование. Если в исследовании проводится более одного предварительного тестирования, рекомендуется, чтобы сначала участвовало предварительное тестирование, а затем необъявленное второе. [4] [6]
Межкультурные исследования
[ редактировать ]Недавние исследования рекомендуют при проведении когнитивных интервью на языках, отличных от английского, не ограничивать выборку и набор людей, не говорящих по-английски и говорящих на одном языке, что было обычной практикой исследователей опросов. [14] [15] При наборе труднодоступных респондентов и характеристик респондентов посредством целенаправленной выборки, набор на основе сообщества (сарафанное радио, поддержка лидеров сообщества) работает лучше, чем реклама. [16] [17] [18]
Использование исследователями опросов
[ редактировать ]Когнитивное интервью регулярно практикуется федеральными агентствами США, в том числе Бюро переписи населения . [19] [20] Национальный центр статистики здравоохранения (NCHS), [21] и Бюро статистики труда . [22] NCHS ведет базу данных американских и международных агентств, которые проводили проекты когнитивных интервью и предоставили отчеты в свое хранилище, таких как Национальный научный фонд и GESIS – Институт социальных наук Лейбница . [23]
Межкультурное когнитивное интервью практикуется для оценки эквивалентности вопросов опроса и источников трудностей, а также для устранения проблем, связанных с переводом. [24] [25] Из-за различий в стилях общения и культурных нормах в настройке протокола необходима адаптация. [26] и дизайн, [27] использование виньеток, [10] и словесное зондирование. [28]
Стандарты
[ редактировать ]США В октябре 2016 года Управление управления и бюджета (OMB) выпустило Приложение № 2 к Директиве о статистической политике: Стандарты и рекомендации для когнитивных интервью, которое включало семь стандартов когнитивных интервью, проводимых федеральными исследованиями США или для них. [1] Еще одним стандартом, предложенным исследователями, является система отчетности по когнитивным интервью (CIRF), которая применяет контрольный список из 10 категорий, чтобы прояснить, что было сделано во время когнитивных интервью и как были сделаны выводы на основе процедур и результатов этих интервью. [29] Кроме того, при проведении исследований с использованием когнитивного интервью рекомендуется подход к управлению проектами. [30] Для переведенных опросов необходимо адаптировать методы когнитивного интервьюирования, отбор и набор участников, а также подход к управлению проектами, чтобы повысить их пригодность для использования. [27]
Ссылки
[ редактировать ]- ^ Jump up to: а б с д и ж г час я дж Ленцнер, Тимо; Нойерт, Корнелия; Отто, Ванда (2016). «Когнитивное предварительное тестирование». Рекомендации по опросу Хисса . doi : 10.15465/gesis-sg_en_010 .
- ^ Jump up to: а б с Тилли, Барбара С.; ЛаПель, Нэнси Р.; Гетц, Кристофер Г.; Стеббинс, Гленн Т. (2014). «Использование когнитивного предварительного тестирования при разработке шкалы болезни Паркинсона: пример Единой шкалы оценки болезни Паркинсона (MDS-UPDRS) Общества двигательных расстройств» . Журнал болезни Паркинсона . 4 (3): 395–404. дои : 10.3233/JPD-130310 . ISSN 1877-7171 . ПМК 5086096 . ПМИД 24613868 .
- ^ «Предварительное тестирование – Руководство по межкультурному опросу» . ccsg.isr.umich.edu . Проверено 18 июля 2020 г.
- ^ Jump up to: а б с д и ж «Письмо@ЧГУ» . написание.colostate.edu . Проверено 18 июля 2020 г.
- ^ Гримм, Памела (2010), «Предварительное тестирование анкеты», Международная энциклопедия маркетинга Wiley , Американское онкологическое общество, номер документа : 10.1002/9781444316568.wiem02051 , ISBN 978-1-4443-1656-8
- ^ Jump up to: а б с д Бабонея, Алина-Михаэла; Войку, Мирела-Кристина (апрель 2011 г.). «Предварительное тестирование анкет в маркетинговых исследованиях» . Вызовы общества знаний . 1 . Румыния: Издательство Университета Николае Титулеску: 1323–1330. ISSN 2068-7796 .
- ^ «ГЕСИС – Институт социальных наук Лейбница» . www.gesis.org . Проверено 18 июля 2020 г.
- ^ Ху, Шу (2014), «Предварительное тестирование», Михалос, Алекс К. (редактор), Энциклопедия исследований качества жизни и благополучия , Дордрехт: Springer Нидерланды, стр. 5048–5052, doi : 10.1007/978- 94-007-0753-5_2256 , ISBN 978-94-007-0753-5
- ^ Jump up to: а б с д Уиллис, Гордон (2005). Когнитивное интервью: инструмент для улучшения дизайна анкеты . Мудрец. п. 146. ИСБН 9780761928041 .
- ^ Jump up to: а б Ша, Мэнди (01 августа 2016 г.). «Использование эпизодов при оценке пунктов анкеты по азиатскому языку» . Практика опросов . 9 (3). дои : 10.29115/SP-2016-0013 .
- ^ «Веб-зондирование» . GESIS – Институт социальных наук Лейбница . Проверено 24 октября 2023 г.
- ^ Фаулер, Стефани; Б. Уиллис, Гордон (02 января 2020 г.), Битти, Пол; Коллинз, Дебби; Кэй, Лин; Падилья, Хосе Луис (ред.), «Практика когнитивного интервью посредством веб-зондирования» , «Достижения в области дизайна, разработки, оценки и тестирования анкет» (1-е изд.), Wiley, стр. 451–469, номер документа : 10.1002/9781119263685. глава 18 , ISBN 978-1-119-26362-3 , получено 24 октября 2023 г.
- ^ Пернегер, Томас В.; Курвуазье, Дельфин С.; Хадельсон, Патрисия М.; Гайе-Ажерон, Анжель (01 января 2015 г.). «Объем выборки для предварительного тестирования анкет» . Исследование качества жизни . 24 (1): 147–151. дои : 10.1007/s11136-014-0752-2 . ISSN 1573-2649 . ПМИД 25008261 . S2CID 22314144 .
- ^ Пак, Хёнджу; Ша, М. Мэнди; Уиллис, Гордон (ноябрь 2016 г.). «Влияние владения английским языком на когнитивную обработку вопросов опроса» . Полевые методы . 28 (4): 415–430. дои : 10.1177/1525822X16630262 . ISSN 1525-822X .
- ^ Горман, Патрисия Л.; Мейерс, Микелин; Ша, Мэнди (12 октября 2018 г.), Джонсон, Тимоти П.; Пеннелл, Бет-Эллен; Ступ, Инеке А.Л.; Дорер, Брита (ред.), «Работа над сопоставимым значением различных языковых версий инструментов опроса: помогают ли одноязычные и двуязычные респонденты когнитивного тестирования раскрыть одни и те же проблемы?» , Достижения в методах сравнительного исследования (1-е изд.), Wiley, стр. 251–269, doi : 10.1002/9781118884997.ch12 , ISBN 978-1-118-88498-0 , получено 24 октября 2023 г.
- ^ Ша, М. Мэнди; Пак, Хёнджу; Лю, Лу (01 октября 2013 г.). «Изучение эффективности и полезности методов набора участников качественных исследований, не говорящих по-английски» . Практика опросов . 6 (3). дои : 10.29115/SP-2013-0015 .
- ^ Пак, Хёнджу; Ша, М. Мэнди (01 июня 2014 г.). «Оценка эффективности методов привлечения участников азиатских исследований» . Журнал официальной статистики . 30 (2): 335–354. дои : 10.2478/jos-2014-0020 .
- ^ Ша, Мэнди; Монкада, Дженнифер (01 июня 2017 г.). «Успешные методы привлечения латиноамериканцев и участников исследований» . Практика опросов . 10 (3). дои : 10.29115/SP-2017-0014 .
- ^ Вирджил, М.; Кац, Дж.; Таттл, Д.; Терри, Р.; Грабер, Дж. (2019). «Когнитивное предварительное тестирование модулей американского жилищного обследования 2019 года» . Бюро переписи населения США . Архивировано из оригинала 08 августа 2020 г. Проверено 20 мая 2020 г.
- ^ Чайлдс, Дженнифер; Ша, Мэнди; Пейчева Эмилия. «Когнитивное тестирование последующего интервью с целевым охватом (TCFU)» . Рабочие документы переписи населения . Проверено 4 октября 2023 г.
- ^ «Q-Bank: Оценка вопросов для опросов» . wwwn.cdc.gov . Проверено 5 ноября 2023 г.
- ^ К, Шварц, Лиза. «Американское исследование использования времени: предварительное когнитивное тестирование: Ежемесячный обзор труда: Бюро статистики труда США» . www.bls.gov . Проверено 27 мая 2020 г.
{{cite web}}
: CS1 maint: несколько имен: список авторов ( ссылка ) - ^ «Изучите отчеты агентства — Q-Bank» . wwwn.cdc.gov . Проверено 5 ноября 2023 г.
- ^ Уиллис, Гордон (2 мая 2015 г.). «Практика межкультурного когнитивного интервью» . Общественное мнение Ежеквартально . 79 (С1): 359–395.
- ^ Айзпуруа, Ева (2020). Ша, Мэнди; Гэйбл, Тим (ред.). Методы предварительного тестирования в кросс-культурных исследованиях (глава 7) в разделе «Основная роль языка в опросных исследованиях» . РТИ Пресс. стр. 129–150. doi : 10.3768/rtipress.bk.0023.2004 . ISBN 978-1-934831-23-6 .
- ^ Пак, Хёнджу; Горман, Патрисия; Ша, Мэнди (01 июня 2017 г.). «Изучение влияния практики перед интервью на когнитивные интервью на азиатском языке» . Практика опросов . 10 (3). дои : 10.29115/SP-2017-0019 .
- ^ Jump up to: а б Ша, Мэнди; Пан, Юлин (01 декабря 2013 г.). «Адаптация и улучшение методов управления когнитивным предварительным тестированием инструментов многоязычных опросов» . Практика опросов . 6 (4). дои : 10.29115/SP-2013-0024 .
- ^ Мнеймне, Зейна Нази (25 июля 2018 г.). Ша, Мэнди; Бер, Дороти (ред.). «Исследование чувствительности переведенных вопросов опроса: различия в отзывах респондентов разных типов когнитивных зондов» . Письменный и устный перевод . 10 (специальный выпуск о переводе анкет в кросс-национальных и кросс-культурных исследованиях): 73–88. ISSN 1836-9324 .
- ^ Бойе, Хенни; Уиллис, Гордон (август 2013 г.). «Система отчетности по когнитивному интервьюированию (CIRF)» . Методология . 9 (3): 87–95. дои : 10.1027/1614-2241/a000075 . ISSN 1614-1881 .
- ^ Ша, Мэнди; Чайлдс, Дженнифер Хантер (01 августа 2014 г.). «Применение подхода к управлению проектами для исследовательских проектов, в которых используются качественные методы» . Практика опросов . 7 (4). дои : 10.29115/SP-2014-0021 .