Jump to content

Когнитивное предварительное тестирование

Когнитивное предварительное тестирование , или когнитивное интервью , — это метод полевого исследования , при котором собираются данные о том, как испытуемый отвечает на вопросы интервью. Это оценка теста или анкеты перед его проведением. [1] Он позволяет исследователям опросов собирать отзывы об ответах на опрос и используется для оценки того, измеряет ли вопрос ту конструкцию, которую намеревается использовать исследователь. Собранные данные затем используются для корректировки проблемных вопросов в анкете перед тем, как опрос будет проведен среди всей выборки людей. [2] [3] [4] [5] [6]

Когнитивное интервью обычно собирает от участников следующую информацию: оценки того, как испытуемый построил свои ответы; объяснения того, что субъект интерпретирует вопросы; сообщение о любых трудностях, с которыми субъект столкнулся при ответе на вопросы; и все остальное, что раскрывает обстоятельства ответов субъекта.

Когнитивное предварительное тестирование считается важным для проверки достоверности интервью, теста или анкеты. [7]

Целью этих предварительных испытаний является:

  • убедитесь, что тест или собеседование понятны
  • решить любые проблемы, которые могли возникнуть у участников во время теста
  • измерять внимание участников и их любопытство к вопросам
  • измерить шкалу ответов (например: используется ли вся шкала или ответы слишком сильно различаются)
  • оценить порядок вопросов и другие эффекты контекста
  • проблемы с интервьюерами
  • устранить любые технические проблемы с тестом (например, сбои в работе какой-либо технологии или грамматические ошибки)
  • и сколько времени потребуется, чтобы пройти тест или собеседование. [1] [4] [6]

В целом при проведении когнитивного предварительного теста практикуется множество методов. В том числе: традиционное предварительное тестирование, когнитивное интервью, кодирование поведения, разбор полетов респондентов, групповое обсуждение, экспертная оценка, отслеживание глаз и веб-зондирование. [1]

Традиционное предварительное тестирование . Это похоже на репетицию, во время которой пытаются имитировать и моделировать то, на что будет похоже настоящее тестирование или собеседование. Имитация реального теста или собеседования, которое происходит до настоящего. Какой бы метод ни использовался в реальном собеседовании или тесте, он должен использоваться и в этом методе предварительного тестирования. [1] [8]

Когнитивное претестирование (когнитивное интервью) – очень похоже на обычное претестирование. Однако участникам активно задают вопросы во время прохождения теста. Проводится во время собеседования или теста. [1] [6]

Их также можно представить разными способами, включая письменные опросы, устные опросы, электронные опросы. [4]

Существуют определенные методы, которые интервьюер применяет при когнитивном предварительном тестировании для извлечения информации, необходимой для обеспечения хорошего интервью или анкеты.

Техника «мысли вслух». Это происходит, когда интервьюер просит интервьюируемого озвучить свои мысли и то, как они пришли к своему ответу. Это может быть одновременно (во время) или ретроспективно (после) собеседования. [1] [2]

Техника зондирования . Это происходит, когда интервьюер задает интервьюируемому один или несколько дополнительных вопросов. Они «исследуют» задаваемые вопросы, используемую терминологию и даже ответы. [1] [2] Зонды могут быть одновременными (во время выполнения задачи, но не нарушающими ее выполнение) или ретроспективными (после выполнения задачи). [9]

Перефразирование – это происходит, когда интервьюер просит интервьюируемого использовать свои слова, чтобы повторить вопрос. Это тест, чтобы убедиться, что вопросы понятны. [1]

Рейтинг уверенности . Это происходит, когда интервьюер спрашивает интервьюируемого о его уверенности в том, насколько правильно он ответил на вопрос. [1]

Сортировка или сортировка карточек . Это происходит, когда интервьюер спрашивает интервьюируемого или пытается понять, как интервьюируемый классифицирует определенные ситуации или даже термины. [1] [9]

Виньетки – это краткие описания одного или нескольких гипотетических персонажей (похожие на виньетки, используемые в психологических и социологических экспериментах или закрепляющие виньетки в исследованиях количественного опроса), которые используются для изучения когнитивных процессов респондента в отношении их решений, важных для опроса. [9] [10]

Веб-зондирование. Этот метод реализует методы когнитивного интервьюирования в веб-опросах. Его сильные стороны включают стандартизацию, анонимность, а также большой и быстрый охват, поскольку управление осуществляется через Интернет. Тем не менее, веб-зонды могут охватывать только онлайн-группы населения, наблюдается отсутствие ответов на зонды, а недостаточные ответы на зонды с точки зрения содержания не могут быть отслежены. [11] [12]

Участники и набор

[ редактировать ]

Размер выборки — очень важная тема в предварительном тестировании. Небольшие выборки из 5–15 участников являются обычным явлением. Хотя некоторые исследователи предполагают, что лучше всего, если размер выборки будет составлять не менее 30 человек, а лучше всегда больше, [13] В настоящее время лучшая практика заключается в том, чтобы проводить исследования в несколько раундов для повторного тестирования изменений. Например, при предварительном тестировании анкеты полезнее провести 3 тура по 9 участников, чем 1 тур по 27 участников. [9]

Существует два разных метода информирования участников об анкете: участие в предварительном тестировании и необъявленное предварительное тестирование. [4]

  • Участвуя в предварительных тестах, убедитесь, что участники знают, что тест, который они проходят, — это всего лишь тренировка. Это используется в основном в технике зондирования и размышления вслух или когнитивного предварительного тестирования и интервьюирования. [4]
  • Необъявленные предварительные тесты — это тесты, в которых участники не знают, что это тренировочный забег. Это больше всего похоже на обычное предварительное тестирование. Если в исследовании проводится более одного предварительного тестирования, рекомендуется, чтобы сначала участвовало предварительное тестирование, а затем необъявленное второе. [4] [6]

Межкультурные исследования

[ редактировать ]

Недавние исследования рекомендуют при проведении когнитивных интервью на языках, отличных от английского, не ограничивать выборку и набор людей, не говорящих по-английски и говорящих на одном языке, что было обычной практикой исследователей опросов. [14] [15] При наборе труднодоступных респондентов и характеристик респондентов посредством целенаправленной выборки, набор на основе сообщества (сарафанное радио, поддержка лидеров сообщества) работает лучше, чем реклама. [16] [17] [18]

Использование исследователями опросов

[ редактировать ]

Когнитивное интервью регулярно практикуется федеральными агентствами США, в том числе Бюро переписи населения . [19] [20] Национальный центр статистики здравоохранения (NCHS), [21] и Бюро статистики труда . [22] NCHS ведет базу данных американских и международных агентств, которые проводили проекты когнитивных интервью и предоставили отчеты в свое хранилище, таких как Национальный научный фонд и GESIS – Институт социальных наук Лейбница . [23]

Межкультурное когнитивное интервью практикуется для оценки эквивалентности вопросов опроса и источников трудностей, а также для устранения проблем, связанных с переводом. [24] [25] Из-за различий в стилях общения и культурных нормах в настройке протокола необходима адаптация. [26] и дизайн, [27] использование виньеток, [10] и словесное зондирование. [28]

Стандарты

[ редактировать ]

США В октябре 2016 года Управление управления и бюджета (OMB) выпустило Приложение № 2 к Директиве о статистической политике: Стандарты и рекомендации для когнитивных интервью, которое включало семь стандартов когнитивных интервью, проводимых федеральными исследованиями США или для них. [1] Еще одним стандартом, предложенным исследователями, является система отчетности по когнитивным интервью (CIRF), которая применяет контрольный список из 10 категорий, чтобы прояснить, что было сделано во время когнитивных интервью и как были сделаны выводы на основе процедур и результатов этих интервью. [29] Кроме того, при проведении исследований с использованием когнитивного интервью рекомендуется подход к управлению проектами. [30] Для переведенных опросов необходимо адаптировать методы когнитивного интервьюирования, отбор и набор участников, а также подход к управлению проектами, чтобы повысить их пригодность для использования. [27]

  1. ^ Jump up to: а б с д и ж г час я дж Ленцнер, Тимо; Нойерт, Корнелия; Отто, Ванда (2016). «Когнитивное предварительное тестирование». Рекомендации по опросу Хисса . doi : 10.15465/gesis-sg_en_010 .
  2. ^ Jump up to: а б с Тилли, Барбара С.; ЛаПель, Нэнси Р.; Гетц, Кристофер Г.; Стеббинс, Гленн Т. (2014). «Использование когнитивного предварительного тестирования при разработке шкалы болезни Паркинсона: пример Единой шкалы оценки болезни Паркинсона (MDS-UPDRS) Общества двигательных расстройств» . Журнал болезни Паркинсона . 4 (3): 395–404. дои : 10.3233/JPD-130310 . ISSN   1877-7171 . ПМК   5086096 . ПМИД   24613868 .
  3. ^ «Предварительное тестирование – Руководство по межкультурному опросу» . ccsg.isr.umich.edu . Проверено 18 июля 2020 г.
  4. ^ Jump up to: а б с д и ж «Письмо@ЧГУ» . написание.colostate.edu . Проверено 18 июля 2020 г.
  5. ^ Гримм, Памела (2010), «Предварительное тестирование анкеты», Международная энциклопедия маркетинга Wiley , Американское онкологическое общество, номер документа : 10.1002/9781444316568.wiem02051 , ISBN  978-1-4443-1656-8
  6. ^ Jump up to: а б с д Бабонея, Алина-Михаэла; Войку, Мирела-Кристина (апрель 2011 г.). «Предварительное тестирование анкет в маркетинговых исследованиях» . Вызовы общества знаний . 1 . Румыния: Издательство Университета Николае Титулеску: 1323–1330. ISSN   2068-7796 .
  7. ^ «ГЕСИС – Институт социальных наук Лейбница» . www.gesis.org . Проверено 18 июля 2020 г.
  8. ^ Ху, Шу (2014), «Предварительное тестирование», Михалос, Алекс К. (редактор), Энциклопедия исследований качества жизни и благополучия , Дордрехт: Springer Нидерланды, стр. 5048–5052, doi : 10.1007/978- 94-007-0753-5_2256 , ISBN  978-94-007-0753-5
  9. ^ Jump up to: а б с д Уиллис, Гордон (2005). Когнитивное интервью: инструмент для улучшения дизайна анкеты . Мудрец. п. 146. ИСБН  9780761928041 .
  10. ^ Jump up to: а б Ша, Мэнди (01 августа 2016 г.). «Использование эпизодов при оценке пунктов анкеты по азиатскому языку» . Практика опросов . 9 (3). дои : 10.29115/SP-2016-0013 .
  11. ^ «Веб-зондирование» . GESIS – Институт социальных наук Лейбница . Проверено 24 октября 2023 г.
  12. ^ Фаулер, Стефани; Б. Уиллис, Гордон (02 января 2020 г.), Битти, Пол; Коллинз, Дебби; Кэй, Лин; Падилья, Хосе Луис (ред.), «Практика когнитивного интервью посредством веб-зондирования» , «Достижения в области дизайна, разработки, оценки и тестирования анкет» (1-е изд.), Wiley, стр. 451–469, номер документа : 10.1002/9781119263685. глава 18 , ISBN  978-1-119-26362-3 , получено 24 октября 2023 г.
  13. ^ Пернегер, Томас В.; Курвуазье, Дельфин С.; Хадельсон, Патрисия М.; Гайе-Ажерон, Анжель (01 января 2015 г.). «Объем выборки для предварительного тестирования анкет» . Исследование качества жизни . 24 (1): 147–151. дои : 10.1007/s11136-014-0752-2 . ISSN   1573-2649 . ПМИД   25008261 . S2CID   22314144 .
  14. ^ Пак, Хёнджу; Ша, М. Мэнди; Уиллис, Гордон (ноябрь 2016 г.). «Влияние владения английским языком на когнитивную обработку вопросов опроса» . Полевые методы . 28 (4): 415–430. дои : 10.1177/1525822X16630262 . ISSN   1525-822X .
  15. ^ Горман, Патрисия Л.; Мейерс, Микелин; Ша, Мэнди (12 октября 2018 г.), Джонсон, Тимоти П.; Пеннелл, Бет-Эллен; Ступ, Инеке А.Л.; Дорер, Брита (ред.), «Работа над сопоставимым значением различных языковых версий инструментов опроса: помогают ли одноязычные и двуязычные респонденты когнитивного тестирования раскрыть одни и те же проблемы?» , Достижения в методах сравнительного исследования (1-е изд.), Wiley, стр. 251–269, doi : 10.1002/9781118884997.ch12 , ISBN  978-1-118-88498-0 , получено 24 октября 2023 г.
  16. ^ Ша, М. Мэнди; Пак, Хёнджу; Лю, Лу (01 октября 2013 г.). «Изучение эффективности и полезности методов набора участников качественных исследований, не говорящих по-английски» . Практика опросов . 6 (3). дои : 10.29115/SP-2013-0015 .
  17. ^ Пак, Хёнджу; Ша, М. Мэнди (01 июня 2014 г.). «Оценка эффективности методов привлечения участников азиатских исследований» . Журнал официальной статистики . 30 (2): 335–354. дои : 10.2478/jos-2014-0020 .
  18. ^ Ша, Мэнди; Монкада, Дженнифер (01 июня 2017 г.). «Успешные методы привлечения латиноамериканцев и участников исследований» . Практика опросов . 10 (3). дои : 10.29115/SP-2017-0014 .
  19. ^ Вирджил, М.; Кац, Дж.; Таттл, Д.; Терри, Р.; Грабер, Дж. (2019). «Когнитивное предварительное тестирование модулей американского жилищного обследования 2019 года» . Бюро переписи населения США . Архивировано из оригинала 08 августа 2020 г. Проверено 20 мая 2020 г.
  20. ^ Чайлдс, Дженнифер; Ша, Мэнди; Пейчева Эмилия. «Когнитивное тестирование последующего интервью с целевым охватом (TCFU)» . Рабочие документы переписи населения . Проверено 4 октября 2023 г.
  21. ^ «Q-Bank: Оценка вопросов для опросов» . wwwn.cdc.gov . Проверено 5 ноября 2023 г.
  22. ^ К, Шварц, Лиза. «Американское исследование использования времени: предварительное когнитивное тестирование: Ежемесячный обзор труда: Бюро статистики труда США» . www.bls.gov . Проверено 27 мая 2020 г. {{cite web}}: CS1 maint: несколько имен: список авторов ( ссылка )
  23. ^ «Изучите отчеты агентства — Q-Bank» . wwwn.cdc.gov . Проверено 5 ноября 2023 г.
  24. ^ Уиллис, Гордон (2 мая 2015 г.). «Практика межкультурного когнитивного интервью» . Общественное мнение Ежеквартально . 79 (С1): 359–395.
  25. ^ Айзпуруа, Ева (2020). Ша, Мэнди; Гэйбл, Тим (ред.). Методы предварительного тестирования в кросс-культурных исследованиях (глава 7) в разделе «Основная роль языка в опросных исследованиях» . РТИ Пресс. стр. 129–150. doi : 10.3768/rtipress.bk.0023.2004 . ISBN  978-1-934831-23-6 .
  26. ^ Пак, Хёнджу; Горман, Патрисия; Ша, Мэнди (01 июня 2017 г.). «Изучение влияния практики перед интервью на когнитивные интервью на азиатском языке» . Практика опросов . 10 (3). дои : 10.29115/SP-2017-0019 .
  27. ^ Jump up to: а б Ша, Мэнди; Пан, Юлин (01 декабря 2013 г.). «Адаптация и улучшение методов управления когнитивным предварительным тестированием инструментов многоязычных опросов» . Практика опросов . 6 (4). дои : 10.29115/SP-2013-0024 .
  28. ^ Мнеймне, Зейна Нази (25 июля 2018 г.). Ша, Мэнди; Бер, Дороти (ред.). «Исследование чувствительности переведенных вопросов опроса: различия в отзывах респондентов разных типов когнитивных зондов» . Письменный и устный перевод . 10 (специальный выпуск о переводе анкет в кросс-национальных и кросс-культурных исследованиях): 73–88. ISSN   1836-9324 .
  29. ^ Бойе, Хенни; Уиллис, Гордон (август 2013 г.). «Система отчетности по когнитивному интервьюированию (CIRF)» . Методология . 9 (3): 87–95. дои : 10.1027/1614-2241/a000075 . ISSN   1614-1881 .
  30. ^ Ша, Мэнди; Чайлдс, Дженнифер Хантер (01 августа 2014 г.). «Применение подхода к управлению проектами для исследовательских проектов, в которых используются качественные методы» . Практика опросов . 7 (4). дои : 10.29115/SP-2014-0021 .
Arc.Ask3.Ru: конец переведенного документа.
Arc.Ask3.Ru
Номер скриншота №: d13826bb55bdd68f7334a058eb57694c__1708307340
URL1:https://arc.ask3.ru/arc/aa/d1/4c/d13826bb55bdd68f7334a058eb57694c.html
Заголовок, (Title) документа по адресу, URL1:
Cognitive pretesting - Wikipedia
Данный printscreen веб страницы (снимок веб страницы, скриншот веб страницы), визуально-программная копия документа расположенного по адресу URL1 и сохраненная в файл, имеет: квалифицированную, усовершенствованную (подтверждены: метки времени, валидность сертификата), открепленную ЭЦП (приложена к данному файлу), что может быть использовано для подтверждения содержания и факта существования документа в этот момент времени. Права на данный скриншот принадлежат администрации Ask3.ru, использование в качестве доказательства только с письменного разрешения правообладателя скриншота. Администрация Ask3.ru не несет ответственности за информацию размещенную на данном скриншоте. Права на прочие зарегистрированные элементы любого права, изображенные на снимках принадлежат их владельцам. Качество перевода предоставляется как есть. Любые претензии, иски не могут быть предъявлены. Если вы не согласны с любым пунктом перечисленным выше, вы не можете использовать данный сайт и информация размещенную на нем (сайте/странице), немедленно покиньте данный сайт. В случае нарушения любого пункта перечисленного выше, штраф 55! (Пятьдесят пять факториал, Денежную единицу (имеющую самостоятельную стоимость) можете выбрать самостоятельно, выплаичвается товарами в течение 7 дней с момента нарушения.)