Что такое адаптивное тестирование
Адаптивное тестирование (adaptive testing) — технология тестирования слушателей, где каждый следующий вопрос подбирается автоматически, исходя из данных ответов на предыдущие вопросы и определенного заранее уровня сложности.Главным отличием адаптивного тестирования от классических тестов является динамическое (в реальном времени), а не статическое определение списка вопросов, которые будут заданы тестируемому. Траектория, по которой обучаемый проходит тесты, индивидуальна. Выбор очередного вопроса определяется персональными особенностями каждого отдельного слушателя, а не общими правилами.
Ближайшая аналогия — устный экзамен, где преподаватель последовательно задает вопросы, выясняя уровень знаний слушателя.
Преимущества адаптивного тестирования
ТочностьВозможность оценить уровень подготовленности каждого испытуемого с минимальной ошибкой измерения
Качество
Измеряется именно уровень знаний испытуемого, а не просто оценивается их средний уровень
Достоверность
Влияние дополнительных факторов (потеря интереса, отвлечение, утомление, беспокойство) на результаты теста уменьшается, поскольку тестируемые не тратят время и силы на задания, не соответствующие их уровню подготовки (слишком легкие или слишком трудные)
Вовлеченность
Участники тестирования более мотивированы и спокойны (участникам предлагаются задания, с которыми они в состоянии справиться и которые им интересны, а значит они более нацелены на успешное окончание и уверены в своих силах)
Адаптивное тестирование наиболее эффективно использовать при решении следующих задач:
• самопроверка слушателей
• быстрое и точное измерение результатов корпоративного обучения
• прогнозирование результатов обучения через предварительное тестирование
• предварительное тестирование с целью выявления «белых пятен» и корректировки программы курса
• предварительное тестирование с целью разделения учащихся на группы - по уровням подготовки
Методические аспекты разработки и проведения адаптивного тестирования
Разработка вопросов теста
Банк вопросов
Все вопросы, из которых будет составлен индивидуальный список вопросов для каждого участника тестирования. Минимальный размер банка вопросов рекомендуется определять по следующей формуле:Банк вопросов = 15 х количество тем (тематических блоков теста). Например, если вопросы теста разделены на 3—5 тем, то рекомендуемый размер банка вопросов — 45—75 вопросов.
Число вопросов в индивидуальном тесте
Число вопросов в индивидуальном тесте определяется общим числом вопросов, задаваемых участнику тестирования. Оптимальное число вопросов теста рекомендуется рассчитывать по формуле:Общее число вопросов = 5 х количество тем (тематических блоков теста).
Т. о. в итоговом тесте участнику по каждой теме задается не менее 5 вопросов. Например, если вопросы теста разделены на 4 темы, то рекомендуемая длительность теста — 20 вопросов.
В противном случае адаптивному алгоритму может не хватить вопросов для достаточно достоверного определения уровня знания темы.
Типы вопросов
• С выбором одного• С выбором нескольких
• На соответствие правильного варианта правильных вариантов упорядочивание ответа ответа (multi choice)
• С вводом текстового ответа (где ответ — это число, слово, недвусмысленная фраза (словосочетание), возможные для автоматической проверки)
Вариабильность ответов тестов:
• Для автоматической проверки ответов на тесты каждый вопрос должен иметь по крайней мере один вариант правильного ответа. Если вопрос содержит ровно один вариант ответа и этот вариант ответа правильный, то такой вопрос определяется как вопрос с открытым ответом
• Правильных ответов в вопросе может быть любое количество более одного. Если вопрос содержит более одного варианта ответа и ровно один правильный, то такой вопрос определяется как вопрос с выбором одного варианта ответа. Если вопрос содержит более одного правильного варианта ответа, то такой вопрос определяется как вопрос с выбором нескольких вариантов ответа
• Все варианты ответа также могут быть одновременно правильными. Т. е. вопрос может вообще не содержать ни одного неправильного варианта ответа Уровни сложности
Вопросы в Банке вопросов ранжируются по единым для всех тем уровням сложности. Количество уровней — не менее 3, оптимально — от 5 до 10. Наличие большого числа уровней сложности (например, 10) позволит более точно распределить вопросы по шкале сложности после начала тестирования и обеспечить более высокую точность итоговой оценки уровня знаний.
Внутри каждой темы (тематического блока) рекомендуется иметь вопросы разного уровня сложности, т. к. это прямо влияет на вариативность теста и адаптивные возможности технологии.
Внутри каждой темы лучше распределить вопросы группами не менее трех вопросов на каждом уровне.
Чем больше вопросов на одном уровне сложности, тем больше вариативность теста, что важно для повторного прохождения или тестирования людей, которые могут помогать друг другу.
Варианты распределения
Равномерное распределение
Рекомендуется иметь не менее 10 вопросов каждого уровня сложности влияет на вариативность теста и адаптивные возможности технологии.Внутри каждой темы лучше распределить вопросы группами не менее трех вопросов на каждом уровне.
Чем больше вопросов на одном уровне сложности, тем больше вариативность теста, что важно для повторного прохождения или тестирования людей, которые могут помогать друг другу.
«Пирамида»
Допускается коррекция количества вопросов в форме «пирамиды», когда более сложных вопросов несколько меньше, чем простых (т. к. до сложных доходят гораздо реже).В этом случае рекомендуется следующее соотношение: не менее 6 вопросов высших уровней сложности (9—10), не менее 8 вопросов средних уровней сложности (7—8) и не менее 10 вопросов низших уровней сложности (1—6)
Автоматическое распределение
Возможно автоматическое распределение вопросов по уровням сложности. Для этого проводится первичное тестирование (на выборке участников), и степень сложности вопросов определяется в соответствии с ответами участников. Вопросы, набравшие большинство правильных ответов, считаются самыми простыми, а вопросы с наименьшим числом правильных ответов — самыми сложнымиТраектории тестирования
Траектории тестирования позволяют определить наиболее вероятные пути прохождения тестирования в разных контекстах.Например, в контексте перехода между уровнями сложности они помогают определить вопросы, в наибольшей степени влияющие на процесс тестирования (тестируемые «скорее справятся» на шаге N с вопросом уровня сложности X или, наоборот, испытают трудности с вопросом этого уровня сложности).
Результаты адаптивного тестирования и их трактовка
Данные результаты полезны в первую очередь для улучшения качества учебных материалов. Заказчик может персонализировать учебную программу для каждой группы слушателей — на основе тех пробелов в знаниях, которые были обнаружены в ходе тестирования. Слушатели могут непосредственно в процессе тестирования провести самопроверку и восполнить выявленные пробелы (постепенно — от простого к сложному)
Коррекция адаптивного теста на основании аналитики
Частотный анализ результатов
Позволяет внести корректировку в распределение вопросов по уровням сложности в сбалансированной модели на основе анализа распределения ответов участников (определить аномально сложные или простые вопросы на уровнях сложности и получить рекомендацию, в какой уровень сложности стоит перенести данные вопросы)Прогноз результатов обучения
Статистический анализ результатов адаптивного теста проводится исходя из количества попыток пройти тест и среднего результата, достигнутого за время всех попытокИнструменты разработчика адаптивных тестов
Qualtricks• Можно задать логику опроса
• Система статистики
• Идеально для опроса на нескольких языках
Google Forms
• Результаты сохраняются сразу в таблицу
• Прост в работе
• Быстрый и доступный
Typeform
• Стильный дизайн
• Богатый функционал
Doodle
• Инструмент планирования встреч
• Нужен для сопоставления ответов