В рамках данной статьи рассматриваются системы оценки знаний, ведь «оценивание знаний является неотъемлемым компонентом образования, так как позволяет судить и улучшать как обучение, так и преподавание» [1]. Более того, «исследования и практический опыт показывают важность оценивания знаний в высшем образовании. Это формирует опыт студентов и оказывает большее влияние на их поведение, чем сами уроки» [2].
В англоязычной литературе использование информационных и коммуникационных технологий (ИКТ) для оценки знаний называют по-разному. Например, в [3] авторы используют термин «оценка с помощью компьютеров» (computer assisted assessment – CAA) что подразумевает: «использование компьютеров для оценивания знаний учащегося». Кроме того имеется такое понятие, как э-оценивание (e-assessment) [4]. В [5] используется термин «computer-based assessment» (CBA), т.е. «оценивание знаний на основе компьютеров».
На сегодняшний день ИКТ-средства могут быть использованы на вступительных экзаменах, в целях предварительной проверки или промежуточной оценки знаний, заключительных экзаменов, а также для самостоятельной оценки знаний [5]. Вне учебных заведений в целях определения уровня знаний тестируемого для последующего приема на работу, для выдачи сертификатов, прав на вождение и т.д.
Использование ИКТ для оценки знаний имеет ряд преимуществ по отношению к письменным экзаменам с использованием бумаги, поэтому развитие средств онлайн оценки знаний имеет очень важное значение с точки зрения педагогики [5]. Появляется возможность исключения человеческого фактора при подсчете итоговых баллов (ошибки при совершении арифметических операций, а также объективность проверяющего), имеется возможность автоматической манипуляции вопросами (изменение порядка вопросов, а также вариантов ответов, можно использовать метод случайного выбора вопросов).
Недостатками использования ИКТ для оценки знаний являются: зависимость от технических средств обеспечения проведения экзамена (наличие и исправность источников электроэнергии, компьютерной техники, средств телекоммуникации и т.д.), зависимость от количества имеющихся компьютеров, необходимость подготовки большого количества вопросов при использовании метода случайного выбора. Также важно рассмотрение вопросов безопасности, зависящих от многих факторов [6].
В целом системы оценки знаний можно поделить на следующие виды: оптические считыватели (optical mark readers – OMR) [5], э-портфолио [5, 7], электронные средства рецензирования (системы основанные на коллегиальной оценке) [8], системы основанные на критериях оценки [7, 9], а также компьютерное тестирование [10, 11]. Кроме того, в последнее время появляются системы оценки знаний, использующие виртуальную реальность, а также искусственный интеллект.
Системы компьютерного тестирования, когда предоставляется вопрос с несколькими вариантами ответов, впервые появились в 1970-х гг. С развитием систем тестирования, кроме простых вопросов, когда надо указать правильный ответ, появились такие виды вопросов, где необходимо переместить объект на нужное место, ввести слово или текст, нарисовать объект и т.д. [3]. Для эффективного использования компьютерного тестирования необходимо заранее приготовить большое количество вопросов. В этих целях в [10] обсуждается исследование, связанное с генерированием случайных вопросов.
В случаях, когда необходимо оценить знания очень большого количества людей (например, при проведении Единого государственного экзамена в Российской Федерации, Общереспубликанского тестирования в Кыргызской Республике и т.д.), требуется значительное использование человеческих, временных и материальных ресурсов. Хорошей альтернативой в данном случае является компьютерное тестирование. Однако в случае использования случайного выбора вопросов при компьютерной оценке знаний у тестируемых может сложиться мнение, что при другом наборе вопросов они могли бы получить более высокий балл.
В связи с этим целью данной работы стало исследование отношения учащихся к случайному выбору вопросов при компьютерном тестировании в высших учебных заведениях.
Материалы и методы исследования
Исследование проводилось с мая 2018 г. по май 2019 г. в виде опроса студентов. В качестве инструмента использовался инструмент «Google forms». Для проведения исследования была подготовлена анкета на русском, кыргызском и турецком языках, состоящая из раздела, включающего вопросы для получения информации о респонденте, а также раздела, содержащего основные вопросы исследования (табл. 1).
Таблица 1
Содержание раздела «Основные вопросы»
Вопрос |
Варианты ответов |
||||
Проходили ли Вы когда-либо компьютерное тестирование? |
– Да – Нет |
||||
Укажите степень Вашего доверия к результатам компьютерного тестирования |
1 Совсем не доверяю |
2 |
3 |
4 |
5 Полностью доверяю |
ПРИМЕР. Допустим, в компьютере имеется 500 вопросов по одной и той же теме. Уровень сложности всех вопросов одинаковый. Во время экзамена компьютер в случайном порядке выбирает 50 вопросов. Таким образом, для каждого студента формируется персональный набор вопросов |
|||||
Пожалуйста, укажите степень Вашего согласия со следующими утверждениями: |
|||||
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше), будет правильно использовать для проведения ПРОМЕЖУТОЧНЫХ экзаменов (модулей) |
1 Совершенно НЕ согласен |
2 |
3 |
4 |
5 Полностью согласен |
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше) будет правильно использовать для проведения ФИНАЛЬНЫХ (итоговых) экзаменов |
1 Совершенно НЕ согласен |
2 |
3 |
4 |
5 Полностью согласен |
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше) будет правильно использовать для проведения ВСТУПИТЕЛЬНЫХ экзаменов |
1 Совершенно НЕ согласен |
2 |
3 |
4 |
5 Полностью согласен |
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше) будет правильно использовать для САМОПРОВЕРКИ (самостоятельной подготовки или обучения) |
1 Совершенно НЕ согласен |
2 |
3 |
4 |
5 Полностью согласен |
Результаты экзамена со случайным выбором вопросов для каждого студента (смотрите пример выше) не будут справедливыми |
1 Совершенно НЕ согласен |
2 |
3 |
4 |
5 Полностью согласен |
Для сравнения уровня знаний тестируемых между собой необязательно им всем давать полностью одинаковый набор вопросов |
1 Совершенно НЕ согласен |
2 |
3 |
4 |
5 Полностью согласен |
Результаты данного опроса полезны для улучшения качества компьютерного тестирования |
1 Совершенно НЕ согласен |
2 |
3 |
4 |
5 Полностью согласен |
Последние 3 вопроса позволили убедиться в осознанности полученных ответов в процессе анкетирования.
Результаты исследования и их обсуждение
В результате проведенного анекетирования были получены данные, показывающие, что чуть более половины респондентов положительно относятся к использованию метода случайного выбора вопросов (промежуточный экзамен – 58,2 %, финальный экзамен 57,7 %, вступительный экзамен 56,4 %). По мере повышения важности экзамена уменьшается количество поддерживающих метод случайного выбора вопросов.
В целях сравнения мнений респондентов в зависимости от общего направления их обучения, был проведен дисперсионный анализ, результаты которого приведены в табл. 2.
Таблица 2
Результаты дисперсионного анализа по определению разницы во мнениях респондентов в зависимости от их направления обучения
df |
F |
Sig. |
Mean difference |
|
Проходили ли Вы когда-либо компьютерное тестирование? |
(2, 1031) |
1.693 |
.184 |
|
Укажите степень Вашего доверия к результатам компьютерного тестирования |
(2, 1031) |
1.023 |
.360 |
|
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше), будет правильно использовать для проведения ПРОМЕЖУТОЧНЫХ экзаменов (модулей) |
(2, 1031) |
9.479 |
.000 |
μeng – μecon = ,248 μeng – μhum = ,394 |
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше) будет правильно использовать для проведения ФИНАЛЬНЫХ (итоговых) экзаменов |
(2, 1031) |
2.723 |
.066 |
|
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше) будет правильно использовать для проведения ВСТУПИТЕЛЬНЫХ экзаменов |
(2, 1031) |
4.650 |
.010 |
μeng – μecon = ,409 μeng – μhum = ,201 |
Экзамен со случайным выбором вопросов для каждого студента (смотрите пример выше) будет правильно использовать для САМОПРОВЕРКИ (самостоятельной подготовки или обучения) |
(2, 1031) |
3.991 |
.019 |
μeng – μhum = ,248 |
Результаты экзамена со случайным выбором вопросов для каждого студента (смотрите пример выше) не будут справедливыми |
(2, 1031) |
2.802 |
.061 |
|
Результаты данного опроса полезны для улучшения качества компьютерного тестирования |
(2, 1031) |
.191 |
.826 |
Примечание. В табл. 1 и 2 значения в столбце, обозначенном «Sig.», указывают на наличие или отсутствие статистически значимой разницы. Так, если значение меньше 0,05, это означает что имеется статистически значимая разница. В противном случае статистически значимой разницы нет.
Согласно табл. 2, респонденты, обучающиеся по инженерным направлениям, чаще указывали положительный ответ на использование метода случайного выбора вопросов в промежуточных и вступительных экзаменах, а также в целях самостоятельной подготовки или самообучения.
Для того чтобы определить, имеется ли разница во мнении респондентов в зависимости от высшего учебного заведения, была проведена проверка, основанная на распределении Стьюдента (t-критерий Стьюдента) (табл. 3).
Таблица 3
Результаты проверки на основе t-критерия Стьюдента
Levene’s Test for Equality of Variances |
t-test for Equality of Means |
|||||||||
F |
Sig. |
t |
df |
Sig. (2-tailed) |
Mean Difference |
Std. Error Difference |
95 % Confidence Interval of the Difference |
|||
Lower |
Upper |
|||||||||
Укажите степень Вашего доверия к результатам компьютерного тестирования |
Equal variances assumed |
.084 |
.772 |
1.198 |
1032 |
.231 |
.135 |
.113 |
-.086 |
.357 |
Equal variances not assumed |
1.210 |
101.450 |
.229 |
.135 |
.112 |
-.087 |
.357 |
|||
Экзамен со случайным выбором вопросов для каждого студента будет правильно использовать для проведения ПРОМЕЖУТОЧНЫХ экзаменов (модулей) |
Equal variances assumed |
.182 |
.670 |
-.135 |
1032 |
.893 |
-.018 |
.136 |
-.284 |
.248 |
Equal variances not assumed |
-.138 |
101.949 |
.891 |
-.018 |
.133 |
-.282 |
.245 |
|||
Экзамен со случайным выбором вопросов для каждого студента будет правильно использовать для проведения ФИНАЛЬНЫХ (итоговых) экзаменов |
Equal variances assumed |
.064 |
.801 |
-1.343 |
1032 |
.180 |
-.199 |
.148 |
-.489 |
.092 |
Equal variances not assumed |
-1.334 |
100.783 |
.185 |
-.199 |
.149 |
-.494 |
.097 |
|||
Экзамен со случайным выбором вопросов для каждого студента будет правильно использовать для проведения ВСТУПИТЕЛЬНЫХ экзаменов |
Equal variances assumed |
.006 |
.936 |
-.739 |
1032 |
.460 |
-.115 |
.156 |
-.422 |
.191 |
Equal variances not assumed |
-.722 |
100.183 |
.472 |
-.115 |
.160 |
-.432 |
.201 |
|||
Экзамен со случайным выбором вопросов для каждого студента будет правильно использовать для САМОПРОВЕРКИ (самостоятельной подготовки или обучения) |
Equal variances assumed |
1.458 |
.227 |
.579 |
1032 |
.563 |
.076 |
.131 |
-.181 |
.332 |
Equal variances not assumed |
.526 |
97.656 |
.600 |
.076 |
.144 |
-.210 |
.361 |
|||
Результаты экзамена со случайным выбором вопросов для каждого студента не будут справедливыми |
Equal variances assumed |
.692 |
.406 |
.294 |
1032 |
.769 |
.046 |
.157 |
-.263 |
.355 |
Equal variances not assumed |
.301 |
102.079 |
.764 |
.046 |
.153 |
-.258 |
.351 |
Как видно из табл. 3, между мнением респондентов, обучающихся в различных высших учебных заведениях, статистически значимой разницы нет.
Заключение
В результате можно сделать следующие выводы по отношению к методу случайного выбора вопросов при компьютерном тестировании:
– Использование данного метода поддерживают в среднем 57,43 % респондентов, в то время как среднее количество не поддерживающих данный метод респондентов составило 21 %.
– Чем важнее экзамен, тем меньше количество поддерживающих метод случайного выбора вопросов и больше тех, кто высказывает отрицательное мнение. Так, выявилась статистически значимая разница в количестве поддержавших вышеуказанный метод на финальных и вступительных экзаменах по сравнению с промежуточными экзаменами.
– Использование данного метода в целях самопроверки, самостоятельной подготовки или обучения поддержало подавляющее большинство респондентов (77.2 %). Только 10,7 % отметили отрицательное отношение в данном случае.
– Отношение респондентов к данному методу не зависит от вуза, в котором они учатся.
– Однако респонденты, обучающиеся по инженерным направлениям, более склонны поддерживать данный метод, по сравнению с респондентами, обучающимися по экономическим и гуманитарным направлениям.
Относительно малое количество поддержавших метод случайного выбора вопросов при компьютерном тестировании среди учащихся по гуманитарным и экономическим направлениям, вероятно, можно объяснить распространенным мнением о том, что нельзя оценить знание человека в данных направлениях науки, используя только тесты, где предоставляется вопрос с несколькими вариантами ответов, из которых необходимо выбрать один или несколько вариантов. Часто знания и навыки человека можно лучше оценить с помощью сочинения, собеседования или практического экзамена. В то же время при оценке знаний по естественнонаучным направлениям использование тестов типа «вопрос – несколько вариантов ответов» имеется больше возможностей обеспечить одинаковую сложность и объективность результатов тестирования.
Опираясь на результаты данного исследования авторы считают, что в вузах с естественнонаучным уклоном имеет смысл организовать центр тестирования для автоматизации оценки знаний учащихся с помощью компьютерного тестирования. Однако по гуманитарным и другим направлениям, возможно, следует подождать появления более продвинутых систем оценки знаний, использующих искусственный интеллект с возможностью анализа и понимания человеческой речи, оценки сочинений и т.д.