Предметные результаты студентов в цифровой среде университета на разных уровнях высшего образования: так кто же более успешен?

598

Аннотация

Отмечается, что проблема эмпирической оценки различных аспектов обучения в цифровом образовательном пространстве приобретает особую актуальность.В то же время подчеркивается, что существует дефицит сравнительных исследований образовательных результатов студентов на разных уровнях высшего образования, завершивших электронные курсы.Представлены результаты исследования, проведенного на выборке объема N=424 студентов (обучающиеся в Московском государственном психолого- педагогическом университете).Предметом работы были непосредственные и отдаленные образовательные результаты студентов двух уровней высшего образования, завершивших электронные курсы.Целью проведенного исследования было оценить различия в образовательных результатах студентов магистратуры и программ второго высшего образования, с одной стороны, и студентов бакалавриата и специалитета программ первого высшего образования — с другой.Сравнительный анализ результатов показал следующее: 1) различий между двумя категориями студентов в результатах входного теста, итогового теста и общей оценке за электронный курс не выявлено; 2) обнаружена одна и та же тенденция у студентов обеих категорий: на входе результаты по тесту достижений низкие, на выходе они достоверно и сильно возрастают, а затем через 1,5—4 месяца достоверно снижаются, оставаясь при этом достоверно выше входных результатов.При этом отдаленные результаты сильно рассеяны по сравнению с непосредственными; 3) размер эффекта и индекс улучшения достоверны для итогового теста с учетом результатов входного теста без поправки на кластеризацию, т.е.игнорируя тот факт, что выборка состоит из нескольких студенческих групп.Медианный студент программ магистратуры и второго высшего образования имел бы более высокий результат, чем медианный студент в группе первого высшего.Размер эффекта с коррекцией на кластеризацию статистически не значим.Размер эффекта для общей оценки за электронный курс с учетом входного теста также не достоверен; 4) отдаленные результаты обеих категорий студентов не различаются.Размеры эффекта по отдаленным результатам с учетом как итогового теста, так и с учетом входного теста недостоверны; 5) психометрические характеристики теста достижений в области количественного анализа эмпирических данных можно считать удовлетворительными.

Общая информация

Ключевые слова: смешанное обучение, перевернутый класс, электронный курс, массовый открытый онлайн курс (МООК), цифровые технологии в образовании, цифровая среда университета, образовательные результаты, отдаленные результаты, размер эффекта, индекс улучшения

Рубрика издания: Психология образования

DOI: https://doi.org/10.17759/pse.2021260105

Финансирование. Работа выполнена при финансовой поддержке ФГБОУ ВО «Московский государственный психолого-педагогический университет» в рамках научно-исследовательского проекта «Цифровые технологии в высшем образовании: разработка технологии индивидуализации обучения средствами электронных учебных курсов».

Для цитаты: Сорокова М.Г. Предметные результаты студентов в цифровой среде университета на разных уровнях высшего образования: так кто же более успешен? // Психологическая наука и образование. 2021. Том 26. № 1. С. 76–91. DOI: 10.17759/pse.2021260105

Подкаст

Полный текст

Введение

В настоящее время процессы цифрови­зации образования приобрели глобальный характер. Благодаря современным цифровым технологиям университеты всего мира взаимодействуют по сетевой форме, разрабатывают собственные электронные курсы и используют онлайн-курсы других вузов,повышая доступность и качество образования.

Характеризуя современные тенденции в образовании, английский исследователь Б. Уи­льямсон [22] говорит о влиянии «цифрового капитализма» или «капитализма наблюдения», представленного платформами онлайн-управления образовательными программами, платформами цифрового обучения и интенсивно использующего аналитику данных для реализации своих стратегических                      бизнес-приоритетов, на ландшафт высшего образования. По его мнению, эти формы цифрового капитализма согласуются с существующими политическими требованиями, предъявляемыми к университетам, чтобы они стали более способными к управлению на основе больших данных (more data-driven), конкурентоспособными и ориентированными на рынок. П. Принслоо [17] в рецензии на книгу Уильямсона приводит его точку зрения на роль больших данных в образовании: они показывают, как «программное обеспечение и цифровые данные становятся неотъемлемой частью способов управления образовательными учреждениями, как осуществляется практика преподавателей, как формируются образовательные политики, как реализуются преподавание и обучение и как проводятся исследования в образовании» [17, с. 183].

В России онлайн-образование одно из приоритетных направлений государственной политики. Государственная программа Российской Федерации «Развитие образования» на 2018—2025 годы включает реализацию федерального проекта «Цифровая образовательная среда». Проект нацелен на «создание условий для внедрения к 2024 году современной и безопасной цифровой образовательной среды, обеспечивающей формирование ценности к саморазвитию и самообразованию у обучающихся образовательных организаций всех видов и уровней, путем обновления информационно-коммуникационной инфраструктуры, подготовки кадров, создания федеральной цифровой платформы» [1].

Университеты, которые хотят быть мощными образовательными кластерами, должны готовить интерактивные курсы с элементами дистанционного обучения [7]. Современная парадигма образования предполагает создание смарт-университетов с целью предоставления возможности каждому студенту построить индивидуальный профиль компетенций, с которыми он выйдет на рынок труда в условиях цифровой экономики и будет там востребован [2]. И даже внешние условия, связанные с форс-мажорными обстоятельствами распространения пандемий вирусных инфекций, вынуждают университеты в кратчайшие сроки полностью переходить на дистанционные форматы обучения. Таким образом, проблема эмпирической оценки различных аспектов обучения в цифровом образовательном пространстве приобретает особую актуальность.

Обзор предшествующих исследований

В зарубежных исследованиях активно обсуждаются различные аспекты цифровизации образования. Одним из важнейших вопросов является оценка влияния смешанного обучения и модели «перевернутый класс» на образовательные результаты студентов. В статье А.А. Марголиса [3] охарактеризованы различные модели смешанного обучения и представлен обзор зарубежных исследований его эффективности в общем образовании по сравнению с традиционно-очным и дистанционным. Результаты неоднозначны: ряд исследований подтверждают его преимущества, другие не подтверждают, дизайн исследований также подвергается критике. При этом под смешанным обучением понимается сочетание очного обучения с цифровыми и онлайн-форматами.

В настоящее время одним из наиболее популярных подходов в смешанном обучении является модель «перевернутый класс», предполагающая сочетание внеклассной самостоятельной подготовки студентов с помощью видеозаписей лекций и разнообразных онлайн учебных материалов с очными сессиями, направленными на актуализацию самостоятельно изученного контента и развитие желаемых компетенций с помощью интерактивных видов деятельности [3]. Целый ряд эмпирических исследований, главным образом зарубежных, посвящены оценке эффективности ее применения в высшем образовании в различных аспектах при изучении разнообразных курсов, например, английского языка [9], физиотерапии [19], менеджмента [18].

В работе [10] исследовались самоэффек­тивность, автономия и учебная нагрузка, а также отдаленные образовательные результаты студентов, изучавших курс гематологии и онкологии по модели «перевернутый класс», по сравнению с традиционно-очным обучением. Различий в учебной нагрузке и в показателях автономии не выявлено, самоэффективность студентов в «перевернутых классах» была достоверно выше, а время на подготовку к экзамену значимо меньше. Через 10 месяцев после курса отдаленные результаты и самоэф­фективность не показали различий.

В исследовании [16] подчеркивается важность категоризации оценочных заданий в соответствии с таксономией Блума для оценки эффекта «перевернутого класса». Было показано, что образовательные результаты студентов, изучающих анатомию в «перевернутом классе», достоверно лучше, чем учащихся в традиционно-очном подходе, при выполнении заданий, требующих более высокого уровня познания анализа, и нет различий в результатах заданий, требующих более низкого уровня познания знания или их применения.

В структуру электронных курсов входят разные виды оценивания, и с этой точки зрения интересны результаты исследования [13] мотивов использования студентами формирующих оценочных онлайн-материалов (ФОМ) для подготовки к итоговому оцениванию. Формирующие оценки предназначены для предоставления обратной связи об успеваемости обучающихся для улучшения и ускорения обучения. Выявленные мотивы использования ФОМ это сбор информации, получение обратной или прямой связи. Основными причинами отказа от использования ФОМ были нехватка времени и выполнение заданий ранее, но они также могут быть связаны с самими студентами, преподавателями или модой.

В аналитическом обзоре преимуществ и недостатков модели «перевернутый класс» [8] показано, что наиболее часто сообщаемым преимуществом этой модели является улучшение успеваемости учащихся. Большинство проблем этой модели связано с внеаудитор­ной деятельностью, например, неадекватной подготовкой учащихся к очным занятиям.

Весьма интересное исследование эффективности модели «перевернутого обучения» на основе массовых открытых онлайн-курсов (МООК) [21] показывает, что студенты в «перевернутом классе» на основе МООК в среднем показали лучшие образовательные результаты по курсу неорганической химии, чем в традиционном классе. Кроме того, большинство студентов «перевернутого класса» получили благоприятный опыт с точки зрения взаимодействия со студентами группы, доступности учебных материалов и результатов активного обучения. Авторы обсуждают возможности использования общих МООК в традиционном университетском обучении.

В нашем пилотном эмпирическом исследовании [6] возможностей электронного учебного курса «Математические методы в психологии» как цифрового образовательного ресурса смешанного обучения по модели «перевернутый класс» подтверждена достоверная связь между положительной оценкой студентами своих образовательных достижений и их позитивным отношением к новому формату. Образовательные результаты студентов после прохождения электронного курса статистически значимо улучшились. Результаты студентов в группе смешанного обучения в формате электронного курса на выходе в среднем достоверно выше, чем в группе традиционно-очного обучения. Сравнительный анализ мнений об опыте обучения в электронном курсе студентов магистратуры и программ второго высшего образования, с одной стороны, и студентов программ первого высшего образования, с другой, проведен нами в [5].

Особый интерес и ценность представляют результаты метаанализа, проведенного авторами статей [11; 12; 14], так как в них анализировались не только научные источники, но также электронные базы данных, предоставленные их авторами или хранящиеся в репо­зиториях данных.

В метаанализе [11], направленном на проверку эффективности модели «перевернутый класс» по сравнению с традиционным подходом в медицинском образовании, эта модель оценена как многообещающий подход к обучению для повышения мотивации и заинтересованности учащихся. Однако влияние «перевернутого класса» на изменения в знаниях и навыках было менее убедительным, поскольку размеры эффекта варьировались от d=-0,27 до 1,21 с медианой 0,08. Различное направление и модуль размера эффекта свидетельствовали об отсутствии убедительных доказательств эффективности «перевернутого класса» в отношении приобретенных знаний сверх традиционных методов обучения. Подчеркивается необходимость дальнейших исследований долгосрочного влияния этой модели в отношении сохранения знаний и передачи знаний в профессиональную практику и уход за пациентами. Другой метаанализ сравнительных исследований, проведенный в [14], показал общий статистически значимый эффект в пользу модели «перевернутый класс» по сравнению с традиционным подходом для обучения профессиям из области медицины и здравоохранения. Акцент был сделан на исследованиях, где студентам предоставлялись видеолекции перед очными сессиями. При этом также рассчитывались размеры эффекта, анализировались возможные модераторы и систематические ошибки публикации.

Метаанализ [12] исследований на выборках студентов, изучающих как науки из области медицины и здравоохранения, так и науки из других областей, показал, что результаты учащихся в «перевернутых классах» были значимо лучше, чем при традиционно-очном подходе, в баллах экзаменов (после вмешательства между группами и как изменения показателей до и после вмешательства) и в оценках курса, но не в объективно структурированных баллах клинических исследований. Анализ подгрупп показал, что преимущество «перевернутых классов» не наблюдалось в рандомизированных контролируемых исследованиях, в странах за пределами США, а также в более ранние годы публикации (2013 и 2014 годы). Кумулятивный анализ и метаре­грессия показали тенденцию к постепенному улучшению результатов по годам.

Мы не нашли ни одного сравнительного исследования образовательных результатов студентов на разных уровнях высшего образования, завершивших электронные курсы.

Дизайн исследования

Исследование с квазиэкспериментальным дизайном проведено в Московском государственном психолого-педагогическом университете (ФГБОУ ВО МГППУ) в осеннем семестре 2019 и в весеннем семестре 2020 года в рамках проекта «Цифровые технологии в высшем образовании: разработка технологии индивидуализации обучения средствами электронных учебных курсов», сайт проекта https:// dthe.mgppu.ru. Выборка составила N=424 студента психолого-педагогических и психологических направлений и специальностей, из них N1=234 студентов магистратуры и программ второго высшего образования (ЭГ1, «Магистратура и ВВ») и N2=190 студентов 3-го курса бакалавриата и специалитета (ЭГ2, «Первое высшее»), всего 23 академических группы 6-ти факультетов университета. Все студенты прошли обучения в разработанных нами электронных учебных курсах (ЭУК): студенты магистратуры завершили курс «Статистические и математические методы в психолого­педагогических исследованиях», а студенты бакалавриата и специалитета курс «Математические методы в психологии». Оба курса реализованы на платформе LMS Moodle и размещены на сайте https://e-learning.mgppu.ru.

Контекстные данные о выборке мы собирали с помощью анкеты обратной связи, доступ к которой открывался после завершения курса. 28 студентов не заполнили эту анкету, поэтому социо-демографические характеристики испытуемых мы приводим по выборке объема N=396 студентов, из них N1=213 студентов ЭГ1 и N2=183 студента ЭГ2. Гендерных различий между группами нет (p=0,613): в ЭГ1 21,1% мужчин и 78,9% женщин, в ЭГ2 18,6% юношей и 81,4% девушек. Обе группы достоверно различаются по возрасту (критерий Хи-квадрат, р<0,001). Группа ЭГ1 это, в основном, взрослые люди: 16,0% в ней составляют студенты 20—24 лет, 12,2% — 25—29 лет, 29,1% — 30—34 года и 42,7% — 35 лет и старше, в то время как в ЭГ2 преобладает молодежь — 16,9% в возрасте до 20 лет, 81,4% — 20-24 года и лишь 1,6% — это респонденты 25 лет и старше. Обе группы также достоверно различаются по характеру занятости (Хи-квадрат, р<0,001). В ЭГ1 по сравнению с ЭГ2 работа связана со специальностью, на которой они обучаются у 51,2% vs 5,5%, не связана у 32,9% vs 41,5%, а 16,0% vs 53,0% в настоящее время вообще не работают.

Оба электронных курса нацелены на развитие компетенций и базовых навыков количественного анализа эмпирических данных в научно-исследовательской и научно-практической деятельности в SPSS и включают 3 одинаковых модуля, посвященных основным методам математической статистики, а курс для магистратуры еще и 4-й дополнительный модуль «Многомерные статистические методы», предназначенный для продвинутых студентов. Мы сравнивали мнения и образовательные результаты студентов, завершивших 3 обязательных модуля. Образовательные результаты оценивались с помощью 5 тестов внутри ЭУК входного теста, 3-х обучающих тестов к модулям, итогового теста и индивидуального кейс-задания (ИКЗ) по вариантам, включающего 6 кейс-задач. Задачи в разных вариантах отличались наборами данных. Студенты выполняли кейс-задания в SPSS, мы оценивали и комментировали их. Студенты, завершившие курс, заполняли анонимную анкету обратной связи. Через 1,5—4 месяца студенты повторно проходили очное тестирование в Отделе мониторинга качества профессионального образования (ОМКПО) в МГППУ для оценки отдаленных результатов. Входной тест, итоговый тест и тест в ОМКПО одинаковы.

Изучение обоих курсов происходило в смешанном формате по модели «перевернутый класс», предполагающем переход от обучения с акцентом на преподавание к акценту на управление обучением с помощью ресурсов платформы LMS Moodle. Лекции преподавателя были записаны на видео и предлагались студентам для самостоятельного просмотра при подготовке к семинарам наряду с презентациями, роликами с демонстрацией работы в SPSS, файлами данных и вывода SPSS, ссылками на литературу в электронной библиотеке МГППУ и статьями из научных журналов портала PsyJournals https://psyjournals. ru/, иллюстрирующими применение изученных методов в реальных исследованиях, а семинары проходили очно в полном объеме. На семинарах студенты, индивидуально работая с презентациями как с ориентиром, актуализировали информацию: отвечали на вопросы преподавателя, участвовали в коллективном обсуждении наиболее сложных вопросов, но, самое главное, решали в SPSS аутентичные кейс-задания из области психолого-педагогических исследований, учились выбирать методы анализа данных и интерпретировать результаты. Мы поддерживали взаимодействие
и взаимопомощь студентов: если студент на семинаре испытывал затруднения при работе с SPSS, он поднимал руку и ему помогали однокурсники. При парной работе за компьютером студенты выполняли кейс-задания по очереди, ассистируя друг другу.

Предмет исследования: непосредственные и отдаленные образовательные результаты студентов двух уровней высшего образования, завершивших электронные курсы.

Цель исследования: оценить различия в образовательных результатах студентов магистратуры и программ второго высшего образования, с одной стороны, и студентов бакалавриата и специалитета программ первого высшего образования — с другой.

Задачи: 1. Сравнить непосредственные результаты входного теста, итогового теста и общей оценки за курс у студентов обеих категорий и выявить их сходство и различия; 2. оценить различия между отдаленными результатами студентов обеих категорий; 3. оценить размеры эффекта и индексы улучшения для измеренных параметров; 4. проверить психометрические характеристики теста достижений.

Исследовательский вопрос: как соотносятся образовательные результаты изучения электронных курсов количественного анализа эмпирических данных по модели «перевернутый класс» у студентов психологических и психолого-педагогических направлений и специальностей, имеющих и не имеющих бэк­граунда в виде первого высшего образования? Студенты какой категории более успешны?

База данных исследования размещена в открытом доступе в репозитории Mendeley Data [20] и доступна для скачивания. Анализ данных выполнен в SPSS V23 с использованием методов описательной статистики, критерия Манна-Уитни, критерия Уилкоксона, биномиального критерия, коэффициента ранговой корреляции Спирмена [4]. Расчет размеров эффекта и индексов улучшения производился по методике WWC Version 4.1 Procedures Handbook, представленной на портале IES What Works Clearinghouse [15].

Результаты

Сначала мы сравнили образовательные результаты студентов магистратуры и программ второго высшего образования (ЭГ1, «Магистратура и ВВ», N1=234) и студентов 3-го курса бакалавриата и специалитета (ЭГ2, «Первое высшее», N2=190) по 3-м параметрам — по входному тесту, по итоговому тесту и общей оценке за ЭУК. Результаты сравнения по критерию Манна—Уитни приведены в табл. 1.

Таблица 1

Сравнение образовательных результатов студентов 2-х категорий по входному тесту, итоговому тесту и общей оценке за ЭУК по критерию Манна—Уитни (N=424)

Параметр

ЭГ1 Магистратура и ВВ

ЭГ2 Первое высшее

Статистика U МаннаУитни

p-значение

M1

SD1

M2

SD2

Тест входной

33,90

10,83

34,78

9,82

20270,5

0,326

N1=226

N2=190

Тест итоговый

84,85

10,24

83,44

11,18

20342

0,233

N1=230

N2=190

Общая оценка за ЭУК

84,12

9,94

82,93

8,36

19592,5

0,036*

N1=234

N2=190


Табл. 1 показывает, что ни на входе, ни на выходе между студентами обеих групп по тестам различий не выявлено. Студенты магистратуры и программ второго высшего показали достоверно лучшие результаты по общей оценке за ЭУК (p<0,05), однако по абсолютной величине разница в средних невелика (M1=84,12 vs M2=82,93). Стандартные отклонения (SD1 vs SD2) по каждому из 3-х параметров в обеих группах примерно одинаковы, следовательно, рассеяние тестовых баллов вокруг групповых средних также не различается. Заметим, что в ЭГ1 восемь студентов не проходили входной тест, а четыре студента завершили ЭУК без прохождения итогового теста, поэтому объемы выборки студентов ЭГ1 по этим параметрам составляют 226, 230 и 234 студента соответственно, в то время как объем выборки ЭГ2 не менялся и составил 190 студентов.

Чтобы оценить влияние вмешательства обучения в ЭУК в обеих группах на предметные результаты, мы также сопоставили показатели по входному и итоговому тестам друг с другом по критерию Уилкоксона (табл. 2).

Как видно из табл. 2, различия между показателями итогового теста и входного теста высоко достоверны (p<0,001) в обеих группах, причем показатели итогового теста в среднем достоверно выше на 50,95 процентных пунктов в ЭГ1 и на 48,66 в ЭГ2. Стандартное отклонение в ЭГ1 не изменилось, а в ЭГ2 увеличилось лишь немного, что говорит о примерно одинаковом рассеянии тестовых баллов вокруг групповых средних и сопоставимой однородности результатов на входе и на выходе. Объем выборки ЭГ1 сократился до N1=222 (ср. табл. 1) за счет тех 12-ти студентов, которые не проходили какой-либо из этих 2-х тестов.

Однако самым интересным для нас было сравнить отдаленные результаты по прошествии 1,5—4-х месяцев после завершения ЭУК. Если входной и итоговый тесты студенты выполняли самостоятельно внутри ЭУК без внешнего контроля, то тестирование отдаленных результатов проводилось в Отделе мониторинга качества профессионального образования (ОМКПО) очно в присутствии сотрудника этого отдела, поэтому результаты этого теста можно считать независимой оценкой. Тестирование в ОМКПО проходили не все студенты, завершившие ЭУК, поэтому при анализе отдаленных результатов они отсеялись, а объемы выборок сократились до N1=149 (ЭГ1, «Магистратура и ВВ») и N2=139 (ЭГ2, «Первое высшее»). Поскольку из-за отсева могли появиться различия на входе, мы снова сравнили обе группы между собой по 3-м параметрам (табл. 3), а также показатели входного теста, итогового теста и теста в ОМКПО в каждой группе (табл. 4).

В табл. 3 отражено отсутствие различий между студентами ЭГ1 и ЭГ2 по всем 3-м исследуемым параметрам.

Табл. 4 демонстрирует одну и ту же тенденцию в обеих группах: показатели входного теста низкие, на выходе они достоверно повышаются в среднем примерно на 50 процентных пунктов, а отдаленные результаты в ОМКПО в среднем достоверно ниже примерно на 30 процентных пунктов, чем по итоговому тесту, но все же достоверно выше, чем по входному. При всех 3-х сравнениях различия достоверны на уровне значимости p<0,001. Заметим, что отдаленные образовательные результаты сильно рассеяны вокруг групповых средних: стандартное отклонение для теста в ОМКПО почти вдвое выше, чем для результатов входного и итогового тестов.

Размеры эффекта и индексы улучшения

В зарубежных исследованиях для оценки результативности вмешательства принято использовать индексы размера эффекта, коэффициенты улучшения и определять их статистическую значимость.

Таблица 2

Сравнение образовательных результатов по входному тесту и итоговому тесту в каждой из 2-х групп студентов по критерию Уилкоксона (N=412)

Категория студентов

Тест

Среднее M

Стандартное отклонение SD

Статистика Z Уилкоксона

p-значение

ЭГ1: Магистратура и ВВ (N1=222)

Тест входной

33,90

10,83

-12,918

0,000***

Тест итоговый

84,85

10,24

ЭГ2: Первое высшее (N2=190)

Тест входной

34,78

9,82

-11,952

0,000***

Тест итоговый

83,44

11,18

 
 

 Таблица 3

Сравнение образовательных результатов студентов 2-х категорий по входному тесту, итоговому тесту и тесту в ОМКПО по критерию Манна—Уитни (N=288)

Параметр

ЭГ1 Магистратура и ВВ (N1=149)

ЭГ2 Первое высшее (N2=139)

Статистика U Манна—Уитни

p-значение

M1

SD1

M2

SD2

Тест входной

33,00

9,47

34,12

9,81

10049

0,664

Тест итоговый

85,50

9,85

83,12

11,18

9002

0,082

Тест в ОМКПО

57,16

18,95

55,84

17,85

9945,5

0,561

 

Таблица 4

Сравнение непосредственных и отдаленных образовательных результатов
в каждой из 2-х групп студентов по критерию Уилкоксона (N=288

Категория студентов

Тест

Среднее M

Стандартное отклонение SD

Min

Max

p-значение

ЭГ1: Магистратура и ВВ (N1=149)

Тест входной

33,00

9,47

1

56

0,000***

Тест итоговый

85,50

9,85

56

100

Тест в ОМКПО

57,16

18,95

16

97

ЭГ2: Первое высшее (N2=139)

Тест входной

34,12

9,81

1

66

0,000***

Тест итоговый

83,12

11,18

53

100

Тест в ОМКПО

55,84

17,85

22

97

 

По сравнению с другими статистическими критериями эти индексы имеют следующие преимущества. Во-первых, они выражены в стандартных единицах, что позволяет сравнивать эффект вмешательств для разных тестов. Во-вторых, они позволяют рассчитать размер эффекта как без учета входного среза в 2-х сравниваемых группах, так и с учетом входных данных, т.е. «размер эффекта для оценки усиления». В-третьих, методика позволяет рассчитать эффект воздействия с учетом квазиэкспериментального дизайна, или «размер эффекта на уровне кластера», т.е. с учетом того, что выборка составлена из нескольких подвы­борок — студенческих групп, результаты внутри которых могут быть более однородны. Наконец, перевод размеров эффекта в коэффициенты или индексы улучшения позволяет их ясно интерпретировать. Расчет размеров эффекта и индексов улучшения мы выполнили по методике WWC Version 4.1 Procedures Handbook, представленной на портале IES What Works Clearinghouse [15].

Размер эффекта рассчитывался по формуле g Хеджеса, где в качестве условной «группы вмешательства» рассматривалась ЭГ1 («Магистратура и ВВ»), а в качестве «группы сравнения» — ЭГ2 («Первое высшее»). Результаты расчета размеров эффекта и индексов улучшения для данных входного теста (претеста), итогового теста (посттеста) и общей оценки за ЭУК для ЭГ1 и ЭГ2 по всей выборке представлены в табл. 5.

Как показывает табл. 5, сначала были рассчитаны размеры эффекта для ЭГ1 по сравнению с ЭГ2 по входному тесту (g=-0,085), итоговому тесту (g=0,132) и общей оценке за ЭУК (g=0,128). Они отражают тот факт, что на входе студенты магистратуры и программ второго высшего в среднем имели более низкие баллы, но на выходе — уже более высокие баллы, чем студенты программ первого высшего, однако эффект не значим даже без учета кластеризации (p=0,164 и p=0,178 для выходных показателей).

Далее мы рассчитали размер эффекта и его уровень значимости для итогового теста с учетом результатов входного (g1=0,214, p=0,030) без поправки на кластеризацию, т.е. игнорируя тот факт, что объединенная выборка состоит из нескольких подвыборок студенческих групп.

Таблица 5

Размеры эффекта и индексы улучшения для данных входного теста, итогового теста и общей оценки за ЭУК в ЭГ1 и ЭГ2 по всей выборке (N=424)

Группа, Индекс

Статистика

Тест

Примечания

Тест входной

Тест итоговый

Общая оценка за ЭУК

ЭГ1 Магистратура и второе высшее

Среднее M1

33,90

84,85

84,12

ЭГ1 взята в качестве «группы вмешательства»

Стд. Откл. SD1

10,83

10,24

9,94

N1

226

230

234

ЭГ2

Первое высшее

Среднее M2

34,78

83,44

82,93

ЭГ2 взята в качестве «группы сравнения»

Стд. Откл. SD2

9,81

11,18

8,36

N2

190

190

190

Размер эффекта

g Хеджеса

-0,085

0,132

0,128

Рассчитаны по формуле g Хеджеса и SE(g) без учета Теста входного

Стандартная ошибка размера эффекта

SE(g)

0,098

0,098

0,097

t-статистика

t

 

1,391

1,349

Без учета кластеризации

p-значение

p

 

0,164

0,178

Размер эффекта

g1

0,214

 

Сравнивались показатели теста итогового в 2-х группах с учетом теста входного

Рассчитан размер эффекта для оценки усиления

Стандартная ошибка размера эффекта

SE(g1)

0,129

 

Индекс улучшения 1

U3 — 50%

58,47%-50%=8,47%

 

t-статистика

t

2,172

 

Без учета кластеризации

p-значение

p

0,030*

 

t-статистика с коррекцией на кластеризацию

ta

1,023

 

Коррекция на кластеризацию рассчитана, так как размер эффекта без учета кластеризации статистически значим

p-значение с коррекцией на кластеризацию

p

0,307

 

Размер эффекта

g2

 

 

0,143

Сравнивались показатели общей оценки за ЭУК в 2-х группах с учетом теста входного

Рассчитан размер эффекта для оценки усиления

Стандартная ошибка размера эффекта

SE(g2)

 

 

0,125

Индекс улучшения 2

U3 — 50%

 

 

55,68%- 50%=5,68%

t-статистика

t

 

 

1,456

Без учета кластеризации

p-значение

p

 

 

0,146


Поскольку эффект достоверен, для лучшей интерпретации мы рассчитали для него индекс улучшения: 8,47%. Индекс улучшения представляет собой разность в процентильном ранге между средним членом «группы вмешательства» и средним членом «группы сравнения» в распределении «группы сравнения». В нашем случае индекс улучшения означает, что медианный студент «Магистратуры и ВВ» оказался бы на 8,47 процентных пункта правее медианного студента «Первого высшего» (который, по определению, имеет 50-й процентиль), т.е. он имел бы в этой группе ранг 58,47, отражающий более высокий результат. Так как эффект достоверен, согласно методике WWC далее мы рассчитали размер эффекта с кор­
рекцией на кластеризацию, который называется «размер эффекта на уровне кластера», и его p-значение (p=0,307), и он оказался в этом случае статистически не значим. Размер эффекта для общей оценки за ЭУК с учетом входного теста также оказался статистически не значимым (g2=0,143, p=0,146).

Таблица 6

Размеры эффекта и индексы улучшения для данных входного теста, итогового теста и теста в ОМКПО в ЭГ1 и ЭГ2 с отсевом (N=288)

Группа, Индекс

Статистика

Тест

Примечание

Тест входной

Тест итоговый

Тест ОМКПО

ЭГ1 Магистратура и второе высшее

Среднее M1

33,00

85,50

57,16

ЭГ1 взята в качестве «группы вмешательства»

Стд. Откл. SD1

9,47

9,85

18,95

N1

149

149

149

ЭГ2

Первое высшее

Среднее M2

34,12

83,12

55,84

ЭГ2 взята в качестве «группы сравнения»

Стд. Откл. SD2

9,81

11,18

17,85

N2

139

139

139

Размер эффекта

g1

0,332

 

Сравнивались показатели теста итогового в 2-х группах с учетом теста входного.

Рассчитан размер эффекта для оценки усиления

Стандартная ошибка размера эффекта

SE(g1)

0,157

 

Индекс улучшения 1

U3 — 50%

63,00%-50%=13,00%

 

t-статистика

t

2,796

 

Без учета кластеризации

p-значение

p

0,006 **

 

t-статистика с коррекцией на кластеризацию

t a

1,444

 

Коррекция на кластеризацию рассчитана, так как размер эффекта без учета кластеризации статистически значим

p-значение с коррекцией на кластеризацию

p

0,150

 

Размер эффекта

g2

 

-0,057

Сравнивались показатели теста в ОМКПО в 2-х группах с учетом теста итогового

Рассчитан размер эффекта для оценки усиления

Стандартная ошибка размера эффекта

SE(g2)

 

0,157

Индекс улучшения 2

U3 — 50%

 

47,72%-50%=-2,28%

t-статистика

t

 

-0,483

Без учета кластеризации

p-значение

p

 

0,629

Размер эффекта

g3

 

 

0,132

Сравнивались показатели теста в ОМКПО в 2-х группах с учетом теста входного.

Рассчитан размер эффекта для оценки усиления

Стандартная ошибка размера эффекта

SE(g3)

 

 

0,140

Индекс улучшения 3

U3 — 50%

 

 

55,25%- 50%=5,25%

t-статистика

t

 

 

1,118

Без учета кластеризации

p-значение

p

 

 

0,264


После этих комментариев становится достаточно понятно содержание табл. 6, в которой представлены размеры эффекта и индексы улучшения для данных входного, выходного тестов и теста в ОМКПО с отсевом тех студентов, кто не проходил тестирования отдаленных результатов.

Как видно из табл. 6, студенты «Магистратуры и ВВ» показывают достоверно лучшие результаты по сравнению с группой «Первое высшее» по итоговому тесту с учетом входного теста (размер эффекта g1=0,332, p=0,006). Индекс улучшения равен 13%. Величина эффекта, равная 0,332, означает, что ранг среднего учащегося группы «Магистратуры и ВВ» будет соответствовать 63-му процентилю в группе «Первое высшее», или, эквивалентно, медианный студент магистратуры и программ второго высшего образования имел бы ранг на 13 процентных пунктов выше, чем средний учащийся программ первого высшего образования, которому, по определению, соответствует 50-й процентиль. Однако коррекция на кластеризацию дает p=0,150, и эффект становится недостоверным. Размер эффекта для группы «Магистратура и ВВ» по сравнению с группой «Первое высшее» по тесту в ОМКПО с учетом результатов итогового теста не значим (g2=-0,057, p=0,629), как и по тесту в ОМКПО с учетом входного теста (g3=0,132, p=0,264). Таким образом, отдаленные результаты обеих категорий студентов не различаются.

Психометрические характеристики теста достижений, разработанного нами, были проверены при тестировании в ОМКПО и рассчитаны с помощью программного обеспечения лаборатории HT-Line. Тест состоял из 32-х вопросов с 4-мя вариантами ответов, один из которых правильный. Согласно биномиальному критерию для серии из 32 испытаний с вероятностью успеха P=0,25, если студент набирал 40,6 и более процентных пунктов, то с вероятностью 95% можно считать, что это не случайный выбор ответов, а если 46,8 и более, то вероятность увеличивается до 99%.

Коэффициенты дискриминативности у 31 вопроса теста превышают 3, что благоприятно. Эмпирически рассчитанная трудность вопросов теста дает 3% легких, 60% средних и 37% трудных вопросов. Для проверки конструктной валидности в группе «Магистратура и ВВ» рассчитан коэффициент ранговой корреляции Спирмена с результатами теста по предмету «Исследования и прогнозирование в образовании» (p=0,273, p<0,01) и общей оценкой за ЭУК (р=0,507, p<0,01), а в группе «Первое высшее» — с оценками по тесту по английскому языку (р=0,283, p<0,01) и также с общей оценкой за ЭУК (р=0,346, p<0,01). Во всех случаях получена слабая или средняя прямая связь: лучшие показатели по одним тестам ассоциированы с лучшими показателями по другим. Вероятно, это объясняется тем, что успешные студенты имеют тенденцию показывать высокие академические достижения по разным предметам независимо от их специфики.

Обсуждение

Полученные результаты сравнения академических достижений студентов магистратуры и программ второго высшего образования, с одной стороны, и студентов программ первого высшего образования, с другой, представляют интерес по нескольким причинам.

Во-первых, это представители 2-х разных поколений. Считается, что «поколение милле­ниум» лучше адаптируется к обучению в цифровой среде, и можно было бы ожидать, что студенты 3-го курса бакалавриата и специа­литета покажут более высокие образовательные результаты, но эксперимент не выявил различий: размеры эффекта во всех случаях недостоверны. Более взрослые и зрелые люди, занятые профессиональной деятельностью и имеющие семейные обязанности, по окончании изучения электронного курса показывают такие же высокие образовательные результаты, как и студенческая молодежь. Возможно, это объясняется их более осознанным отношением к обучению и более высокой мотивацией к развитию компетенций по выбранному профилю. Возможно также, им помогают навыки самоорганизации и умения учиться, приобретенные ранее в бакалавриате и специалитете. Определенную роль могли сыграть также чувство ответственности или же тревожность некоторых студентов более зрелого возраста. Кроме того, профессиональная деятельность и повседневная жизнь большинства людей непосредственно связана с компьютером и интернетом, поэтому трудности овладения цифровыми компетен­циями у зрелых людей могут быть преувеличены, и это всего лишь стереотип.

Во-вторых, мы констатировали у студентов обеих категорий одну и ту же тенденцию: на входе результаты по тесту достижений низкие, на выходе они достоверно и сильно возрастают, а затем через 1,5—4 месяца достоверно снижаются, оставаясь при этом достоверно выше входных результатов. При этом отдаленные результаты сильно рассеяны по сравнению с непосредственными: стандартное отклонение возрастает почти вдвое. Как это можно интерпретировать? Причин может быть несколько, и одна из них — использование нечестных стратегий при тестировании и выполнении кейс-заданий. В статье [5] мы уже писали, что более 70% студентов магистратуры и второго высшего образования и более 85% студентов первого высшего образования считают, что неизбежно будут студенты, использующие нечестные стратегии при тестировании, хотя это и не означает, что все они сами их используют. Заметим, что итоговый тест входил в структуру электронного курса и, в принципе, допускал возможность использования нечестных стратегий, в то время как отдаленные результаты тестировались очно при внешнем контроле, поэтому оценка может считаться независимой, а результаты — достаточно объективными и надежными.

Другими причинами снижения отдаленных результатов по сравнению с непосредственными могли быть отсутствие планомерности изучения курса и привычка к штурмовщине некоторых студентов, а также их недостаточная мотивация. Еще одна важнейшая причина — недостаточная сформированность ком­петенций и практических навыков решения кейсов в SPSS: из-за этого информация лишь ненадолго остается в памяти, а компетенции, необходимые для самостоятельной научно­исследовательской и научно-практической деятельности, не развиваются. Кроме того, навыки количественного анализа данных должны поддерживаться, прежде всего, при обработке данных собственного эмпирического исследования. Все это определяет направления дальнейшей деятельности преподавателя по мотивированию студентов, совершенствованию электронных курсов с использованием интерактивных компонентов и индивидуализации методики обучения.

Выводы

Различий между студентами обеих категорий в образовательных результатах входного теста, итогового теста и общей оценке за ЭУК не выявлено. На входе студенты магистратуры и программ второго высшего в среднем имели более низкие баллы, но на выходе — уже более высокие баллы, чем студенты программ первого высшего образования, однако размер эффекта без учета входных результатов не значим.

Выявлена одна и та же тенденция у студентов обеих категорий: на входе результаты по тесту достижений низкие, на выходе они достоверно и сильно возрастают, а затем через 1,5—4 месяца достоверно снижаются, оставаясь при этом достоверно выше входных результатов. При этом отдаленные результаты сильно рассеяны по сравнению с непосредственными: стандартное отклонение возрастает почти вдвое.

Размер эффекта достоверен для итогового теста с учетом результатов входного теста без поправки на кластеризацию, т.е. игнорируя тот факт, что объединенная выборка состоит из нескольких подвыборок — студенческих групп. Индекс улучшения означает, что медианный студент программ магистратуры и второго высшего образования оказался бы на 8,47 процентных пункта правее медианного студента первого высшего образования, т.е. он имел бы в этой группе более высокий результат. Размер эффекта с коррекцией на кластеризацию статистически не значим. Размер эффекта для общей оценки за электронный курс с учетом входного теста также статистически не значим.

После отсева студентов, не проходивших тестирование отдаленных результатов, получены достоверные размер эффекта и индекс улучшения по итоговому тесту с учетом входного теста только без коррекции на кластеризацию. Студенты магистратуры и второго высшего образования показывают значимо лучшие результаты по сравнению с группой первого высшего образования. Однако при коррекции на кластеризацию эффект становится недостоверным. Размер эффекта по отдаленным результатам с учетом как итогового теста, так и с учетом входного теста тоже недостоверен. Таким образом, отдаленные результаты обеих категорий студентов не различаются.

Психометрические характеристики теста достижений в области количественного анализа эмпирических данных можно считать удовлетворительными. В обеих группах получена слабая и средняя прямая связь между результатами этого теста, общей оценкой за электронный курс и двумя тестами по немате­матическим предметам: лучшие показатели по одним тестам ассоциированы с лучшими показателями по другим тестам.

Дальнейшие исследования предполагают совершенствование электронных курсов в плане мотивирования студентов, использования активных и интерактивных компонентов, а также индивидуализации методики обучения. Весьма интересно было бы сравнить различные аспекты смешанного и онлайн высшего образования.

 

Литература

  1. Государственная программа Российской Федерации «Развитие образования» [Электронный ресурс] // Банк документов.Министерство просвещения Российской Федерации URL: https:// docs.edu.gov.ru/document/3a928e13b4d292f8f71513a 2c02086a3/ (дата обращения: 05.06.2020).
  2. Дмитриевская Н.А., Горемыкина Г.И. Моделирование системы управления по результатам деятельности смарт-университета в условиях цифровизации экономики и общества // Материалы международной конференции «E-Learning Stakeholders and Researchers Summit» (г.Москва, 5—6 декабря 2018 г.).Москва: Изд.дом Высшей школы экономики, 2018.С.39—46.
  3. Марголис А.А. Что смешивает смешанное обучение? // Психологическая наука и образование.2018.Том 23.№ 3.С.5—19.DOI:10.17759/ pse.2018230301
  4. Сорокова М.Г. Математические методы в психолого-педагогических исследованиях: Учебное пособие.М.: Неолит, 2020.216 с.DOI:10.17759/ psychlib/978-5-6043562-0-3
  5. Сорокова М.Г. Цифровая образовательная среда университета: кому более комфортно в ней учиться? // Психологическая наука и образование.2020.Том 25.№ 2.С.44—58.DOI:10.17759/ pse.2020250204
  6. Сорокова М.Г. Электронный курс как цифровой образовательный ресурс смешанного обучения в условиях высшего образования // Психологическая наука и образование.2020.Том 25.№ 1.С.36—50.DOI:10.17759/pse.2020250104
  7. Чхутиашвили Л.В. Государственная политика в сфере онлайн-образования // Материалы международной конференции «E-Learning Stakeholders and Researchers Summit» (г.Москва, 5—6 декабря 2018 г.).Москва: Изд.дом Высшей школы экономики, 2018.С.18—21.
  8. Akcayır G., Akcayır M. The flipped classroom: A review of its advantages and challenges // Computers & Education.2018.Vol.126.P.334—345.DOI:10.1016/j.compedu.2018.07.021
  9. Arıf S., Omar İ. Effectiveness of Flipped Classroom in Teaching Basic English Courses // Yükseköğretim Dergisi.2019.Vol.9.№ P.279—289.DOI:10.2399/ yod.19.003
  10. Bouwmeestera R.A.M., de Kleijnb R.A.M., van den Bergc I.E.T., ten Cated O.Th.J., van Rijena H.V.M., Westervelde H.E. Flipping the medical classroom: Effect on workload, interactivity, motivation and retention of knowledge // Computers & Education.2019.Vol.139.P.118—128.DOI:10.1016/j.compedu.2019.05.002
  11. Chen F., Lui A.M., Martinelli S.M. A systematic review of the effectiveness of flipped classrooms in medical education // Medical Education.2017.Vol.51.№ P.585—597.DOI:10.1111/medu.13272
  12. Chen K.S., Monrouxe L., Lu Y.H., Jenq C.C., Chang Y.J., Chang Y.C. et al. Academic outcomes of flipped classroom learning: A meta-analysis // Medical Education.2018.Vol.52.№ P.910—924.DOI:10.1111/medu.13616
  13. De Kleijn R.A.M., Bouwmeester R.A.M., Ritzen M.M.J., Ramaekers S.P.J., Van Rijen H.V.M. Students’ motives for using online formative assessments when preparing for summative assessments // Medical Teacher.2013.Vol.35.№ P.1—7.DOI:10.3109/01 42159X.2013.826794
  14. Hew K.F., Lo C.K. Flipped classroom improves student learning in health professions education: a meta-analysis // BMC Med Educ.2018.Vol.18, 38.DOI:10.1186/s12909-018-1144-z
  15. IES What Works Clearinghouse.Handbooks and other resources.Available at: https://ies.ed.gov/ncee/ wwc/Handbooks (Accessed 05.06.2020).
  16. Morton D.A., Colbert-Getz J.M. Measuring the impact of the flipped anatomy classroom: The importance of categorizing an assessment by Bloom’s taxonomy // Anatomical Sciences Education.2017.Vol. 10.№ P.170—175.DOI:10.1002/ase.1635
  17. Prinsloo P. Big data in education.The digital future of learning, policy and practice // International Studies in Sociology of Education.2020.Vol.29.№ 1—2.P. 183—186.DOI:10.1080/09620214.2019.1690546
  18. Rajaram K. Flipped classrooms: Scaffolding support system with real-time learning interventions // Asian Journal of the Scholarship of Teaching and Learning.2019.Vol.9.№ 1.P.30—58.Available at: http:// www.nus.edu.sg/cdtl/engagement/publications/ajsotl-home/archive-of-past-issues/v9n1/flipped-classrooms-providing-a-scaffolding-support-system-with-real-time-learning-interventions (Accessed 05.06.2020).
  19. Røe Y., Rowe M., Ødegaard N.B. et al. Learning with technology in physiotherapy education: design, implementation and evaluation of a flipped classroom teaching approach // BMC Med Educ.2019.Vol.19, 291.DOI:10.1186/s12909-019-1728-2
  20. Sorokova M. (2020) “Educational outcomes of graduate and undergraduate students who completed e-courses in mathematical methods in psychological and educational researches”, Mendeley Data, v1 http:// dx.doi.org/10.17632/hvfkdpfwnr.1
  21. Wang K., Zhu C. MOOC-based flipped learning in higher education: students’ participation, experience and learning performance // Int J Educ Technol High Educ.2019.Vol.16, 33.DOI:10.1186/s41239-019- 0163-0
  22. Williamson B. Making markets through digital platforms: Pearson, edu-business, and the (e)valuation of higher education // Critical Studies in Education.2020.DOI:10.1080/17508487.2020.1737556

Информация об авторах

Сорокова Марина Геннадьевна, доктор педагогических наук, кандидат физико-математических наук, доцент, заведующий кафедрой «Цифровое образование», руководитель Научно-практического центра по комплексному сопровождению психологических исследований PsyDATA, Московский государственный психолого-педагогический университет (ФГБОУ ВО МГППУ), Москва, Россия, ORCID: https://orcid.org/0000-0002-1000-6487, e-mail: sorokovamg@mgppu.ru

Метрики

Просмотров

Всего: 1364
В прошлом месяце: 15
В текущем месяце: 3

Скачиваний

Всего: 598
В прошлом месяце: 2
В текущем месяце: 0