Дьяченко М. С. (3), Леонов А. Г. (1-4)

Государственный университет управления (1)

Московский педагогический государственный университет (2)

Федеральное государственное учреждение «Федеральный научный центр научно-исследовательский институт системных исследований российской академии наук» (ФГУ ФНЦ НИИСИ РАН) (3)

Федеральное государственное бюджетное образовательное учреждение высшего образования «Московский государственный университет имени М.В. Ломоносова» (4)

г. Москва

Архитектура учебных систем с индивидуализацией обучения на основе накопленных данных об автоматизированной проверке знаний

В статье приведены результаты исследования влияния на архитектуру учебных систем внедряемых методов индивидуализации обучения, основанных на накопленных данных цифрового следа обучаемых. Авторы приводят результаты моделирования средствами системной динамики процесса внедрения и предлагают архитектурные решения, нацеленные на ускорения процесса внедрения индивидуализированного обучения.

Mikhail Dyachenko (3), Alexander Leonov (1-4)

State University of Management (1)

Moscow State Pedagogical University (2)

Federal Research Center “Scientific Research Institute for System Analysis of the Russian Academy of Sciences” (SRISA RAS) (3)

Moscow State University (4)

Moscow, Russia

The educational systems architecture with individualization of learning based on accumulated data of automated assessment

The article focuses on a study of the impact from the implemented individualization method on the educational systems architecture with the individualization of learning based on the accumulated trainee’s digital footprints. The article gives an analysis of the results of modeling the implementation process using system dynamics. The authors propose architectural solutions aimed at accelerating the implementation of individualized learning.

Введение

Задачи цифровизации и необходимость технологической независимости ставят новые требования к уровню подготовки молодых специалистов. Работодатели ожидают от выпускников не только владение базовыми знаниями по предметам, но и уверенные навыки применения этих знаний при решении прикладных задач в процессе создания современных конкурентоспособных продуктов. Для этого уже на этапе обучения необходимо подготовить студента к решению практических задач, а также целенаправленно раскрыть полный потенциал каждого обучаемого, что в свою очередь выдвигает новые требования к цифровым системам поддержки обучения.

В качестве ответа на запрос рынка труда в образование внедряются решения с использованием автоматизированной проверки заданий и с поддержкой индивидуализации процесса обучения. Для реализации последнего применяются адаптивные технологии: средства автоматического изменения уровня сложности подачи учебного материала, уровня сложности проверочных заданий и(или) порядка изучения материала (пропустить освоенное, повторить ранее пройденное и пр.) по результатам ранее выполненных проверочных заданий [1]. Одной из особенностей адаптивных систем является возможность собирать и хранить детальный цифровой след обучения за счет высокой частоты проверки знаний [2], однако, при этом, разработка учебных материалов и автоматизация проверочных заданий для реализации адаптивной технологии отличается большой трудоемкостью [3]. Необходимость реализации наукоёмких решений [4, 5], большая трудоёмкость, продолжительность периода внедрения и оценки эффективности применения реализаций адаптивных технологиях делает процесс внедрения сложным и, что немаловажно, растянутым во времени.

Постановка проблемы

Таким образом для обеспечения запроса рынка труда на подготовку высококвалифицированных специалистов необходимо в сжатые сроки внедрять методы индивидуализации обучения, однако, исходя из особенностей этих методов, их внедрение при сохранении текущих подходов будет отложенным во времени. В работах по адаптивному обучению Кречетова [3, 4] при внедрении адаптивных технологий выбираются методы, не требующие больших объемов данных для реализации. При использовании перспективных решений, например, на основе глубокого обучения [5] или анализа больших данных, возникает потребность в использовании существенно большего объема данных, содержащих цифровой след обучаемых. Проведённые авторами эксперименты по внедрению технологий глубокого обучения в учебную систему показали [6, 7], что для создания универсальных решений, применение которых может быть отмасштабировано, необходим объем данных, генерируемый студентами одного курса в лучшем случае за несколько лет. В связи с этим сложностями необходимо разрабатывать подходы для ускорения внедрения адаптивного обучения, использующих большие объемы данных, в учебный процесс.

Методы исследования

Для проведения исследования авторы описали модель процесса внедрения, которая использовалась при имитационном моделировании методами системной динамики. Язык системной динамики позволяет описать систему в развитии, отражая ее основные элементы, предоставляет хорошо формализованное визуальное представление сложной системы, которое легко модифицировать. Имитационное моделирование даёт возможность проводить множественные эксперименты при различных условиях внешней среды и оптимизировать поведение системы. Системная динамика применяется для моделирования процессов и систем в области разработки [8], в нашем случае моделируется процесс внедрения, включающий процессы обучения, накопления данных и развития технической систем.

Для исследования использовалась система имитационного моделирования AnyLogic 8.

Основная часть

Процесс внедрения нового метода обучения, основанного на данных, условно можно разделить на следующие этапы: выбор метода и разработка методологии его применения в учебном процессе, разработка инструментальных средств для создания учебных материалов и сбора данных, этап накопления данных, создание решения на основе собранных данных, реализация поддержки внедряемого метода в системе, проведение эксперимента и его масштабирование в случае подтверждения результатов. Для оценки долгосрочного эффекта на студентов от внедряемого метода после завершения адаптивного учебного курса, необходимо также обеспечить анализ данных следующего в программе обучения учебного курса, использующего знания и навыки, приобретенные на адаптивном курсе.

Предлагаемая авторами модель описывает несколько связанных процессов: обучения студентов, накопления данных об обучении, разработки и внедрения методов, масштабирования и последующего внедрения системы.

Модель процесса обучения состоит из двух потоков студентов: автоматизированного курса и версии этого же курса с внедряемыми адаптивными технологиями. На начальном этапе внедрения все студенты обучаются на автоматизированном курсе, обеспечивая накопление данных для реализации адаптивного метода. После накопления необходимых данных и запуска адаптивного курса начинается этап сбора данных для подтверждения эффективности внедряемого метода. После подтверждения – внедряемый метод масштабируется. В общем случае для подтверждения долгосрочного эффекта от обучения на адаптивном курсе необходимо также анализировать данные на следующем за им курсе, который использует знания и навыки, приобретенные на адаптивном курсе.

Модель процесса накопления цифрового следа отвечает за сбор данных для разработки нового метода и оценки эффекта от его внедрения. Поскольку учебные системы развиваются и особенности развития студентов также меняются от поколения к поколению, то в модель заложен механизм устаревания, который исключает использование устаревших данных для разработки методов и их проверки.

Модель процесса разработки и внедрения отвечает за изменение пропускной способности адаптивного учебного курса и масштабирования результатов его внедрения.

Основными параметрами моделирования являются пропускная способность автоматизированного курса в семестр, необходимый объем данных для разработки адаптивного метода и оценки его эффективности в краткосрочной и долгосрочной перспективе, период устаревания накапливаемых данных и скорость масштабирования решения. Изменяя начальные параметры моделирования и параметры системы авторы анализировали время внедрения в зависимости от начального состояния экспериментальной среды, параметрами внедряемого метода и процесса внедрения. Целью этих экспериментов было выявить общие закономерности и наметить пути развития архитектуры обучающих систем, реализация которых обеспечила бы ускорение внедрения адаптивных методов.

Выводы

По результатам выполненного исследования можно сделать следующие выводы:

1.     Предлагаемая параметрическая модель процесса внедрения позволяет оценить необходимые ресурсы для внедрения адаптивного решения и получить временные оценки. Параметризация модели дает возможность исследовать внедрение различных методов при разных начальных условиях. Использование нотации системной динамики делает описание наглядным и допускает его изменение для учета особенностей внедряемого метода и процесса разработки. По результатам моделирования внедрения метода могут быть определены этапы, вносящие основные задержки при внедрении, по результатам анализа которых определяются приоритетные направления доработки системы и необходимые организационные изменения, направленные на снижение задержек при внедрении.

2.     В общем случае собрать данные в рамках одного учебного заведения за ограниченное время не представляется возможным, поэтому речь идет о распределенной гетерогенной среде проведения эксперимента, в состав которой входят локальные системы учебных заведений, например «Цифровой тьютор» [9], единые внешние образовательные платформы, например «Открытое образование», и авторские учебные платформы, например «Мирера» [10], то есть системы, которые уже применяются в учебном процессе и содержат готовые автоматизированные курсы, использование которых ускорить начальный этап внедрения.

3.     Большую трудоёмкостью имеет автоматизация учебного курса: декомпозиция материала курса, его разметка и упорядочивание, формализация проверочных заданий, обеспечение их вариативности. Ускорение этапа создания или трансформации существующего учебного курса может быть достигнуто за счет применения автоматизированных средств, привлечения к работе по созданию материалов курса одновременно нескольких специалистов и поэтапная разработка курса. В архитектуре учебной системы эти возможности реализованы специализированными инструментальными средствами, режимом совместной работы, добавлением репозитория автоматизированных учебных материалов и готовых курсов. При подключении курсов к нескольким учебным заведениям необходимо дорабатывать учебные материалы под локальные требования, то есть архитектура системы должна предусматривать возможность создания нескольких отличающихся курсов на основе общих материалов путем сборки курса из частей или изменения структуры базового курса.

4.     На скорость внедрения существенно влияет объем данных, необходимый для разработки метода и проверки его эффективности. С учетом устаревания данных, ускорить их накопление возможно за счет большего охвата обучаемых автоматизированным курсом, при этом на практике речь может идти о данных десятков тысяч студентов, прошедших автоматизированный курс [4, 5]. В проекции на архитектуру это означает, что среда должна иметь возможность накапливать большие объемы данных цифрового следа и обеспечивать к ним доступ для исследований и разработки. Если речь идет об гетерогенной распределенной среде, включающей системы разного типа, то необходимо обеспечить стандартизацию процесса обмена накапливаемыми данным с соблюдением требований безопасности. Система также должна обеспечивать одновременное обучение на автоматизированных курсах тысяч, а в некоторых случаях десятков тысяч студентов, что в свою очередь выдвигает требования к ресурсам поддержки автоматизированной проверки знаний. Опираясь на опыт зарубежных исследователей и поставщиков адаптивных решений, адаптивные курсы реализованы обособленными от учебных заведений специализированными системами, материалы и сервисы которых непосредственно используются при обучении в учебных заведениях Knewton (https://www.knewton.com/), Squirrel AI (https://squirrelai.com/) или German Tutor [11]. Эти системы централизованно накапливают данные цифрового следа обучаемых в том чисел для целей дальнейшего развития адаптивных методов и улучшения самих курсов.

5.     Аналогично с распространением автоматизированных курсов необходимо распространять адаптивные курсы для ускорения сбора данных для подтверждения эффективности. Объем необходимых данных меньше, чем для разработки, но в общем случае не может быть собран в одном учебном заведении за время устаревания этих данных. В отличии от обычных курсов адаптивные курсы требуют поддержки технологий на уровне системы, поэтому в случае с гетерогенными системами это означает дополнительную разработку расширений для используемых в среде систем или непосредственную доработку систем.

6.     Учитывая масштабы проводимых экспериментов, возрастает роль учебной аналитики и возможности заблаговременно обнаружить потенциальные критические отклонения от нормы в учебных группах, чтобы изменить параметры эксперимента. В архитектурном отношении, поскольку данные об ходе эксперимента доступны, аналитические средства могут быть реализованы централизованно или в ходе доработок для внедрения адаптивных технологий в локальные системы.

7.     При повторных внедрениях новых методов с учетом развитой среды сбора данных и распространения учебных материалов этапы процесса внедрения упрощаются за счет повторного использования ранее выполненных доработок.

8.     Одним из неочевидных решений проблемы первичного накопления данных является запуск автоматизированных курсов в онлайн режиме, то есть без преподавателя, – это расширяет охват пользователей, делает занятия независимыми от расписания и привязки к учебному заведению, что потенциально увеличивает скорость накопления данных. Однако необходимо отдельно моделировать процесс онлайн обучения, который также требует доработки архитектуры системы: потребуется режим работы по индивидуальному расписанию, возможность подключения ментора и глубокая автоматизация процесса обучения, исключающая участие человека. На отечественном рынке образовательных услуг примером является онлайн платформа Stepik (https://stepik.org/), поддерживающая адаптивность. В случае с онлайн обучением затруднена оценка долгосрочного эффекта от обучения новым методом.

Заключение

В заключении отметим, что разработчики адаптивных решении сегодня все еще вынуждены ограничивать выбор реализуемых методов, и если раньше причинами были недостаточная цифровизация образования, медленные каналы связи и ограниченные вычислительные возможности, то сейчас ограничивающим фактором является сложность организации образовательного эксперимента с участием большого количества обучаемых. Для интенсификации процесса разработки и внедрения потребуется координация нескольких учебных заведения, осуществляющих не только сбор данных об обучении, но и внедрение в учебный процесс новых методов.

Поскольку по результатам внедрения остаются артефакты в виде данных, то даже в случае недостижения плановых показателей внедряемого метода, накопленные за период его внедрения данные могут быть использованы для разработки новых методов, что существенно сокращает сроки внедрения.

Ускорение внедрения не ограничивается реализаций правильной архитектуры, а также зависит от организационных факторов и от реализации вспомогательных средств, снижающих рутинную нагрузку с преподавателей и повышающих качество собираемых данных. К таким средствам относятся генераторы заданий, интеллектуальные ассистенты преподавателя, автоматизированные средства разработки учебных материалов, готовые решения по автоматической проверке заданий, системы антиплагиата. Предлагаемый авторами метод поэтапной трансформации неадаптивной системы в адаптивную позволяет снизить затраты на внесение изменение в системы [12], а возможность повторного использования наработок существенно ускоряет внедрения последующих технологий.

Авторы на текущем этапе развития не предлагаю создавать централизованную систему для учебных заведений, понимая, что в учебном процессе уже применяются решения с открытым кодом, платформа «Открытое образование» (https://openedu.ru/), а также различные локальные системы и авторские среды, которые содержат наработки, перенос которых в какую-либо единую централизованную систему будет сопряжен с большим объемом работы, а в некоторых случая с созданием учебных материалов с нуля. В связи с этим более реалистичным путем развития авторы считают поэтапную трансформацию систем из неадаптивной в адаптивную форму, стандартизацию форматов обмена данными о курсах и цифровом следе, разработку инструментов для автоматизированного преобразования неадаптивных курсов в адаптивные, что в свою очередь является предпосылкой для ускорения внедрения новых технологий в образование.

Работа выполнена при поддержке гранта РФФИ № 19-29-14057.


Литература:

1. Decoding Adaptive. – EdSurge. – London: Pearson, 2016. – URL: https://www.edsurge.com/research/reports/adaptive-learning-close-up (дата обращения: 09.04.2022). – Текст : электронный.

2.  Дьяченко М.С., Леонов А.Г. Цифровой след в образовании как драйвер профессионального роста в цифровую эпоху. E-Management. 2022;5(4):23-30

3. Кречетов И. А. Раскрываем потенциал адаптивного обучения: от разработки до внедрения / И. А. Кречетов, М. Ю. Дорофеева, А. В. Дегтярев. – Текст : электронный // Материалы международной конференции. ELEARNING STAKEHOLDERS AND RESEARCHERS SUMMIT 2018. – Москва: Национальный исследовательский университет «Высшая школа экономики», 2018. – Раскрываем Потенциал Адаптивного Обучения. – С. 76-88. – URL: https://www.elibrary.ru/item.asp?id=36991361 (дата обращения: 09.04.2022).

4.  Кречетов И. А. Реализация методов адаптивного обучения / И. А. Кречетов, В. В. Романенко // Вопросы образования. – 2020. – № 2. – С. 252-277.

5.  Tang H., Jiang G., Wang Q. Personalized Learning Behavior Evaluation Method Based on Deep Neural Network // Scientific Programming. 2022. Т. 2022. С. 1–8.

6. Leonov A. G., Matyushin M. A., Dyachenko M. S. Neural Networks for a Priori Estimates of the Student Outcomes in Mirera // Lecture Notes in Civil Engineering. 2022. Т. 210. С. 475–486.

7. Дьяченко М. С., Леонов А. Г., Матюшин М. А. Исследование и разработка методов машинного обучения и архитектур нейронных сетей для применения в области проверки // Труды НИИСИ РАН. Математическое и компьютерное моделирование сложных систем: теоретические и прикладные аспекты. — 2021. — Т. 11, № 3. — С. 48–53.

8. Cocco L. и др. Simulating Kanban and Scrum vs. Waterfall with System Dynamics. , 2011. 117 с.

9. Комлева Н. В., Вилявин Д. А. Цифровая платформа для создания персонализированных адаптивных онлайн курсов // Открытое образование. 2020. №2. URL: https://cyberleninka.ru/article/n/tsifrovaya-platforma-dlya-sozdaniya-personalizirovannyh-adaptivnyh-onlayn-kursov (дата обращения: 30.01.2022).

10. Леонов А. Г., Бесшапошников Н. О., Прилипко А. А. Цифровизация образования – Новые возможности управления образовательными треками // Вестник кибернетики. — 2018. — Т. 30, № 3. — С. 154–161.

11.   Heift T. Web Delivery of Adaptive and Interactive Language Tutoring: Revisited // International Journal of Artificial Intelligence in Education. 2015
12. Применение подхода поэтапной трансформации при построении системы адаптивного обучения на примере цифровой образовательной платформы Мирера / Дьяченко М.С., Леонов А.Г. // Информатизация образования и методика электронного обучения: цифровые технологии в образовании: материалы VI Международной науч. конф., г. Красноярск, 20–23 сентября 2022 г.: в 3 ч. Ч. 3 / под общ. ред. М. В. Носкова. – Красноярск: Красноярский государственный педагогический университет им. В.П. Астафьева, 2022. – c166-172 


комментарии:

..