Риски и вызовы при внедрении искусственного интеллекта в систему высшего образования

Целью данной статьи является изучение возможных рисков и вызовов в системе высшего образования, возникающих в связи с растущей скоростью внедрения технологий, где искусственный интеллект (ИИ) и технологии нейронных сетей уже являются частью ее структуры. Анализ проводится с целью прогнозирования будущего характера высшего образования, а также исследования изменений всей парадигмы преподавания под влиянием ИИ. В статье обозначен ряд ожидаемых проблем, которые могут возникнуть при обучении студентов, в педагогическом процессе, в организации их самостоятельной работы, а также в управлении и администрировании высших учебных заведений при внедрении возможностей ИИ в процесс высшего образования. Затронут вопрос о влиянии ограничений на развитие российской науки, а именно о губительных последствиях для ее развития при монополизации алгоритмов ИИ и субъективном подходе в управлении нейросетью, организованной технократической группой. В ходе анализа пересечений противоположных вопросов, проблемных моментов и положительной динамики влияния ИИ на образовательную систему высшей школы задан вектор для дальнейших исследований на эту тему.

Высшее образование будущего неотделимо от процесса развития цифровых технологий с использованием алгоритмических решений ИИ. Достижения в области ИИ открывают новые перспективы и вызовы, способные фундаментальным образом изменить систему преподавания, управления и внутреннюю архитектуру высших учебных заведений.

В соответствии с «Национальной стратегией развития ИИ на период до 2030 года», с Федеральным законом «Об образовании в Российской Федерации» образовательные организации высшего образования России должны занять лидирующие позиции в мире к 2030 году по направлениям в области искусственного интеллекта [9; 10]. Для этого в образовании трансформация должна затронуть программы обучения, методики, систему оценивания. Цель этих действий — воспитание специалистов нового поколения, которые будут обладать профессиональными компетенциями, позволяющими рассматривать рабочие задачи с новой точки зрения, более творческой и недоступной в нашем сегодняшнем восприятии и понимании.

На конференции «Путешествие в мир ИИ» президент Российской Федерации сказал, что «стены между людьми и системами ИИ начинают разрушаться, системы ИИ расширяют возможности человека», при этом, по его словам, ИИ не заменит грамотного специалиста, но может стать «их верным, эффективным помощником» [7]. Внедрение ИИ в высшее образование — перспективное направление, однако наряду с положительными возможностями следует учесть все возникающие в процессе риски. Необходимо изучить их и минимизировать, чтобы не утратить ценностную безопасность и качество образовательного процесса.

Цель статьи — обозначить и проанализировать проблемные вопросы, возникающие при внедрении и применении ИИ в системе высшего образования.

ИИ развивается ускоренными темпами, что имеет прямое влияние на комплексный характер услуг в рамках образования. Высшее образование находится на пересечении глобальных изменений, которые несут с собой исключительные возможности, но и опасности [12]. Необходимо выявить тенденции технического прогресса в качестве усиления и замены некоторых педагогических технологий и административных мероприятий решениями ИИ. Потенциал цифровых технологий ИИ в высшем образовании заключается в расширении горизонта человеческих возможностей, новизны в преподавании, обучении и исследованиях.

Нейронные сети ИИ — это математическая модель, сформированная в программный код, способный прогнозировать решения поставленных интеллектуальных задач на основе критериев заданных вопросов, используя информацию из баз данных, составленных на ранее решенных логических вопросах и накопленной информации. Решения, принимаемые ИИ, зависят от определенной технологизации алгоритмов, обладающих встроенной способностью изучать закономерности и делать на основе этого прогнозы. За эти действия отвечает программное обеспечение, способное распознавать уже известные тенденции и применять вновь обнаруженные паттерны к ситуациям, которые не были включены или охвачены их первоначальным замыслом [11]. Главное преимущество нейросети над другими технологическими объектами заключается в том, что она способна сама обучаться, выстраивать новые логические цепочки для решения поставленных задач, а также объединять цифровые коммуникации в целые комплексы для осуществления целей.

Высшие учебные заведения сегодня используют зарождающуюся форму ИИ, например, в виде консультаций студентов с помощью чат-ботов, способных предоставлять индивидуальную обратную связь, что уже сокращает количество необходимого персонала, ранее выполнявшего эти функции [7]. Даже если ответы ИИ основаны на алгоритмах, подходящих для выполнения повторяющихся и относительно предсказуемых задач, такое применение — это пример будущего влияния на административное устройство заведений высшего образования, что поменяет структуру качества услуг, динамику распределения времени и задач, количество рабочей силы.

ИИ позволяет масштабировать многие образовательные аспекты, предоставляет реальную возможность усилить и улучшить взаимодействия участников образовательного процесса. С помощью технологий ИИ снимается пласт ответственности и рутинной работы с сотрудников высших учебных заведений путем автоматизации некоторых действий. В основном это касается объемных типовых задач: проверка заданий, замер уровня знаний, контроль успеваемости, проведение тестирований, а также других объемных, отнимающих время задач [13]. В персонализации обучения предоставляется возможность индивидуализировать программы с целью точечного воздействия на каждого студента, учитывая его уровень знаний и время для комфортного восприятия новой информации. Также стало возможным составлять алгоритмы для распознавания и прогнозирования студенческих успехов или, наоборот, выявления рисков отставания, чтобы заблаговременно принять меры и создать благоприятные условия. Нейросеть формирует цифровые платформы, которые способны интегрировать как решения ИИ, так и творческий подход преподавателя и обучающихся. Эти возможности позволяют создать эффективную модель педагогического процесса, результатом которого является сформированная профессиональная компетенция у обучающегося, требуемая в современном многополюсном запросе работодателей [3].

Но важно признавать существующие ограничения традиционных педагогических технологий, поэтому на сегодняшний день существуют причины не полагаться полностью на алгоритмические решения ИИ в сложных процессах. Можно привести пример того, «как энтузиазм и безоговорочная вера в возможности ИИ революционно нового автомобиля привели к гибели водителя, когда «автопилот» не обнаружил с помощью встроенного программного обеспечения грузовик, и случилась трагическая авария» [15]. Еще один случай, который показывает, насколько ошибочно безоговорочно доверять боту на базе ИИ. Так, компания Microsoft внедрила в Твиттер робот Тау — с полной уверенностью в способности бота работать независимо. Однако обнаружилось, что Tay стал стремительно превращаться в расистский, фанатичный и разжигающий ненависть аккаунт. Как отмечено в научной работе В.А. Москвина: «Очевидно, что свои пределы возможностей есть у любой системы в нашем мире. Искусственному интеллекту не хватает интеллекта» [8]. Таким образом, очевидно, что ИИ в образовании выступает фактором не столько технического, но и социально-культурного эксперимента, перед внедрением которого необходимо научное моделирование и проектирование.

ИИ тоже свойственно ошибаться, так как его работа основана на данных, предоставленных ранее людьми, и их негативный опыт, предвзятость или размытые, противоречивые сведения могут повлиять на дальнейшее искажение в принятии однозначно достоверных решений. Но особая сложность в том, что ИИ не в состоянии распознать собственные ошибки, ведь путь к его решениям является логически выверенным и не предусматривает, что данные, изначально взятые за основу, являются ошибочными, что делает невозможным получение адекватного решения [1].

Идея о том, что можно положиться исключительно на технологии ИИ, небезопасна в плане получения позитивных образовательных результатов. Концентрация внимания только на возможностях ИИ может привести к трагической реальности, где преподавание без живого человека может быть сведено к сухой передаче информации для слушателей, тогда как первоочередной задачей педагога является необходимость сформировать образованных, ответственных и эмпатичных граждан, которые привержены общим ценностям гуманизма [2]. В настоящее время важно обозначать и выявлять проблемы, анализировать и рефлексировать, просчитывать и задавать первоочередные направления ограничений действий и контроля ИИ — такие как конфиденциальность информации, распределение власти и контроля над действиями ИИ, соблюдение прав человека, развитие креативности, развитие интуиции и неожиданных путей в преподавании и обучении.

Также с внедрением ИИ в систему образовательных учреждений необходимо предусмотреть отсутствие монополизации власти над программированием и алгоритмами, техническими обществами, которые их задают и контролируют. Из таких сообществ может сложиться мощная монополия, влияющая на решения ИИ. Такая ситуация приведет к намеренному отсутствию прозрачности в отношении алгоритмов и способов их использования. Это может нарочито небрежно преподноситься как нормальное положение вещей, естественное в эпоху Интернета, но такие действия приведут к крайне опасному уровню неоспоримой власти [12]. Монополии, контролирующие алгоритмы и запускающие решения с использованием ИИ, получат безграничное влияние на действия людей и каждый сектор современного общества. В их интересах подменить демократическую модель выбора решений на диктаторскую, основанную на субъективных мнениях и личных интересах.

Вмешательство в сферу высшего образования, при котором ущемляется свобода мышления и исследования, приведет его в упадок. Такие манипуляции, ограничивающие знания, искажают и сводят на нет понимание и продвижение науки в государстве [5]. Вышеперечисленные риски при внедрении ИИ в систему высшего образования слишком важны, чтобы отмахиваться от них и не уделять должное внимание тщательному исследованию и анализу последствий.

Сейчас высшее образование находится на начальном уровне использования возможностей, открываемых ИИ. Это вдохновляет, но и ведет к соблазну приравнять образование к решениям, предоставляемым алгоритмами, так как возникает поверхностный, но прибыльный подход в образовании, где преподавание заменяется автоматизированными решениями с использованием ИИ [14].

Конечно, с развитием ИИ образование движется к моменту, когда с помощью цифровых технологий процессы обучения и воспитания будут управляться запрограммированными в ИИ моделями. Однако сегодня невозможно представить будущее, в котором алгоритмические решения смогут адекватно заменить сложность умозаключений и гуманитарной направленности человеческого разума.

Трансформация системы образования в области применения ИИ не должна упустить из фокуса внимания то, что педагогическая деятельность, в первую очередь, ориентирована на умозаключения человека, а не на технологические решения. Поэтому нужны качественные фундаментальные исследования для разработки и внедрения эффективных методов взаимодействия человека и ИИ в систему высшего образования. Критичный взгляд и анализ предлагаемых решений ИИ — это гарантии того, что высшие учебные заведения России смогут поддерживать, продвигать и развивать знания и науку.

Нарастающие темпы технологических инноваций и связанные с ними преобразования требуют пересмотра взглядов и действий всех участников образовательного процесса, их новые роли и задачи, применяемые педагогические технологии и образовательные модели. Высшей школе необходимо переосмыслить действующие методики преподавания и педагогические технологии, выстроить полезную и продуктивную модель взаимоотношений с решениями в области ИИ. Также стоит уделить особое внимание исследованиям последствий текущего контроля над разработками ИИ и не допустить ограничения принятия решений и наполнения информацией банков данных монополией. Важно сосредоточиться на роли преподавателя во взаимодействии с ИИ, на новой траектории образовательного пути для обучающихся, с новым набором профессиональных качеств выпускника, с акцентом на воображение, креативность и инновации — т. е. таком наборе способностей и навыков, которые вряд ли когда-либо смогут воспроизвести машины без помощи человека.

1. Амиров Р.А., Билалова У.М. Перспективы внедрения технологий искусственного интеллекта в сфере высшего образования [Электронный ресурс] // Управленческое консультирование. 2020. № 3. С. 80–88. doi:10.22394/1726-1139-2020-3-80-88
2. Деткин А.Н., Давыдова Г.И. Эффективность педагогического сопровождения в процессе повышения цифровой компетентности сотрудников [Электронный ресурс] // Профессиональное образование и рынок труда. 2022. № 1. С. 127–142. doi:10.52944/PORT.2022.48.1.008
3. Давыдова Г.И., Петров И.А. Рефлексивная технология развития творческой направленности личности студентов // Инновации в образовании. 2013. № 5. С. 108–117.
4. Искусственный интеллект в образовании [Электронный ресурс] // TADVISER. Государство. Бизнес. Технологии. URL: https://www.tadviser.ru/index.php/Статья:Искусственный_интеллект_в_образовании (дата обращения: 07.02.2024).
5. Итинсон К.С., Чиркова В.М., К вопросу о влиянии искусственного интеллекта на сферу современного образования [Электронный ресурс] // Азимут научных исследований: педагогика и психология. 2021. Том 10. № 1 (34). С. 299–301. doi:10.26140/anip-2021-1001-0076
6. Капустина Л.В., Ермакова Ю.Д., Калюжная Т.В. ChatGPT и образование: вечное противостояние или возможное сотрудничество? [Электронный ресурс] // Концепт. 2023. № 10. С. 119–132. doi:10.24412/2304-120X-2023-11099
7. Конференция «Путешествие в мир искусственного интеллекта» [Электронный ресурс] // Президент России. URL: http://www.kremlin.ru/events/president/news/72811 (дата обращения: 02.02.2024).
8. Москвин В.А. Искусственному интеллекту не хватает интеллекта // Системный анализ в проектировании и управлении: Сборник научных трудов XXIII Международной научно-практической конференции. Ч. 1. СПб: Издательство Политех-Пресс, 2019. С. 230–239.
9. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» [Электронный ресурс] // КонсультантПлюс. URL: https://www.consultant.ru/document/cons_doc_LAW_335184/ (дата обращения: 12.02.2024).
10. Федеральный закон «Об образовании в Российской Федерации» от 29.12.2012 № 273-ФЗ (последняя редакция) [Электронный ресурс] // КонсультантПлюс. URL: https://www.consultant.ru/document/cons_doc_LAW_140174/ (дата обращения: 02.02.2024).
11. Фирсов М.В., Филатова О.Н., Гущин А.В. Опережающие обучение навыкам будущего (Future Skills) посредством разработки компьютерных тренажеров и цифровых ассистентов с искусственным интеллектом [Электронный ресурс] // Известия Балтийской государственной академии рыбопромыслового флота: психолого-педагогические науки. 2020. № 3 (53). С. 11–16. doi:10.46845/2071-5331-2020-3-53-11-16
12. Шефиева Э.Ш., Исаева Т.Е., Использование искусственного интеллекта в образовательном процессе высших учебных заведений (на примере обучения иностранным языкам) [Электронный ресурс] // Общество: социология, психология, педагогика. 2020. № 10 (78). С. 84–89. doi:10.24158/spp.2020.10.15
13. Шобонов Н.А., Булаева М.Н., Зиновьева С.А. Искусственный интеллект в образовании // Проблемы современного педагогического образования. 2023. № 79-4. С. 288–290.
14. Kuler A., Holz E.M., Sellers E.W., Vaughan T.M. Toward Independent Home Use of Brain-Computer Interfaces: A Decision Algorithm for Selection of Potential End-Users // Archives of Physical Medicine and Rehabilitation. 2015. Vol. 96(3 Suppl 1). P. S27–S32. doi:10.1016/j.apmr.2014.03.036
15. Popenici S.A.D., Ker Sh. Exploring the impact of artificial intelligence on teaching and learning in higher education // Research and Practice in Technology Enhanced Learning. 2017. Vol. 12(1). doi:10.1186/s41039-017-0062-8