Введение
Информационные технологии стремительно становятся неотъемлемой частью нашей жизни, порождая при этом множество вопросов и проблем. В этой связи тематика информатизации (цифровизации) становится одной из важнейших в исследованиях самых различных направлений науки и практики. При этом объектом рассмотрения все чаще становятся системы искусственного интеллекта. В настоящий период времени последние делятся на два основные класса: нейронные сети и экспертные системы.
Нейронные сети (нейросети), это совокупность средств вычисления, связанных между собой в единую структуру, аналогичной той, по которой построены нервные биологические сети. Содержательно нейронные сети представляют собой совокупность адаптивных алгоритмов, реализующихся в двух режимах: в режиме обучения и в режиме практического применения.
В режиме обучения происходит подбор параметров (настройка) нейросети так, чтобы при подаче на ее вход большого массива информации на выходе формировался заранее известный результат. При этом если нейросеть обучается на размеченных входных данных, то говорят о обучении с учителем. Если же нейросеть обучается на неразмеченных данных, то она пытается найти во входной информации скрытые закономерности и, выявляя их ключевые характеристики, формирует на выходе классы «похожих» объектов. В этом случае говорят, что обучение проводится без учителя (Васенков, 2007).
По существу, обучение есть осуществляемая на данном информационном массиве подгонка настройки параметров нейросети для получения подходящего ответа на поставленную задачу. Отсюда характерное свойство нейросетей — непрозрачность: на входе и выходе нейросети информация известна, а что происходит внутри остаётся загадкой (обладающие таким свойством объекты принято называть «чёрными ящиками»). Основная причина этому кроется в самом способе обучения нейросетей. Поскольку учатся они самостоятельно на конечном числе примеров, это приводит к тому, что механизм формирования конкретного выхода сложно объяснить и понять.
В режиме же практического применения на вход обученной модели подается определенный запрос, и обученная нейросеть формирует ответ, действуя по принципу «как научили». Следовательно, нейросеть использует приобретенный в прошлом опыт для решения задач в несколько иных условиях (поэтому-то и говорят, что она обладает искусственным интеллектом (Воронов и др., 2023).
Важно отметь, что нейросети не решают задачи в привычном для человека смысле, а «рисуют узор», похожий на тот, что мы ожидаем, они «решают поставленные задачи своим собственным способом, не имеющим прямого эквивалента в человеческом мышлении» (Кузнецов, 2020, с.176).
Поскольку обучение проводится на одном наборе данных, а решение практических задач на другом, в каждом конкретном случае нейросети могут ошибаться. Однако, на чем большем и разнообразном объеме информации проходило обучение, тем чаще нейросеть будет угадывать верный ответ (Толмачев, 2021). Понятно, что позитивный результат будет выше, если и обучение, и использование нейросети будет осуществляться в рамках конкретной предметной области (сказывается эффект специализации).
Качественно иным классом систем искусственного интеллекта являются экспертные системы (Ватьян и др., 2022, 2007). Эти системы, имея в своем составе формализованную базу знаний (как правило, для конкретной предметной области), решают поставленные задачи следуя законам математической логики. Поэтому после создания экспертной системы есть основания быть уверенным, что она будет делать именно то и так, как мы хотим. Такие системы как бы «уже рождаются готовыми» — их не нужно обучать, как это делают с сетями, потому что сам процесс их создания — уже некоторого рода обучение. Эффект чёрного ящика для экспертных систем просто не возникает, поэтому при использовании экспертных систем имеется возможность трассировки процесса полученного ответа, т.е. давать объяснение того, как и почему при данных условиях получен ответ (нейросети в принципе лишены этого).
Конечно же, экспертные системы имеют и существенные недостатки. Во-первых, их сложно создавать. Чтобы построить такую системы необходимо иметь обширные знания в данной предметной области и в формализованном виде ввести их компьютер (заметим, для создания нейросетей надо лишь обеспечить им доступ в информационное пространство). Для полноты получения знаний целесообразно использовать несколько экспертов, что влечет за собой возникновение новых трудностей, обусловленных необходимостью предотвращать возникающие при этом «нестыковки». Практика подтверждает, что при стремлении включить базу экспертной системы слишком большого количества квантов знаний она начинает «сбоить». Этот эффект начинает проявлять себя при превышении в базе знаний правил типа «если ..., то …, иначе …» свыше тысячи).
Сегодня особенно бурно развиваются нейронные сети, когда говорят об искусственном интеллекте почти всегда имеют ввиду нейросети. Да, разработка работоспособных современных нейросетей фантастически дорога и требует уникальных вычислительных мощностей. Так только для создания инфраструктуры, поддерживающей чат-бот Microsoft Ding AI, было затрачено 4 миллиарда долларов (Овчинский, Ларина, 2025, с.61). Однако для пользователей созданы удобные и вполне доступные условия использования таких систем. Секрет популярности средств искусственного интеллекта основанных на нейросетях кроется в их универсальности, доступности и простоте использования. Теперь при наличии выхода в информационное пространство с их помощью может быть найден ответ практически на любой вопрос: сформирован требуемый текст, фрагмент видео или музыки, может быть сдан экзамен, причем с результатом зачастую лучшим, чем это сделает иной профессионал. Развитая нейросеть может выступать личным консультантом по широкому спектру деятельности (быть юристом, лингвистом, диетологом, бухгалтером, астрологом, программистом и пр.). Она уже может общаться на многих языках, исправлять программные продукты и задавать вопросы другим нейросетям. Буквально каждый день арсенал их возможностей пополняется.
Да, сегодня нейросеть еще не всегда может работать как автономный работник, но как его ассистент – работает отлично. Важно отметить, что продвинутые нейросети уже умеют находить закономерности в большом потоке информации.
Большинство специалистов не без основания считают, что системы искусственного интеллект открывают перед человечеством грандиозные перспективы. Однако, по мере эксплуатации нейросетей выявляется ряд присущих им недостатков, более того и обусловливаемых ими потенциальных опасностей. Вот только некоторые из них.
Относительно результатов ответов нейросетей на запросы практически невозможно гарантировано отнести их к истинным или ложным. Причины этого, как сказано выше, обусловлены спецификой формирования нейросетей, ибо в принципе невозможно описать логический путь, следуя по которому получено принятое системой искусственного интеллекта решение, а, следовательно, обнаружить причину возникновения ошибки.
Нейросети формируют статистически вероятные прогнозы, которые в ряде случаев вполне допустимы и активно используются во многих областях деятельности, таких как: менеджмент, экономика, медицина и др. (Аверкинa, Ярушев, 2021). В критически важных приложениях, часто требуется объяснение того, каким образом нейронная сеть получила данный результат. В этих случаях нейросети должны применяются с повышенной осторожностью.
Нейросети обучаются на определенном массиве доступной им информации (главным образом присутствующей в интернете) при этом, как правило, ее источники не контролируются. Данные же из интернета могут нести как достоверную, так и искаженную информацию (Shumailov and others, 2023).
Все чаще нейросети используют в качестве цифрового аватара пользователя, массово нарушают приватность людей, осуществляется утечка информации, создаются комфортные условия для манипуляции сознанием людей. Большие неприятности доставляет способность средств искусственного интеллекта создавать различные дипфейки (Воронин, 2024). С их помощью, например, можно создавать видео, в которых нужные людей в вымышленных ситуациях произносят тексты, которые они никогда не говорили, или совершают действия, которые они никогда не совершали.
Следует заметить, в информационное пространство во все большей мере поступает информация, синтезированная самими нейросетями, которая не всегда доброкачественная. Более того, реализуются процессы целенаправленного искажения тренировочных данных, создаются закладки (например, типа «троян»), которые искажают нужную логику обучения нейросети (Намиот, 2023). Перечень такого рода «способностей» нейросетей можно продолжить.
Результаты анализа ситуации
По существу, в наши дни происходит очередная технологическая революция. Предметом происходивших ранее технологических революций, приводившим к качественным изменениям образа жизни людей (появление двигателей, электрификация, химизация т.п.) были вещественно-энергетические процессы. Информационные же технологии основным предметом своего внимания имеют процессы обработки информации, что и определяет не только особенности их протекания (стремительность развития и масштабность), но и спектр вызываемых ими вероятных результатов применения.
Специфика революции именно информационных технологий обусловливает несомненный приоритет изучения роли и места этих технологий в сфере образования, причем эта проблематика резко актуализируется при появлении доступных современных средств искусственного интеллекта (Бермус, 2024).
Не вызывает сомнения следующий тезис: искусственный интеллект – результат объективного развития цивилизации и его нельзя отменить, а следует искать способы его эффективного позитивного применения. Заметим, когда мы оказываемся на переломных этапах жизни цивилизации, как правило, возникает ситуация, когда в негативных (по результатам применения) приложениях новации рождаются спонтанно и, как бы сами собой, а для их использования в позитивных приложениях, как правило, приходится прилагать серьезные усилия. Не составляет исключение и введение новых информационных технологий в сферу образования.
Несомненно, использование в образовании информационных технологий во всех его составляющих потенциально может быть полезно, хотя бы потому, что открывает новый спектр ранее недоступных новаций (Долгая, 2020). Однако при любых новациях достижение конечной цели каждой образовательной программы должно обеспечиваться. Напомним, образование, как одна из основных обязанностей любого государства, имеет цель: путем передачи знаний, умений и социального опыта воспитывать подрастающее поколение способное и готовое сохранять и развивать свое отечество. К сожалению, на этом пути встречается множество проблем. Так в каждой образовательной программе должны бы четко конкретизированы преследуемые цели и даны адекватные способы измерения меры их достижения. Это крайне сложная ждущая своего разрешения проблема, и педагогическое сообщество стремится к ее разрешению.
В последнее время лавинообразно нарастает количество фактов, свидетельствующих о проявлении негативных моментов в процессах внедрения систем искусственного интеллекта в практику работы сферы образования. Это, в частности, «масса случаев плагиата, несформированность компетенций преподавателей и студентов по использованию возможностей ИИ в обучении и научной деятельности, нарушение привычного формата взаимодействия в академической среде и др.» (Алешковский, и др. 2024, с. 338).
Так высказываются предложения убрать из учебных планов курсовые работы по причине того, что студенты выполняют их с помощью средств искусственного интеллекта. Но без самостоятельно выполненных индивидуальных работ (здесь ключевое слово «самостоятельно») студенту трудно освоить многие аспекты своей будущей специальности. Представляется справедливым опасение в том, что замена в процессах обучения творческой самостоятельной работы на использование везде и всюду возможностей искусственного интеллекта грозит снижением уровня развития молодежи. Проведенные исследования уже позволяют констатировать: широкое использование искусственного интеллекта для замены работы собственного мышления приводит к заметному снижению способности к запоминанию и критическому мышлению обучающихся (О'Коннелл, 2025).
Следует отметить, что тенденция введения подобного рода «новаций» может привести к формированию критически большой массы людей неспособных логически мыслить и они перестанут быть субъектами своей активности, возникнет соблазн отчуждения их сознания, что может привести к весьма плачевным социальным последствиям (Воронов, Толкачев, 2024).
К сожалению, негативные результаты введения новых информационных технологий в сферу образования часто вызваны не педагогическими соображениями. Так одним из основных показателей успехов образовательного учреждения становится масштаб использования в нем различного рода информационных технологий. Как следствие, в результате массового, часто не обоснованного и даже принудительного введения в учебный процесс средств искусственного интеллекта обучение сводится к тому, что пользователя учат просить компьютер дать им желаемое, но не учат самому достигать этого. В результате обучаемые, скорее всего, станут, не специалистами в своей предметной области, а так называемыми промпт-инженерами (инженерами запросов). Катастрофически быстро складывается тревожная тенденция: безоглядное использование обучающимися средств информационных технологий (особенно на младших курсах) ведет не просто к имитации учёбы, а, если следовать терминологии Жана Бодрийяра, симуляцией, сокрытием отсутствия обучения (Закирова, Кашин, 2012). При этом по факту провозглашаемая цель о подготовке грамотных, способных к творческой деятельности выпускников вузов как-то отдвигается на второй план.
Обсуждение
Да, по-видимому, потребность в услугах промпт-инженеров будет возрастать. Но кто-то должен генерировать новые идеи, изобретать качественно новое, совершенствовать существующее. На качественной подготовке только «вундеркиндов» общество долго не сможет развиваться. Нужна подготовка масс молодых людей способных создавать (инженеров-создателей). Представляется целесообразным параллельная (а не последовательная, как сейчас) подготовка выпускников этих двух видов. Образно говоря промпт-инженеров следует готовить по схеме «от метода к задаче», а инженеров-создателей по схеме «от задачи к методу».
Как утверждает педагогическая наука, детей надо учить по принципу «от простого к сложному». Суть такого же подхода должна сохраняться и в высшей школе, по крайней мере при подготовке инженеров-создателей: вначале студент должен понять ответы на базовые вопросы «как, что и почему?». Для этого ему необходимо получить фундаментальное образование и научиться логически мыслить. На последующем этапе (на старших курсах), на этапе освоения собственно своей профессии, он должен, используя все доступные технологии и приемы, приобрести не только профессиональные умения и навыки, но и способность адаптироваться к деятельности в широком спектре возможных ситуаций, т.е. стать функционально грамотным человеком. Заметим, именно такая схема предусмотрена в обнародованной Минобрнауки России концепции нового высшего образования в России.
Одним из характерных признаков современного этапа жизни цивилизации является опережающее развитие интеграционных тенденций. В этой связи наряду с развитием рационального мышления в учебном процессе все большее значение приобретает интеграционное мышление, а их синтез может стать ключом к адекватному восприятию реальности и успешной в нее условиях деятельности. Для этого при разработке учебных планов и их реализации требуется внедрение реального системного подхода, а не его имитации, устранение имеющихся тенденций намеренного принижения роли знаний о единстве мира, законах его строения и функционирования, адекватно относиться к использованию базирующиеся на них образовательных методик.