Введение и краткий обзор
Поворотным моментом в развитии новых возможностей искусственного интеллекта (artificial intelligence, AI) принято считать 2017 год, после которого стали доступны трансформенные интегративные модели, работающие на новом уровне сложности и производительности (Zhai, C., Wibowo, 2023, 2024).
М. Сондерс (Saunders M.) обращает внимание на историческое наследие, на то, что иди о потенциале развития технологий уже давно были высказаны (например, Чарльзом Кеем Огденом (Charles Kay Ogden)), в частности, о создании электронных тел и сетевых коммуникаций, что соответствует современным разработкам в области искусственного интеллекта и виртуальной реальности (Saunders, 2025).
В короткий промежуток времени, нескольких последних лет, в исследовательских, образовательных и психологических практиках случилась практически революция, связанная с новыми технологиями обучения, научного анализа, исследования различных функций психики и поведения, а также с разработками интеллектуальных терапевтических (с возможностью высокой индивидуализации) систем.
Разработки ИИ в психологии затронули, прежде всего, наиболее востребованные сферы клинической практики, касающиеся диагностики, общения, системной поддержки, средств взаимодействия с людьми с ограниченными возможностями здоровья. Робото- и аватаро-терапия радикально преобразили клинический арсенал специалистов для оперативной (скрининговой) и более глубокой диагностики, а также для терапевтических взаимодействий.
Известный проект «Аватар» (используемый в дополнение к фармакологической терапии), позволяющий осуществлять общение через компьютерные интерфейсы с пациентами, имеющими шизофренические расстройства, зрительные и слуховые галлюцинации, позволил снизить интенсивность и частоту галлюцинаторного материала и улучшить качество жизни людей (Craig, et al., 2018). Робот KASPAR, наделенный выразительными чертами лица, и робот Neo, улучшающий распознавание лиц и реакций на взаимодействие, используется для тренировки социальных навыков в терапии детей с аутизмом (Calderita, et al., 2014), Робот-система RP-VITA сделал ультра-продвинутой экспертно-диагностическую деятельность в области психиатрии и психического здоровья, позволяя реализовать удаленное взаимодействие врача и пациента, постоянный контроль самочувствия, регулярную психологическую и неврологическую поддержку (Craig, et al., 2018). Системы ИИ помогают детально и точно понимать потребности пациентов, делать доступными индивидуальные программы поддержки с учетом актуального состояния человека.
Большую популярность приобрели системы укрепления психологического здоровья (Han, 2025): Replica (для эмоциональной поддержки и дружеского общения), Woebot (для усиления эффектов когнитивно-поведенческой терапии), You per (для поддержания эмоционального благополучия), Tess (помощник в выборе стратегий преодоления).
Активно применяются возможности технологий в коррекции состояний, возникающих в момент и после катастроф. Р. Фаттахипур и коллеги (Fattahipour, R. et al.) показали, что искусственный интеллект может играть ключевую роль в диагностике и лечении психологических проблем, возникающих вследствие стихийных бедствий и техногенных катастроф. Авторы предложили SWOT-анализ выделения сильных и слабых («зоны риска») сторон ИИ в системе оказания первой психологической помощи (Fattahipour et al., 2025). Исследование ИИ-оценки стратегий преодоления психологических последствий землетрясения студентами университетов (Sulak, Koklu, 2025) зафиксировало значимость и эффективность машинных технологий как средства помощи в управлении субъективными переживаниями в экстремальных ситуациях.
Нельзя не упомянуть об активном росте публикаций в сфере внедрения ИИ в управление человеческими ресурсами, где доминируют вопросы автоматизации и «снятия» предвзятости при подборе персонала (Tursunbayeva et al., 2026). Например, Хендри Сучипто (H. Sucipto) провел анализ проблем интеграции искусственного интеллекта в сферу управления и на материале 37 научных статей выявил такие преимущества внедрения ИИ, как повышение эффективности и качества управленческих решений. Вместе с тем были обнаружены проблемы, связанные с нарушением конфиденциальности данных, необходимостью повышения квалификации персонала и негативным психологическим воздействием на работников, повышающим общий уровень тревожности, ухудшающим настроение, усиливающим неопределенность в карьерных перспективах. Автор приходит к выводу о том, что, несмотря на очевидные выгоды интеграции ИИ в управление, требуется детальная разработка правил его безопасного использования и учета современных реалий (Sucipto, 2024). К сходным выводам пришли психоневрологи Джин Дж., Цзян Дж. и Ляо Х. (Jin, G., Jiang, J., Liao, H.) на основе обзора 51 статьи: центральной проблемой расширения применения ИИ в производственно-управленческих системах является страх за сохранение своего рабочего места, который становится значимой детерминантой ухудшения эмоционального состояния сотрудников и снижения их готовности к внедрению инноваций (Jin, Jiang, Liao, 2024).
Активное применение ИИ находит в сфере психологического обеспечения спортивных достижений, особенно в части прогнозирования результатов и диагностики зон требуемой помощи и коррекции. Например, Ю. Конг и З. Дуан (Kong Y., Duan Z.) разработали модель распознавания поведения боксеров на основе сверточной нейронной сети с учетом психологических характеристик спортсменов. Модель «BERT fusion 3D-ResNet» достигла 96,9%, точности прогноза, обеспечивая глубокое понимание психологического состояния спортсменов, и позволила эффективнее помогать им в подготовке и непосредственно во время соревнований (Kong, Duan, 2024).
Сфера образования одной из первых начала применять ИИ в исследованиях и педагогических практиках. В частности, есть работы о взаимосвязи личностных качеств студентов и способов применения ими ИИ (Rodríguez-Ruiz, Marín-López, Espejo-Siles, 2025). Установлено, что низкий уровень самоконтроля коррелирует с повышенным использованием ИИ, а высокая самооценка снижает вероятность обращения к машинным технологиям (Rodríguez-Ruiz, Marín-López, Espejo-Siles, 2025).
Функциональные возможности ИИ в образовании привлекательны с точки зрения автоматизированной и дифференцированной оценки результативности учащихся. В одной из научно-практических работ была предложена новая шкала (AI-SAS) для оценки отношения учащихся к системам оценивания на основе искусственного интеллекта. В процессе апробации шкала прошла процедуру валидизации и оказалась надежно-достоверной для использования в образовательной практике (Boduroglu, Yigiter, 2026).
Большое внимание (в контексте внедрения ИИ в жизнь и профессиональную деятельность) в зарубежных публикациях уделяется психологическим аспектам взаимодействия человека с особой формой искусственного интеллекта в форме антропоморфных роботов. Николас Спатола и Серена Марчези (Spatola N., Marchesi S.) на основе обобщения множественных данных указывают, что уже после непродолжительного взаимодействия с подобными имитационно-антропоморфными устройствами люди склонны их «очеловечивать», приписывая этим механизмам намерения, аналогичные человеческим (Spatola, Marchesi, Wykowska, 2022). Собственные эксперименты авторов обнаружили, что степень атрибутивности человеческих намерений искусственному интеллекту определятся степенью когнитивной сложности задач, которые люди решают с помощью ИИ; при этом имеет значение степень субъективной когнитивной сложности, т. е. насколько конкретная задача когнитивно сложна для конкретного субъекта (Spatola, Marchesi, Wykowska, 2022).
Аналогичные феномены выявлены и при работе человека с большими языковыми моделями из группы ChatGPT. Обнаружен факт воздействия высокой степени убедительности генерируемых такими системами текстов (например, с описанием психических состояний и постановкой клинического диагноза) на человека: получающие ответ люди склонны приписывать применяемой языковой модели эмоции, мысли и намерения (Hadar-Shoval, Elyoseph, Lvovsky, 2023)
Специфика и психологические последствия взаимодействия человека с различными видами ИИ заставляют многих исследователей искать ответы на вопросы об оптимальных границах применения таких мощных интеллектуализированных инструментов в жизнедеятельности людей.
Методология. Небольшой экскурс в актуальность, распространенность и варианты апробации ИИ в разных сферах, где фигурирует психологический фактор, позволил сформулировать основные исследовательские вопросы, поставленные нами в данной работе.
- Как технологии ИИ помогают в решении практических задач, имеющих в своем содержании психологические факторы.
- Какие риски и последствия обнаружены при использовании систем ИИ в психологических, академических и исследовательских практиках.
В качестве метода применен системно-аналитичсекий тематический обзор, помогающий ответить на поставленные исследовательские вопросы посредством отбора, идентификации и интеграции существующих данных. В поиске использовались онлайн-агрегаторы зарубежных рецензируемых научных статей, опубликованных издательствами Taylor & Francis, Routledge и Dove Medical Press с использованием следующих адресов их размещения: https://www.researchgate.net/; https://www.tandfonline.com/; https://link.springer.com/; https://www.scirp.org/index; https://arxiv.org/; https://uwaterloo.ca/; https://www.unesco.org/en. В поисковых запросах использовались формулировки: «генеративный искусственный интеллект в психологии, психологических исследованиях, в обучении и образовании»; «риски и последствия внедрения искусственного интеллекта в психологические практики и исследования»; «диалоговые модели ИИ и формирование зависимости от них»; «генеративный ИИ в психологической науке и практике»; «последствия внедрения ИИ в сферы деятельности, где есть психологический фактор». Критерии отбора статей: полнотекстовый вариант, соответствие теме, предпочтительный временной диапазон 2020—2025 годы (за исключением нескольких более ранних работ). Критерии исключения: недоступность текста без оплаты, несоответствие теме, отнесение к диссертации. Общее количество найденных статей 250, из которых отобрано для просмотра 70, с учетом ограничений количества источников в статье; в окончательный вариант вошла 31 статья.
Особенности внедрения ИИ и его последствия в психологической терапевтической и академической практике
Одной из наиболее сложных, затратных и конфликтных видов деятельности всегда считалась сфера профессий помогающего типа, внутри которой фаворитами считались специальности интеллектуализированной помощи, требующей длительной и сложной подготовки, постоянного волевого усилия и необходимости личностных трансформаций и личностного роста.
Свойства искусственного интеллекта, связанные с возможностью заменить им реальных людей в профессиях типа «человек—человек» (по Е.А. Климову), делают его особенно предпочтительным, как с точки зрения экономии труда и управления (эргономичность, малозатратность, интенсификация и скорость, легкость достижения формализованных результатов, минимизация проблем субъективности), так и с точки зрения самого субъекта труда (возможность переложить рутину на «технологии», новизна, яркость и доступность).
В зарубежных научных публикациях постоянно расширяется тематика, связанная с проблемами применения ИИ в психологии и сопряженных с ней областях. В качестве популярных направлений можно назвать: применение ИИ в системах обучения, переобучения и повышения квалификации (Sherrill et al., 2025); применение ИИ в сфере диагностики в целом, и ранней диагностики психических расстройств в частности; для анализа симптомов и предоставления точной информации о состоянии пациента (Baran, Cetin, 2025), для активного мониторинга в целях предупреждения суицидального поведения: анализа сетевого контента и сообщений пациентов для раннего выявления сигналов тревоги (Atmakuru et al., 2025); для тренировки эмоционального интеллекта: создания интерактивных платформ для развития способностей к управлению эмоциями и социальным поведением (Saha, Ghosh, Khan, 2026); для разработки персонализированных программ психологической реабилитации, позволяющих каждому пациенту получать индивидуализированную помощь (Poulsen et al., 2025).
На основе изучения совместного труда психотерапевта-человека и искусственного интеллекта, при обучении и развитии навыков у психотерапевтов, А.М. Шерилл (Sherrill A.) с коллегами предложили применять ИИ как средство повышения квалификации специалистов для интеграции новых технологий в практику работы профессионалов. Авторы выявили необходимость учета динамики совместной работы специалиста с ИИ, и обязательность структурирования требований к компетенциям, осваиваемым в процессе подготовки. Модель «сотрудничества с ИИ» авторы считают основой взаимодействия при повышении квалификации, наиболее оптимальным инструментом для освоения доказательных методов лечения, позволяющим расширить доступ терапевтов к лучшим существующим методикам работы. Авторы также настаивают на первостепенности этических компонентов в подготовке специалистов — прозрачности, справедливости и конфиденциальности (Sherrill et al., 2025).
В контексте создания интеллектуальных терапевтических систем многие авторы рассматривают применение ИИ для повышения точности диагностики и разработки наиболее эффективных методов лечения психических расстройств. Например, приводятся доказательства высокой точности и эффективности ИИ при проведении диагностических процедур (Abrar et al., 2026). В работе Л. Спицка (Spytska L.) показана высокая положительная эффективность чат-бота «Friend», созданного для оказания психологической поддержки в кризисных ситуациях, в сравнении с традиционной психотерапией (Spytska, 2025).
Большие языковые модели в области психологической медицины повышают точность и управляемость консультирования на основе мультиагентности взаимодействия, где «сети» выступают средством получения знаний и информации, что повышает уровень онтологического понимания конкретной ситуации и проблемы (Liu, Zheng, Cui, 2024).
Одновременно растет количество работ обсуждающих этико-философские вопросы, в частности относимые к использованию дипфейков в психотерапии, где акцентируются проблемы не только этики «согласия», но и формирования эмоциональной зависимости от дипфейков (Kraaijeveld, Ivanova, 2026).
Отношение психологов и терапевтов к внедрению ИИ
М. Демир (Demir M.) и коллеги представили качественный анализ взглядов профессионалов в области психического здоровья на само внедрение искусственного интеллекта. Участники исследования видят в нем эффективный инструмент для наблюдения и управления состоянием пациентов, но высказывают озабоченность по поводу потери личного контакта, угроз информационной безопасности и рисков эксплуатации уязвимых категорий лиц. Исследование выявило двойственное отношение к ИИ, необходимость четких этических рамок и регуляторов для предотвращения злоупотреблений (Demir et al., 2026). Подобные материалы побуждают исследователей и практиков к переосмыслению многих классических концепций и их новому пониманию.
Изучение отношения клинических психологов к внедрению генеративного искусственного интеллекта (GenAI) в терапевтическую практику выявило барьеры его использования: отсутствие знаний о технологиях ИИ и возможность нарушений конфиденциальности информации (de la Fuente Tambo, Iglesias Moreno, Armayones Ruiz, 2025).
Дж. Вагнер и А.С. Швинд (Wagner, J., Schwind, A.S.) в отношении психотерапевтов к ИИ выявили следующее: положительное отношение определяется предполагаемой полезностью ИИ в диагностике и разработке индивидуальных планов лечения, а негативные аспекты определяются страхом утраты работы и недостатком знаний о технологиях ИИ (Wagner, Schwind, 2025).
Карен Йирмия и Питер Фонаги (Yirmiya K, Fonagy P.) обращают внимание на сопряженность применения технологий ИИ с такими глубинными механизмами человеческого развития, как привязанность и формируемая на ее основе способность к восприятию себя и других. Авторы настаивают на серьезности вопроса о регламентации применения технологий генеративного ИИ в психотерапевтической практике, поскольку соблазны «перевода» терапевтического процесса на «высокотехнологичные рельсы» рождают небезопасные риски с мало предсказуемыми последствиями (Yirmiya, Fonagy, 2025). Современные системы ИИ уже способны имитировать такие важные составляющие терапевтическо-консультативного взаимодействия, как эмпатия и диалог. Однако в реальности машинные алгоритмы (пока, во всяком случае) не могут обеспечить настоящее и подлинное эмоциональное присутствие и взаимность, что ставит под сомнение формирование глубокого доверия и значимых терапевтических связей, являющихся основой терапевтического процесса и исцеления. В своих опасениях К. Йирмия и П. Фонаги опираются на теории привязанности (Джон Боулби) и ментализации (Питер Фонаги и Энтони Бейтман (1989)), согласно которым на основе качества привязанности, формируемой у ребенка к значимому Другому, развиваются способности к ментализации — осмысленному пониманию того, что происходит с самим собой и с другими людьми в терминах субъективных состояний и ментальных процессов. Сбои в формировании привязанности с неизбежностью отражаются на качестве процессов ментализации и способствуют развитию психических расстройств разного рода, в том числе депрессии, пограничного расстройства личности, ПТСР, РПП. Нарушения привязанности и ментализации способствуют уязвимости к психической и психологической травме, гиперчувствительности и ошибкам в межличностных взаимодействиях, ослабленности в выражении аффекта и произвольного контроля внимания (Yirmiya, Fonagy, 2025).
К механизмам эмпатии и ментализации, как основы терапевтического взаимодействия, авторы добавляют эпистемологическое доверие — степень уверенности в знаниях, убеждениях и надежности мнения другого человека, основанной на убежденности в компетентности и искренности собеседника или источника информации. Опираясь на названные механизмы человеческого развития и взаимодействия, К. Йирмия и П. Фонаги называют уже проявленные конкретные риски использования ИИ — псевдоментализацию и гиперментализацию, приводящие к неоправданному доверию пациентов по отношению к получаемой информации (Yirmiya, Fonagy, 2025).
В качестве «противоядия» авторы называют этичную интеграцию ИИ в психологические и клинические практики, а главным средством такой интеграции рассматривают систему профессиональной подготовки психотерапевтов и специалистов по психологической поддержке клиентов, в которой процессуально отработаны вопросы этики и границ применения ИИ (Yirmiya, Fonagy, 2025). На сегодняшний день эти и многие другие исследователи подчеркивают недопустимость полного исключения живого человека из взаимодействия в системе «клиент—терапевт».
Принимая во внимание сомнения, высказываемые учеными и практиками, можно предположить, что при тотальном применении систем ИИ в форматах социальной и психологической поддержки может происходить целостное нарушения глубинных механизмов привязанности, идентификации и ментализации, свойственных живому человеческому существу. Обнаруженные последствия широкого применения таких вариантов ИИ, как большие языковые модели, в качестве средств интерпретации психических состояний реальных людей, включая их эмоции, убеждения и намерения (Elyoseph at al., 2024), актуализируют сделанное предположение.
Таким образом, в психологических и терапевтических практиках технологии ИИ значительно улучшают возможности, но наряду с преимуществами обнаруживается и ряд проблем: например, при постоянном обращении к приложениям возникают риски развития аддиктивности (зависимости), не отрегулированы вопросы этики, границ и ответственности (Williams, Lim, 2024).
Сходные проблемы отмечаются в образовательно-академических практиках. Конкретизацию рисков, выявленных в процессе активного внедрения ИИ, можно сделать с опорой на обзорное исследование Ц. Чжай, С. Вибово, Л.Д. Ли, посвященное факторам и последствиям чрезмерной зависимости от диалоговых моделей ИИ в академической сфере (в образовательном и исследовательском контексте) (Zhai, Wibowo, Li, 2024). На основе анализа отобранных 14 статей авторы рассмотрели, какие факторы создают уязвимость пользователей ИИ к формированию зависимости от диалоговых моделей и какие риски и последствия возникают в результате такой зависимости. На основе проработки изученных материалов мы сформировали интегрированную таблицу, в которой выделили специфические возможности ИИ, порождаемые ими эффекты и условия их формирования, а также последствия по каждой из описанных характеристик (табл. 1).
Таблица 1
Возможности ИИ, порождаемые ими эффекты и последствия для пользователей
The capabilities of AI, the effects they generate, and the consequences for users
|
Особенности действия и
работы ИИ /
Features of AI operation and operation
|
Условия возникновения эффектов /
Conditions for the occurrence of effects
|
Создаваемые эффекты под влиянием применения моделей ИИ /
The created effects are influenced by the use of AI models
|
Последствия /
Effects
|
|
1
|
2
|
3
|
4
|
|
Быстрая генерация нужной информации по запросу /
Fast generation of necessary information on request
|
Если пользователь принимает сгенерированные ИИ рекомендации (или информацию)
некритично (без проверки на достоверность) /
If the user accepts the recommendations (or information) generated by AI uncritically (without checking for authenticity)
|
Чрезмерное доверие к контенту от ИИ /
Excessive reliance on AI content
|
Ошибки при решении задач
в контексте принятия решений.
Формируется привычка отдавать предпочтение быстрым и оптимальным решениям (перед медленными, связанными с практическими соображениями и ограничениями).
Способствует развитию некритичности мышления /
Errors in solving problems in the context of decision-making. A habit is formed of giving preference to fast and optimal solutions (over slow ones related to practical considerations and limitations). Promotes uncritical thinking
|
|
Постоянная доступность для использования /
Constant availability for use
|
Регулярность и активность взаимодействия с ИИ /
The regularity and activity of interaction with AI
|
Повышает зависимость от ИИ-систем, как источника информации /
ncreases dependence on AI systems as a source of information
|
Снижает способности к запоминанию.
Снижает заинтересованность в обучении /
Reduces the ability to memorize. Reduces interest in learning
|
|
Галлюцинации (форма конфобуляции — «ложная информация в правдоподобной форме», т.е. генерирование правдоподобного но не достоверного, вводящего в заблуждение контента) /
Hallucinations (a form of confobulation — "false information in a plausible form", i.e. generating plausible but not reliable, misleading content)
|
Если не используются рациональные стратегии оценки и эвристики, но используются ментальные ярлыки /
If rational evaluation strategies and heuristics are not used, but mental shortcuts are used
|
Размываются границы между фактом и вымыслом.
Снижается точность различения контента (создан ли он на основе достоверной информации, появляется проблема выявления несуществующих ссылок) /
The boundaries between fact and fiction are blurring. The accuracy of distinguishing content decreases (whether it was created on the basis of reliable information, there is a problem of identifying non-existent links)
|
Снижаются потенциалы аналитического и критического мышления.
Подрывается доверие к информации от ИИ в цлом.
Может влиять на принятие решений.
Ведет к этическим и правовым дилеммам /
The potentials of analytical and critical thinking are decreasing. Trust in information from AI in Central asia is being undermined. It can influence decision-making. Leads to ethical and legal dilemmas
|
|
Алгоритмические искажения — возникают при обучении ИИ на некачественных базах данных, содержащих предрассудки /
Algorithmic distortions occur when AI is trained on low—quality databases containing prejudice.
|
Если пользователь уверен или убежден, что имеет дело с объективными данными /
If the user is confident or convinced that they are dealing with objective data
|
Усиливаются искажения при анализе информации.
Возникает зависимость от непроверенных результатов, предоставляемых ИИ.
Гендерная предвзятость: культурно-гендерные признаки работают даже если конфиденциальные атрибуты опущены во входных данных —алгоритмы работают на основе этих атрибутов (проявлен приоритет женских имен и образов над мужскими) /
Distortions in the analysis of information are increasing. There is a dependence on the untested results provided by AI. Gender bias: cultural and gender attributes work even if confidential attributes are omitted in the input data -algorithms work based on these attributes (priority of female names and images over male ones is shown)
|
Усугубляется предвзятость и усиливаются предрассудки.
Ведет к ошибкам классификации и неверным интерпретациям.
Ведет к нарушениям в исследованиях и в психологических практиках /
Bias is aggravated and prejudice is intensified. It leads to classification errors and incorrect interpretations. Leads to disruptions in research and psychological practices
|
|
Нарушение конфиденциальности /
Violation of confidentiality
|
Усиливаются при игнорировании этических и правовых норм /
They increase when ethical standards are ignored
|
Незаконное использование данных /
Illegal use of data
|
Нарушение прав частной жизни.
Этические и правовые проблемы /
Violation of privacy rights. Ethical and legal issues
|
|
Проблемы прозрачности /
Transparency issues
|
Скрытость алгоритмов, даже в условиях полного описания программы (никто не понимает, как ведется обработка информации в сетях).
Наличие секретности в создании моделей ИИ, в контексте прав собственности и получения доходов /
Algorithms are hidden, even in the context of a complete description of the program (no one understands how information is processed in networks). The presence of secrecy in the creation of AI models, in the context of property rights and income generation
|
Дезориентация в механизмах создания контента или рекомендаций /
Disorientation in content creation or recommendation mechanisms
|
Повышение тревожности. Возникновение трудноформулируемых сомнений.
Этические дилеммы /
Increased anxiety. The emergence of difficult-to-formulate doubts. Ethical dilemmas
|
|
Генеративные модули — вариационные автокодировщики (ВАЭ) — помогают в разделах «писательского блока» и создании авторского контента/
Generative modules — variational autoencoders (VAE) — help in the sections of the "writer's block" and the creation of author's content
|
Стремление к созданию интересного контента /
Striving to create interesting content
|
Помогают в работе со сложными частями рукописи.
Помогают снять «писательское застойное состояние», обрести вдохновение и способствуют появлению инновационных подходов к решению проблем.
Обеспеченные знаниями из психологии и нейробиологии, могут создавать персонализированные интерактивные среды обучения /
They help with complex parts of the manuscript. They help to remove the "writer's stagnation", gain inspiration and contribute to the emergence of innovative approaches to solving problems. Provided with knowledge from psychology and neuroscience, they can create personalized interactive learning environments.
|
Может развиваться зависимость от таких технологий /
Dependence on such technologies may develop
|
|
Повышение точности ИИ в прогнозировании /
Improving AI accuracy in forecasting
|
Систематическое применение.
Большое количество удачных подтвержденных прогнозов /
Systematic application. A large number of successful confirmed forecasts
|
Все больше доверия к ИИ, и все более полагаются на него в принятии решений /
There is more and more trust in AI, and more and more reliance on it in decision-making
|
Подавление творчества
и новаторского мышления (у студентов и преподавателей).
Снижение качества образования /
Suppression of creativity and innovative thinking (among students and teachers). Declining quality of education
|
|
Генерация заранее сформулированных ответов /
Generating pre-formulated responses
|
Систематичность запросов к ИИ /
The consistency of AI requests
|
Ограничение свободы в выражении собственного мнения и своих уникальных мыслей /
Restriction of freedom to express one's own opinion and one's own unique thoughts
|
Утрата навыков мыслительного усилия и самостоятельности мышления /
Loss of mental effort skills and independent thinking
|
|
Слабость и низкая эффективность систем распознавания сгенерированного контента в научных работах (не более 15% точности выявления) /
Weakness and low efficiency of recognition systems for generated content in scientific papers (no more than 15% detection accuracy)
|
Отсутствие прозрачности в алгоритмах /
Lack of transparency in algorithms
|
Проблема баланса между самостоятельной деятельностью и помощью ИИ.
Проблемы понимания авторства.
Повышение количества сгенерированных текстов и исследований.
Повышение плагиата в научных работах.
Недостаток оригинальности текстов.
Склонность к избытку текста.
Использование тонких и расплывчатых формулировок /
The problem of the balance between independent activity and the help of AI. Problems of understanding authorship. Increase the number of generated texts and studies. Increasing plagiarism in scientific papers. The lack of originality of the texts. A penchant for excessive text. The use of subtle and vague language
|
Проблема соблюдения этических и академических принципов.
Приток ИИ-статей в научную сферу.
Подрыв доверия к научным исследованиям и снижение престижа научных публикаций /
The problem of compliance with ethical and academic principles. The influx of AI articles into the scientific field. Undermining the credibility of scientific research and reducing the prestige of scientific publications
|
|
Имитационная антропоморфность систем ИИ /
Imitation anthropomorphism of AI systems
|
Особенности когнитивной сложности задачи.
Уровень когнитивной сложности самого пользователя и его субъективная оценка сложности решаемой задачи/
Features of the cognitive complexity of the task. The level of cognitive complexity of the user and his subjective assessment of the complexity of the task being solved
|
Приписывание алгоритмам собственных намерений /
Attributing personal intentions to algorithms
|
Утрата дифференциации субъект-объектных отношений.
Развитие зависимости.
Снижение реальных контактов и взаимодействий, в силу чего усиливаются неуверенность и страхи перед реальным миром, влекущие психологические и экзистенциальные проблемы /
Loss of differentiation of subject-object relations. The development of addiction. A decrease in real contacts and interactions, which increases insecurity and fears of the real world, leading to psychological and existential problems
|
Несмотря на то, что приводимые в табл. 1 данные получены преимущественно на материале изучения академической сферы, эти результаты заслуживают внимания и с точки зрения использования высоких технологий в иных профессиональных областях.
Искусственный интеллект в исследованиях
Современные ученые в полной мере используют возможности применения искусственного интеллекта в своей работе. Например, новые технологии позволили применить для анализа эволюции жанров научно-фантастических фильмов в их влиянии на общественное восприятие и последствия для поведения человека в окружающем мире, такие новшества, как одновременное предъявление стимулов (виртуальных сцен) и анкетирование участников (Zheng, Wang, 2024).
Активное развитие ИИ привело к тому, что ученые ищут возможности заменить человека в исследованиях о человеке: значительная часть зарубежных исследований касается того, какие формы ИИ могут использоваться в изучении процессов познания и в разработке моделей для проведения исследований без прямого участия реальных испытуемых (Taylor, Taylor, 2021).
Дж. и Грэм Тейлор (J.E.T. Taylor, G.W. Taylor) отмечают, что работа с такими моделями позволяет существенно интенсифицировать процесс сбора данных и избежать тех проблем, которые в ряде случаев возникают при работе с реальными испытуемыми. Основная идея авторов — призыв к психологам адаптировать методы психологии (и прежде всего когнитивной) к пониманию механизмов работы ИИ и его варианта «Искусственного познания» (XAI), по принципу изучения «черного ящика» человеческого поведения, для создания «ментальных конструктов ИИ». Основу такого подхода, по мнению авторов, должны составить эксперименты, проверяемые гипотезы и выявление причинно-следственных связей о поведении моделей ИИ (подобно тому, как это делают в когнитивных науках), что повысит эффективность машинного обучения. Авторы также предлагают вывести изучение искусственного познания в отдельную междисциплинарную сферу, в целях улучшения качества ИИ, за счет использования знаний из философии, психологии, антропологии и проверки моделей ИИ с помощью данных, получаемых от людей (Taylor, Taylor, 2021).
На основе анализа источников мы сформировали таблицу сравнения исследовательских особенностей человека и алгоритмов ИИ (табл. 2).
Таблица 2
Сравнение психологических исследований, проводимых людьми и системами ИИ
Comparison of psychological research conducted by humans and AI systems
|
Параметры сравнения /
Comparison Parameters
|
Особенности машинно-программных исследований (ИИ как автор, исполнитель и участник исследования) /
Features of machine-software research (AI as the author, performer and participant of the research)
|
Особенности исследований, проводимых людьми /
Features of research conducted by humans
|
|
1.Объем и скорость исследований /
Scope and speed of research
|
Высочайшая скорость и большие массивы сбора данных: практически нет ограничений в скорости и массивах (например, в Open Al изучение поведения агентов обучения строилось на объеме в 500 миллионов тестовых испытаний) /
The highest speed and large data collection arrays: there are practically no restrictions in speed and arrays (for example, in Open Al, the study of the behavior of learning agents was based on a volume of 500 million test trials)
|
Ограниченное число участников: как правило, участвуют студенты, преимущественно в интервале осеннего семестра, для легкости мотивировки их участия.
Необходимость тратить грантовые средства на привлечение участников /
Limited number of participants: as a rule, students participate, mainly during the fall semester, for ease of motivation of their participation. The need to spend grant funds to attract participants
|
|
2. Уровень производительности /
Performance level
|
Есть компромисс между производительностью и сложностью модели /
There is a trade-off between performance and model complexity
|
У людей когнитивная сложность не гарантирует высокую производительность: человек может ориентироваться на высокое качество в ущерб количеству /
In humans, cognitive complexity does not guarantee high productivity: a person can focus on high quality at the expense of quantity
|
|
3. Этические рамки /
Ethical framework
|
У алгоритмов нет этических ограничений и необходимости административно-организационного согласования.
Однако нарастает количество работ, требующих и обосновывающих необходимость формирования этических стандартов в сфере сбора данных и обращения с ними, а также правил устранения предвзятости данных /
The algorithms have no ethical limitations and no need for administrative and organizational coordination. However, there is an increasing amount of work that requires and justifies the need to establish ethical standards in the field of data collection and management, as well as rules for eliminating data bias
|
Всегда есть этические ограничения и необходимость согласования с Наблюдательными советами университетов /
There are always ethical limitations and the need for coordination with the Supervisory Boards of universities
|
|
4. Проблемы объективности и адекватности результатов /
Problems of objectivity and adequacy of results
|
Модели ИИ могут галлюцинировать и фальсифицировать эксперименты. Однако появляются стратегии поиска и устранения предвзятости и галлюцинирования программ /
AI models can hallucinate and falsify experiments. However, strategies are emerging to find and eliminate bias and hallucination
|
Возможны предвзятости, связанные с социально-культурными особенностями, установками и научными ориентациями исследователей. Однако стремление к истине, профессионализм и рефлексивный анализ выступают протективными ресурсами устранения проблемы /
There may be biases related to socio-cultural characteristics, attitudes, and scientific orientations of researchers. However, the pursuit of truth, professionalism and reflexive analysis act as protective resources to eliminate the problem
|
|
5. Уровень сложности и границы возможностей /
The level of difficulty and the limits of possibilities
|
Ограничения задаются возможностями программы (алгоритмов) и емкостью технических устройств /
The limitations are set by the capabilities of the program (algorithms) and the capacity of the technical devices
|
Ограничения замысла связаны с фантазией и подготовленностью исследователя /
The limitations of the design are related to the imagination and preparedness of the researcher
|
|
6. Методологические особенности /
Methodological features
|
Автоматически генерируются новые гипотезы /
New hypotheses are automatically generated
|
Ученые действуют по линии опровержения гипотез, а не генерируют множество новых /
Scientists act along the lines of refuting hypotheses, rather than generating a multitude of new ones
|
|
Искусственное познание ориентируется не на средние значения, а на анализ отклонений от среднего, как более истинного показателя (как в психологии индивидуальных различий) /
Artificial cognition focuses not on averages, but on the analysis of deviations from the average, as a more true indicator (as in the psychology of individual differences)
|
Обобщения могут строиться на базе результатов, полученных в искусственных условиях на нерепрезентативных выборках, и они переносятся на популяцию в целом (при обучении исследователей долго тренируют делать выводы о поведении в популяции на основе закономерностей в выборке) /
Generalizations can be based on the results obtained in artificial conditions on unrepresentative samples, and they are transferred to the population as a whole (during training, researchers are trained for a long time to draw conclusions about behavior in the population based on patterns in the sample)
|
|
7. Рефлексия, интерпретация и аргументация /
Reflection, interpretation and argumentation
|
Нейронные сети фокусируются на подмножествах доступной информации.
В алгоритмах по методу «Post-hoc» (постфактумное объяснение) работает рационализация причин поведения модели ИИ («черного ящика № 1») после ознакомления с объяснением.
Поведение DNN-моделей (глубокого обучения) объясняют другие интроспективные модели, что приводит к появлению «черного ящика № 2», который выступает инструментом глубокого обучения (контролируемое обучение пока недоступно) /
Neural networks focus on subsets of available information. Algorithms using the "Post-hoc" method (after-the-fact explanation) rationalize the reasons for the behavior of the AI model ("black box No. 1") after reviewing the explanation. The behavior of DNN models (deep learning) is explained by other introspective models, which leads to the appearance of "black box No. 2", which acts as a deep learning tool (supervised learning is not yet available)
|
Рационализируют и защищают свои решения на основе знаний и личного опыта /
They rationalize and defend their decisions based on knowledge and personal experience
|
|
8. Источники ошибки /
Sources of error
|
Машины могут давать сбои и быть опасны в случаях сбоя программы. В целях компенсации принимаются законы, обязывающие предупреждать граждан о том, как ИИ принимает решения /
Machines can malfunction and be dangerous if the program fails. In order to compensate, laws are being passed that require citizens to be warned about how AI makes decisions
|
Ошибки детерминированы свойствами субъекта (невнимательность, неверность замысла, неточность методологии, предвзятость, низкая ответственность) /
Errors are determined by the properties of the subject (inattention, incorrect design, inaccuracy of methodology, bias, low responsibility
|
Заключение и выводы
Приведенный обзор позволяет оценить опыт внедрения моделей ИИ в различные психологические и исследовательские практики, а также в некоторые виды деятельности, где важной составляющей выступает психологический фактор.
Исследования последних лет показывают, что современные технологии ИИ имеют как позитивные, так и негативные стороны и могут создавать определенные проблемы для человека как субъекта активности и познания.
Безопасность внедрения новых сверхмощных технологий требует тщательного анализа возможных рисков и разработки мер защиты психического здоровья пользователей.
Позитивные аспекты применения технологий ИИ в психологических практиках определяются тем, что они расширяют и облегчают доступ к психологическим услугам, повышают объективность и точность диагностики, способствуют результативности терапии, обеспечивают высокую индивидуализацию, постоянство мониторинга и поддержки.
В качестве проявленных рисков внедрения ИИ фиксируются: возможное развитие зависимости и чрезмерного доверия (при постоянстве использования, антропологичности алгоритмов, повышении диагностической и интерпретационной точности); размытость и трудность регуляции этических стандартов; нечеткость границ ответственности (в оперировании данными и за итоговые результаты); скрытость механизмов действия алгоритмов, даже при полном их описании.
Внедрение моделей ИИ оказывает двойное воздействие на пользователей: с одной стороны, сокращает время поиска и изучения, улучшает навыки, упрощает выполнение различных задач и повышает эффективность деятельности. С другой стороны, обнаруживаются риски возникновения этических проблем, снижения когнитивных способностей (в аспекте критического мышления, креативности и оригинальности), нивелировки процессов принятия решений и формирования зависимости от моделей ИИ.
Основными факторами формирования чрезмерной зависимости от диалоговых моделей ИИ выступают такие машинные характеристики, как способность к генерации ложной информации (галлюцинации), алгоритмическая предвзятость, проблемы конфиденциальности и прозрачности.
В качестве наиболее значимой проблемы внедрения ИИ на сегодняшний день исследователи называют снижение потенциалов критического анализа, что создает угрозы возникновения нарушений разумного понимания и поведения.
В исследовательских практиках намечена тенденция изучения человека без участия самого человека и отмечена востребованность изучения самих моделей ИИ методами, наработанными в когнитивной психологии.
Профилактические рекомендации касаются необходимости повышать медиаграмотность пользователей (интегрируя ее в образовательные и просветительские программы); развивать компетентность в отношении понимания механизмов работы ИИ и критического анализа сгенерированного контента; активно поддерживать когнитивное развитие и актуализировать этические основы использования технологий ИИ.
Перспективные направления исследований будут определяться, с одной стороны, появляющимися новыми возможностями самих технологий, особенно в исследовательском поле, в частности в исследовании внутренних «черных ящиков» самого ИИ и особенностей его познания; с другой стороны, повышенную актуальность будут иметь исследования, связанные с изучением формирования и социально-субъективного восприятия этических стандартов в ИИ-среде, особенно тех, которые регулируют профессионально-психологическое взаимодействие; также продолжатся наблюдения за последствиями взаимодействия человека и машинных алгоритмов в аспекте когнитивных, эмоциональных, личностных и отношенческих изменений, что будет выступать основой дальнейших технологических преобразований.