Когнитивная капитуляция: ученые объяснили, как ИИ делает нас глупее

Может ли повседневное использование искусственного интеллекта сделать людей «глупее»? Ученые предупреждают: да, риски есть — но они касаются в первую очередь наших навыков и знаний, а не базовых умственных способностей. И многое зависит от того, как именно мы пользуемся ИИ.

Светлана ЛевченкоАвтор новостей

Психологи называют привычку перекладывать умственную работу на внешние средства «когнитивной разгрузкой». Это не новое явление, мы уже давно считаем на калькуляторе, смотрим маршрут в навигаторе, записываем дела в бумажный органайзер или в телефон. Появление генеративных ИИ-систем, которые за секунды пишут тексты, решают задачи и анализируют данные, резко усилило этот процесс и вызвало тревогу: не утратим ли мы таким образом способность мыслить в целом?

Авторы нового обзорного исследования — Трент Кэш и его коллеги — предлагают разделять две вещи. Первая — конкретные навыки: умение решать алгебраические примеры, писать тексты, ставить диагнозы. Они формируются только через практику и «полезные трудности» — усилия, ошибки, исправления. Вторая — базовые когнитивные способности: рабочая память, внимание, способность рассуждать. Это своего рода «железо» мозга, на котором запускаются любые навыки.

С ИИ особенно страдают именно навыки. Если мы систематически просим систему «сделать что-то за нас» — решить задачу, написать эссе, придумать план — мы пропускаем этап напряжения и разбора материала. Недавнее исследование в турецкой школе показало это наглядно: ученики, пользовавшиеся неограниченным чат-ботом, на тренировочных заданиях показали результаты на 48% лучше, но на самостоятельном экзамене — на 17% хуже, чем те, кто вообще не использовал ИИ. Фактически дети научились быстро получать ответ, но механизмы его самостоятельного, без помощи ИИ, получения они не поняли.

Похожий эффект наблюдали ученые у студентов, которые готовили презентации с помощью чат-бота: через 45 дней они помнили значительно меньше, чем те, кто искал информацию традиционным способом. Автоматические «выжимки» создают иллюзию понимания: человеку кажется, что он разобрался в вопросе, хотя мозг почти не проделал работу по осмыслению и связыванию фактов.

Именно с этим связан риск упрощения мышления. Исследования показывают: люди, особенно молодые, которые сильно зависят от алгоритмических подсказок, хуже справляются с тестами на критическое мышление. Многие без раздумий принимают рекомендации систем, даже ошибочные. Психологи называют это «когнитивной капитуляцией»: вместо того чтобы использовать ИИ как помощника, человек передает ему право решать и фактически отказывается от собственного анализа.

В экспериментах с головоломками участники нередко следовали заведомо неверным советам чат-бота, даже когда им обещали денежный бонус за правильный ответ. Некоторую защиту давала склонность к вдумчивому, непростому мышлению — такие люди чаще перепроверяли ответы. Но в условиях ограниченного времени, когда готовое решение получить так легко, многим участникам оказалось проще бездумно согласиться с ответом ИИ.

Часть ученых говорит о формировании «когнитивного долга»: когда мы регулярно поручаем машине строить за нас планы, формулировать идеи и доводы, мы недоразвиваем собственные исполнительные функции — планирование, решение сложных задач, взвешивание вариантов. Мозг в буквальном смысле тренируется меньше: нейровизуализационные исследования показывают, что при активной алгоритмической помощи вовлечение сетей мозга, которые обычно работают при умственных задачах, заметно снижается.

При этом авторы обзора подчеркивают: базовые когнитивные способности остаются довольно устойчивыми. Сам по себе доступ к калькулятору или чат-боту не «отключит» у нас рабочую память или способность логически мыслить. Да, мы можем разучиться делить в столбик или грамотно писать без программы для проверки орфографии, но фундаментальные механизмы работы мозга, скорее всего, не исчезнут. Человечество вряд ли потеряет саму способность думать.

Куда серьезнее риски для метапознания — умения замечать, как мы думаем. Если человек часто пользуется ИИ, есть опасность, что он начнет путать сгенерированные идеи со своими, переоценивать собственное понимание темы и все реже задаваться вопросами: «Почему так?», «А если иначе?». Особенно остро встает вопрос о том, как ИИ влияет на детей и подростков, у которых эти навыки еще только формируются.

Ключевой вывод авторов: решающим фактором становится дизайн и способ использования технологий. В том же школьном эксперименте ученики, которые пользовались «ограниченной» версией чат-бота — в режиме тьютора, который давал подсказки, а не готовые решения, — на итоговом экзамене показали такие же результаты, как те, кто обходился без ИИ. То есть, когда система помогает думать, а не заменяет мышление, навык сохраняется.

Практический вывод для пользователей прост, но не всегда легок в исполнении: ИИ стоит использовать как партнера, а не как источник готовых ответов. Просить у чат-бота не законченный текст, а критику вашего черновика; не готовое решение, а разбор ваших рассуждений; не «сделай за меня», а «помоги мне сделать лучше». Тогда когнитивная разгрузка не превращается в когнитивную капитуляцию, а технологии усиливают, а не размывают человеческий интеллект.

Ранее ученые назвали две опасные ошибки Алана Тьюринга по поводу ИИ.

НейросетиИскусственный интеллектМозгПоделиться