Иллюзия компетентности: учёные доказали, что зависимость от чат-ботов ослабляет критическое мышление

Исследование, проведенное в Массачусетском технологическом институте (Massachusetts Institute of Technology, MIT), показало, что чрезмерная зависимость от чат-ботов, таких как ChatGPT и Claude, может снижать способность людей к критическому мышлению. Ученые пришли к выводу, что постоянное использование искусственного интеллекта для проверки контента может ослаблять навыки самостоятельного выявления дезинформации, сообщает The Guardian.

В четырёхнедельном эксперименте приняли участие 67 человек из США и Великобритании. Им предлагалось определять, являются ли новостные заголовки и изображения подлинными, используя как собственные суждения, так и помощь ИИ-системы на базе GPT-4o с интегрированным поиском Google.

Исследователи установили, что чат-боты действительно повышали точность оценок. Использование искусственного интеллекта увеличивало вероятность правильного определения фейкового или подлинного контента на 21%.

ВАС ЗАИНТЕРЕСУЕТ

Чем длиннее диалог, тем больше галлюцинаций: чат-боты "тупеют" после общения с людьми

В то же время длительная опора на подсказки ИИ имела и отрицательный эффект. Когда на четвёртой неделе участникам предложили оценивать новые изображения без посторонней помощи, их результативность оказалась на 15,3% ниже по сравнению с началом эксперимента.

«Когда мы взаимодействуем с искусственным интеллектом, нам кажется, что мы становимся лучше в решении определенных задач, но существует достаточно исследований, которые показывают, что это не всегда так», — отметила аспирантка MIT и соруководительница исследования Анку Рани.

По словам авторов работы, проблема заключается в том, что системы ИИ обычно ориентированы на быстрое предоставление правильного ответа, а не на развитие навыков анализа. Из-за этого пользователи могут всё чаще полагаться на рекомендации алгоритмов вместо собственных рассуждений.

ВАС ЗАИНТЕРЕСУЕТ

ИИ не уничтожит интеллектуальный труд: те, кто создает новые идеи, станут элитой будущего — эксперт

Исследование также показало, что люди часто доверяют ответам чат-ботов из-за их уверенной манеры подачи информации. Часть участников признавала, что просто соглашалась с рекомендациями системы, поскольку она «звучала компетентно».

Особенно показательным оказался разрыв между реальными результатами и самооценкой пользователей. Почти четверть участников были убеждены, что их навыки распознавания дезинформации улучшились, хотя фактические показатели свидетельствовали об обратном.

Авторы исследования отмечают, что подобные риски уже наблюдались при распространении других технологий. В частности, использование калькуляторов повлияло на навыки устных вычислений, а GPS-навигации — на способность ориентироваться без электронных подсказок.

Несмотря на это, авторы исследования считают результаты важными для педагогов, внедряющих ИИ в обучение, и для общества, сталкивающегося с массовой онлайн-дезинформацией. Исследователи пришли к выводу, что развитие сложных технологий должно стимулировать критическое мышление пользователей, а не формировать когнитивную зависимость от ИИ.

Между тем финансовые компании и банки всё больше разочаровываются в молодом поколении «аборигенов ИИ», чьи рабочие идеи после проверки оказываются поверхностными из-за недостатка аналитических навыков. В результате отрасль начала сокращать набор выпускников STEM-специальностей, смещая акцент на студентов гуманитарных специальностей с развитым критическим мышлением.