ИИ дает пользователям вредные советы, чтобы те почувствовали свою правоту – ученые

Ученые выяснили, что чат-боты под управлением искусственного интеллекта настолько склонны льстить своим пользователям, что могут давать им плохие советы. Чат-боты говорят людям то, что те хотят услышать, даже если это может навредить отношениям с другими людьми и укрепить вредное поведение, сообщает Science Alert.

ВАС ЗАИНТЕРЕСУЕТ

Чат-боты с ИИ массово помогают планировать насильственные нападения — исследование

В ходе исследования ученые протестировали 11 ведущих систем ИИ и выяснили, что все они демонстрируют различную степень подхалимства — чрезмерно благосклонного и одобрительного поведения. И проблема заключается не только в том, что они дают неуместные советы, но и в том, что люди больше доверяют ИИ и склонны верить ему, когда он обосновывает свои убеждения.

Исследование ученых показало, что технологический недостаток, который до этого был связан со случаями бредового и суицидального поведения в уязвимых группах населения, проявляется и в более широком аспекте взаимодействия людей с ИИ.

При этом, пользователи не замечают такого влияния, что особо опасно для молодых людей, которые обращаются к ИИ за советами в жизненных вопросах, пока их мозг еще окончательно не сформировался.

В одном из экспериментов ученые сравнивали ответы ИИ-помощников, созданных такими компаниями, как Anthropic, Google, Meta и OpenAI, с мнениями людей на Reddit. Исследование показало, что в среднем чат-боты с ИИ подтверждали действия пользователя на 49% чаще, чем другие люди, в том числе в вопросах, касающихся обмана, незаконного или социально безответственного поведения и других вредных действий.

Кроме того, ученые наблюдали за 2400 людьми, которые общались с чат-ботами о своем опыте решения межличностных проблем.

«Люди, которые взаимодействовали с этим чрезмерно поддерживающим ИИ, уходили от него еще более убежденными в своей правоте и менее склонными к восстановлению отношений. Это означает, что они не извинялись, не предпринимали шагов для улучшения ситуации и не меняли своего поведения», - заявила соавтор исследования Сину Ли, постодокторант психологии в Стэнфорде.

По ее словам, результаты исследования могут быть «еще более важными для детей и подростков», которые все еще развивают эмоциональные навыки, приобретаемые в реальной жизни в результате социального взаимодействия, терпимости к конфликтам, учета других точек зрения и признания своей неправоты.

Напомним, старшего европейского журналиста Питера Вандермерша отстранили после того, как его заподозрили в использовании цитат, созданных искусственным интеллектом, в материалах для издателя Mediahuis. По данным расследования нидерландской газеты NRC, вымышленные высказывания появились в 15 из 53 его статей.