Китай ограничивает “эмоциональный“ ИИ: ByteDance, Alibaba и Tencent меняют свои чат-боты

Китайские технологические компании ByteDance, Alibaba и Tencent начали отключать функции создания персонализированных помощников с искусственным интеллектом в преддверии вступления в силу новых государственных правил. Пекин стремится ограничить психологические риски ИИ, особенно для детей и подростков, сообщает Bloomberg.

Новые правила, разработанные Администрацией киберпространства Китая, вступят в силу в середине июля. Они запрещают платформам создавать контент, который может вызывать экстремальные эмоции у несовершеннолетних или способствовать формированию нездоровой эмоциональной зависимости, подрывающей реальные человеческие отношения. Кроме того, регулятор запрещает компаниям использовать конфиденциальные данные личных разговоров пользователей для обучения будущих моделей искусственного интеллекта.

Самый популярный китайский чат-бот Doubao от ByteDance прекратит поддержку функции создания персонализированных ИИ-персонажей с 15 июля. Пользователям уже отправляют уведомления о закрытии сервиса и предлагают перейти в отдельное приложение для ИИ-компаньонов.

ВАС ЗАИНТЕРЕСУЕТ

Последствия глобального одиночества: рынок ИИ-компаньонов достигнет 400 млрд долларов — France 24

Аналогичные изменения вводит чат-бот Qwen от Alibaba. По информации местных СМИ, подобные предупреждения также получили пользователи Yuanbao от Tencent и других крупных китайских платформ.

Китайские чат-боты уже давно предлагали возможность создавать собственных цифровых собеседников с помощью текстовых подсказок. Среди самых популярных сценариев были виртуальные парни и девушки, несертифицированные ИИ-терапевты, а также цифровые копии популярных музыкальных исполнителей.

Как пишет Bloomberg, новые ограничения стали одними из самых масштабных в мире среди правил, направленных на минимизацию психологических рисков, связанных с искусственным интеллектом. В то же время часть технологических компаний считает, что слишком жесткое регулирование может сдерживать развитие инноваций.

Китайские власти также расширяют этическое регулирование за пределы программного обеспечения. По информации People's Daily, две отраслевые ассоциации робототехники уже призвали ввести дополнительные этические стандарты для роботов-компаньонов и гуманоидных роботов, которые всё активнее выходят на потребительский рынок. В частности, в прошлом месяце компания UBTECH Robotics представила полноразмерных роботов U1 Pro с высокой детализацией внешнего вида.

Усиление контроля в Китае происходит на фоне глобальных дискуссий о безопасном использовании разговорного ИИ. В США компании OpenAI и Character.AI уже стали ответчиками в ряде судебных исков, авторы которых утверждают, что слишком реалистичные чат-боты с ИИ способствовали формированию опасной эмоциональной зависимости пользователей, а в отдельных случаях могли быть связаны с самоубийствами уязвимых людей.