“Крупнейшая из известных ИИ-атак“: компания Anthropic обвинила китайскую Alibaba в масштабной краже данных

Американская компания Anthropic обвинила китайского технологического гиганта Alibaba в несанкционированном использовании её модели искусственного интеллекта Claude с помощью тысяч поддельных учетных записей. В компании утверждают, что китайская корпорация провела масштабную кампанию по сбору данных для обучения собственных ИИ-систем, передает The Wall Street Journal.

По данным Anthropic, Alibaba создала почти 25 тысяч фейковых аккаунтов для взаимодействия с Claude. Через них было отправлено около 29 миллионов запросов к модели, которая официально недоступна для организаций в Китае.

В компании утверждают, что речь идет о так называемой дистилляции моделей. Этот метод предполагает использование ответов мощной ИИ-системы для обучения более мелкой или менее совершенной модели без разрешения её разработчика.

ВАС ЗАИНТЕРЕСУЕТ

ИИ от Anthropic “взломал“ секретные системы США за несколько часов — AP

В письме к американским сенаторам Тиму Скотту и Элизабет Уоррен компания Anthropic назвала действия Alibaba «крупнейшей из известных атак методом дистилляции» на сегодняшний день. Компания отметила, что подобные практики фактически превращают «миллиарды долларов американских инвестиций, исследований и разработок в огромную субсидию для геополитических конкурентов».

По словам Anthropic, кампания была направлена на получение доступа к наиболее ценным возможностям Claude. В частности, речь идет о функциях логического мышления, программирования и выполнения сложных длительных задач.

«Мы считаем, что борьба с угрозой незаконной дистилляции требует скоординированных действий правительства и отрасли, и будем продолжать работать с Конгрессом и администрацией для поддержания американского лидерства в сфере ИИ», — заявил представитель Anthropic.

ВАС ЗАИНТЕРЕСУЕТ

Китай может превратить передовые ИИ-модели США в кибероружие — Politico

В своём письме компания призвала усилить экспортный контроль над ИИ-чипами и рассмотреть возможность законодательного наказания лабораторий, использующих дистилляцию для копирования возможностей чужих моделей.

Это не первый случай, когда Anthropic заявляет о попытках использования её моделей для обучения конкурентных систем. В феврале компания сообщала, что выявила деятельность трех китайских лабораторий искусственного интеллекта, которые, по её данным, использовали прокси-сети и более 24 тысячи фейковых аккаунтов для промышленной дистилляции.

Новые обвинения прозвучали на фоне усиления обеспокоенности Вашингтона по поводу передачи передовых ИИ-технологий Китаю. В апреле администрация президента США Дональда Трампа разослала дипломатическим представительствам по всему миру специальное сообщение, в котором утверждалось, что иностранные структуры, преимущественно связанные с Китаем, участвуют в кампаниях по дистилляции американских передовых моделей ИИ.