Правительственный сайт США использовал китайский ИИ: ФБР обвиняет разработчика в копировании Anthropic

Правительственный сайт США использовал модель искусственного интеллекта Qwen китайской компании Alibaba для поиска среди федеральных нормативных актов. Это произошло после того, как Федеральное бюро расследований (ФБР) обвинило Alibaba в «злонамеренном» копировании технологии американской компании Anthropic, сообщает Reuters.

Инструмент на базе Qwen появился на сайте Федерального реестра, находящегося в ведении Национального управления архивов и документации США. Уже в среду, 16 сентября, функцию отключили — примерно в то время, когда в социальных сетях начали появляться первые сообщения о её использовании. Когда именно Qwen интегрировали на сайт, остаётся неясным.

Федеральный реестр ежедневно публикует новые проекты нормативных актов и предлагает гражданам оставлять к ним комментарии. Qwen использовали в качестве одного из инструментов для просмотра этих комментариев.

ВАС ЗАИНТЕРЕСУЕТ

Китайские модели искусственного интеллекта скачали более 3 миллиардов раз: Alibaba обогнала Meta и Google

На прошлой неделе ФБР обвинило Alibaba в копировании моделей Anthropic для создания собственных инструментов искусственного интеллекта. Американские чиновники заявили, что китайские компании в сфере ИИ занимаются «злонамеренным» копированием американских технологий в «промышленных масштабах».

Эти обвинения усилили напряженность между Вашингтоном и Пекином накануне запланированной на следующую неделю встречи лидеров США и Китая. Пресс-секретарь посольства Китая в Вашингтоне назвал обвинения в копировании «безосновательными».

ФБР отказалось от комментариев относительно использования Qwen на сайте Федерального реестра. Национальное управление архивов и документации и Белый дом также не ответили на запросы о комментариях.

ВАС ЗАИНТЕРЕСУЕТ

Министр обороны Китая призвал страны усилить контроль в сфере ИИ

В то же время эксперты по ИИ отметили, что использование китайской модели именно на этом сайте, вероятно, не представляло непосредственной угрозы национальной безопасности. Они, однако, обратили внимание на противоречие между жесткой конкуренцией США и Китая в сфере ИИ и решением американского ведомства использовать китайскую модель.

«Это одна из самых абсурдных вещей, которые я когда-либо видел», — заявил президент Фонда информационных технологий и инноваций (ITIF) Дэниел Кастро.

Qwen относится к моделям с открытыми весами (open-weight models). Это означает, что ключевые компоненты модели доступны разработчикам, которые могут загружать её и модифицировать для собственных нужд, зачастую с меньшими затратами, чем при использовании закрытых моделей таких компаний, как Anthropic и OpenAI.

Эксперты по безопасности отмечают, что модели с открытыми весами можно запускать на собственной ИТ-инфраструктуре организации. Это дает ей больший контроль над конфиденциальными данными, которые в противном случае могли бы передаваться стороннему поставщику.

ВАС ЗАИНТЕРЕСУЕТ

Китай раскритиковал призывы замедлить развитие ИИ, назвав их «тактикой холодной войны»

Профессор права Джорджтаунского университета Анупам Чандер отметил, что использование Qwen, на первый взгляд, не создает непосредственной угрозы кибербезопасности. В то же время, по его словам, риск зависит от того, как именно обучали модель.

Поскольку всё содержание Федерального реестра является общедоступным, Qwen не работала с конфиденциальной правительственной информацией. В то же время сенатор-демократ от Вирджинии Марк Уорнер, заместитель председателя сенатского комитета по разведке, заявил, что уровень риска зависит от того, выходили ли данные США за пределы защищенного правительственного контура и обрабатывались ли они в системах, контролируемых Alibaba.

«Ни одно федеральное правительственное учреждение не должно использовать китайскую модель искусственного интеллекта. Такие действия лишь усиливают зависимость федерального правительства от китайских моделей ИИ, что противоречит национальным интересам», — подчеркнул член Палаты представителей США Джон Муленар, республиканец от Мичигана и председатель комитета Палаты представителей по вопросам Китая.

История с Qwen произошла на фоне более широкой дискуссии в США о безопасности искусственного интеллекта и необходимости регулирования этой технологии, которую инициировал генеральный директор Anthropic Дарио Амодей. Инициативу поддержали генеральный директор OpenAI Сэм Альтман и руководитель xAI Илон Маск, однако основатель Meta Марк Цукерберг и глава Nvidia Дженсен Хуанг выступили против замедления разработок. Президент США Дональд Трамп вообще отверг утверждение о том, что ИИ представляет экзистенциальную угрозу для человечества.