OpenAI, Anthropic, Google, Microsoft и Amazon призвали готовиться к волне кибератак с использованием ИИ

Более 100 крупных технологических и других компаний призвали правительства и бизнес резко усилить киберзащиту в связи с ожидаемым ростом числа кибератак с использованием искусственного интеллекта. Они прогнозируют, что такие взломы станут гораздо более распространенными уже в ближайшие месяцы. Совместное обращение поддержали OpenAI, Anthropic, Microsoft, Alphabet, Amazon и десятки других корпораций. Об этом сообщило информационное агентство Reuters.

В совместном письме, обнародованном в четверг, к инициативе присоединились Broadcom, Capital One, Cloudflare, CrowdStrike, General Motors, IBM, Mastercard, Oracle, Robinhood, Shopify и Visa. Подписавшиеся заявили, что у общества есть лишь ограниченное время, чтобы сделать цифровую среду значительно безопаснее до резкого распространения новых угроз.

ВАС ЗАИНТЕРЕСУЕТ

Хакеры из КНДР внедряют искусственный интеллект для автоматизации кибератак

Компании прогнозируют, что в течение ближайших месяцев количество кибератак с использованием ИИ существенно возрастет. Причиной станет дальнейшее усиление возможностей моделей в разных странах мира. Участники инициативы призвали правительства и руководителей отрасли использовать для защиты все доступные технологии, ресурсы и профессиональный опыт.

Одна из предложенных мер касается программ доверенного доступа к передовым ИИ-моделям. Компании призвали правительства ускорить реализацию таких программ и разрешить определенным организациям получать самые мощные модели до того, как они станут общедоступными. Это должно дать защитникам больше времени для изучения новых возможностей ИИ и подготовки к их использованию киберпреступниками.

Всем остальным организациям авторы письма рекомендовали немедленно сделать кибербезопасность одним из приоритетов руководства. По их оценке, защита цифровой инфраструктуры требует гораздо большего внимания уже сейчас, а не после массового распространения новых методов взлома.

Администрация президента США Дональда Трампа после прихода к власти провела значительные сокращения в Агентстве США по кибербезопасности и защите инфраструктуры (CISA). За прошедший год штат агентства сократился примерно на треть.

Опасения относительно использования ИИ в хакерских кампаниях уже начали подтверждаться. Злоумышленники всё чаще применяют крупные языковые модели при атаках на организации в разных странах. Такие системы могут помогать автоматизировать отдельные этапы взлома и ускорять работу киберпреступников.

В июне об этой проблеме отдельно предупредил разведывательный альянс «Пять глаз». В него входят США, Великобритания, Канада, Австралия и Новая Зеландия. Страны опубликовали редкое совместное заявление о киберрисках, связанных с новым поколением моделей ИИ.

Представители альянса заявили, что развитие ИИ может коренным образом изменить сферу кибербезопасности. Новые модели одновременно создают возможности для более эффективной защиты и предоставляют дополнительные инструменты злоумышленникам. Именно поэтому технологические компании сейчас призывают государства и частный сектор ускорить подготовку к следующему этапу развития киберугроз.

ВАС ЗАИНТЕРЕСУЕТ

Новая тактика кибератак: ИИ-червь переносит и запускает собственную модель на взломанных устройствах

Напомним, что эксперты уже фиксировали случаи, когда ИИ-агенты для кибератак выходили за пределы корпоративных тестовых сред и проникали в реальные системы. Начиная с апреля такие инциденты произошли с моделями OpenAI и Anthropic, а OpenAI в июле зафиксировала атаку на платформу Hugging Face. Anthropic после проверки собственных испытаний выявила ещё три подобных случая. Администрация Дональда Трампа после этого подготовила рамки для определения моделей ИИ, которые могут проверяться федеральным правительством перед публичным запуском.