Поддержать
Мощные модели искусственного интеллекта уже в ближайшие месяцы могут кардинально изменить баланс сил в киберпространстве, что усилит как защиту, так и возможности для атак. Об этом в редком совместном заявлении предупредили разведывательные и кибербезопасностные агентства стран альянса Five Eyes. Документ появился вскоре после решения администрации президента США Дональда Трампа ограничить доступ «иностранных граждан» к передовым ИИ-моделям компании Anthropic, передает The Guardian.
Предупреждение обнародовали службы Австралии, США, Великобритании, Новой Зеландии и Канады. Они призвали правительства, бизнес и руководителей организаций действовать немедленно, поскольку развитие передовых моделей ИИ увеличивает масштабы и сложность киберугроз.
«Хотя ИИ со временем поможет нам улучшить киберзащиту, он также ускорит темпы, масштаб и сложность киберугроз. Ожидается, что передовые модели искусственного интеллекта превзойдут текущие ожидания отрасли, фундаментально трансформируя как наступательные, так и оборонительные кибервозможности. Речь идет не о годах, а о месяцах», — говорится в заявлении Five Eyes.
Представители агентств также отметили, что киберриски больше нельзя рассматривать исключительно как техническую проблему. По их мнению, речь идет об «основном бизнес-риске», который должен находиться в сфере ответственности руководства компаний и организаций.
В документе подчеркивается, что новейшие модели ИИ снижают барьеры для киберпреступников и позволяют проводить атаки быстрее и эффективнее. По этой причине, по мнению авторов заявления, необходим «ответ всей организации и всего общества».
«Отличие последних моделей ИИ заключается в том, что они очень хорошо генерируют эксплойты», — отметила эксперт по национальной безопасности и искусственному интеллекту Центра исследований США при Университете Сиднея Оливия Шен.
Хотя в заявлении Five Eyes не упоминаются конкретные компании или продукты, значительное внимание в отрасли приковано именно к разработкам Anthropic. Одной из последних моделей компании стала Fable 5 — упрощенная версия модели Mythos, которую ранее представили как инструмент для поиска уязвимостей в системах.
В настоящее время модель Mythos доступна только проверенным организациям и компаниям из-за опасений относительно потенциального злоупотребления её возможностями. И Mythos, и Fable компания Anthropic полностью отключила после того, как правительство США приказало ограничить доступ к ним для «иностранных граждан».
«Я думаю, нам следует учесть, что следующий Mythos или следующий Fable уже не за горами», — подчеркнула Шен и добавила, что мир видит лишь те модели, которые уже стали общедоступными, тогда как другие передовые разработки могут находиться на стадии создания в Китае и других странах.
На саммите G7 этого года во Франции руководители ведущих ИИ-компаний впервые приняли участие в заседаниях наравне с главами мировых демократий. В ходе закрытых встреч лидеры технологического сектора призвали государства объединиться против авторитарных режимов для сохранения лидерства в сфере искусственного интеллекта. Также разработчики выразили необходимость создания международного органа по стандартизации и тестированию технологий под эгидой США.
В то же время лидеры Франции и Индии выразили обеспокоенность тем, что США могут внезапно лишить другие страны доступа к передовым моделям ИИ. Для минимизации рисков участники встречи обсудили создание схемы «надежных партнеров», которая должна гарантировать объединившимся странам бесперебойный доступ к технологиям искусственного интеллекта.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google