Хакер-новачок зламав 14 компаній за допомогою Claude і Codex: більшу частину роботи виконав ШІ

Кіберзлочинець-початківець зміг отримати доступ до систем 14 організацій і викрасти конфіденційні дані, використовуючи агентів штучного інтелекту Claude Code від Anthropic та Codex від OpenAI. До такого висновку дійшли дослідники компанії OALABS після аналізу повного робочого каталогу зловмисника, передає TechRadar.

Фахівці наголосили, що хакеру не обов'язково мати високу кваліфікацію, адже достатньо лише правильно сформулювати підказки для ШІ. За їхніми словами, саме ШІ-агент брав на себе більшу частину технічного виконання та структурування цієї атаки.

“У багатьох випадках зловмисник надавав лише розпливчасті, невибагливі підказки та дозволяв Claude заповнювати прогалини: досліджувати вразливі сервіси, виявляти можливі вразливості, писати код експлойту, перевіряти доступ та збирати дані”, — зазначили в OALABS.

ВАС ЗАЦІКАВИТЬ

ШІ, що підірве роботу урядів та бізнесу, з’явиться вже за кілька місяців — Five Eyes

Дослідникам вдалося встановити особу та місцеперебування ймовірного зловмисника. Як повідомляється, атаки виконувалися не з власної інфраструктури хакера, а через сторонній сервер. Після виявлення підозрілої активності власник сервера завантажив увесь робочий каталог і передав його експертам для аналізу.

Завдяки цьому OALABS отримала доступ до повних журналів роботи ШІ-агентів. Вони містили підказки користувача, використані інструменти, внутрішні ланцюжки міркувань мовної моделі та записи про порушення політик безпеки під час виконання завдань. Дослідники не виявили доказів того, що викрадені дані монетизували через продаж у даркнеті або вимагання грошей у постраждалих компаній. 

Загалом в OALABS проаналізували понад тисячу сеансів, у яких зловмисник без зусиль оминав захисні бар'єри ШІ. Разом із цим серед сесій знайшли його резюме з повними даними, профілем LinkedIn та IP-адресою в Ефіопії.

За словами дослідників, цей випадок демонструє, наскільки сучасні генеративні моделі ШІ знизили поріг входу в кіберзлочинність. В OALABS закликали фахівців з безпеки готуватися до нової реальності, в якій навіть малодосвідчені користувачі можуть проводити складні атаки.

Нещодавно дослідники з Університету Торонто створили прототип ШІ-хробака, який здатний самостійно поширюватися мережею та адаптувати методи атаки під конкретний пристрій. На відміну від класичного шкідливого софту, нова програма шукає різні слабкі місця в операційних системах Windows та Linux без участі людини. Водночас експерти зазначили, що таку технологію можна використовувати не лише для зламу, а й для дзеркального пошуку та автоматичного виправлення вразливостей.