Искусственный интеллект: новый инструмент в арсенале хакеров

Аналитический отчет F6 выявил использование искусственного интеллекта в кибератаках, начиная с разведки и заканчивая созданием вредоносного кода. Исследование охватило события 2025 года и первой половины 2026 года.

Эксперты отметили, что за последние полтора года минимум 18 APT-группировок применяли ИИ в атаках. Документ содержит описания нескольких задокументированных инцидентов использования технологий.

Например, GTG-1002 использовала языковые модели для создания персонализированных фишинговых писем, обходя спам-фильтры. TAT26-12 автоматизировала разведку, анализируя данные о сотрудниках и уязвимостях.

Особое внимание уделено PromptSpy — ПО на базе LLM, способному самостоятельно захватывать устройства. Также инструмент LAMEHUG генерировал вредоносный код при минимальном участии человека.

Исследователи заметили активное обсуждение ИИ на хакерских форумах. Хотя новички предпочитают ChatGPT от OpenAI, в серьезных атаках чаще задействован Gemini от Google.

На форумах обсуждаются методы обхода ограничений ИИ. Некоторые пользователи пытаются создавать вредоносные приложения с помощью доступных моделей.

За исследуемый период появилось свыше 50 новых группировок, специализирующихся на шифровальщиках, и более 9300 связанных инцидентов. Вместо блокировки данных хакеры стали угрожать публикацией украденной информации.

Несмотря на закрытие шести крупных теневых рынков, возникли пять новых. В кардшопах было выявлено более 16,5 млн скомпрометированных карт.

В августе OpenAI замедлила разработку передовых ИИ после инцидента с Hugging Face и оценки Astra, присвоив ей критический уровень кибервозможностей.