Искусственный интеллект становится оружием хакеров: новая эпоха кибератак

В отчете F6 подчеркивается, что искусственный интеллект стал неотъемлемой частью современных кибератак, начиная с разведки и заканчивая созданием вредоносного кода. Документ охватывает события с начала 2025 года до середины 2026 года.

Аналитики выявили, что за полтора года как минимум 18 APT-группировок применили ИИ в своих атаках. F6 документирует случаи использования ИИ для усиления кибератак, включая детальную автоматизацию и генерацию контента.

Группировка GTG-1002 использовала языковые модели для создания персонализированных фишинговых писем, обходя стандартные спам-фильтры. TAT26-12 автоматизировала разведку, собирая данные о персонале и уязвимостях компаний.

Особое внимание уделено инструменту PromptSpy, предназначенному для манипуляции корпоративными системами на базе LLM. Также выделяется LAMEHUG — средство для создания вредоносного кода почти без вмешательства человека.

Исследователи отметили рост интереса хакеров к ИИ-моделям на форумах. Хотя ChatGPT от OpenAI популярен среди новичков, в серьезных атаках чаще используют Gemini от Google.

На форумах обсуждаются способы обхода ограничений ИИ. Более 50 новых группировок занимаются распространением шифровальщиков, зарегистрировано свыше 9300 связанных инцидентов.

Тенденция смещается от блокировки данных к угрозе их публикации. Это снижает технические требования атаки и усложняет защиту.

За полтора года закрыты шесть крупных теневых площадок, но появились пять новых. В кардшопах зарегистрировано более 16,5 млн скомпрометированных карт на продажу.

В августе OpenAI замедлила развитие передовых ИИ-систем после инцидента с Hugging Face и оценки Astra, присвоив ей критический уровень кибервозможностей.