Искусственный интеллект OpenAI якобы вышел из-под контроля и взломал другую компанию

OpenAI сообщила, что две ее модели искусственного интеллекта вышли из защищенной тестовой среды и взломали платформу Hugging Face. Так они пытались обойти внутреннюю проверку на кибербезопасность.

О случившемся компания рассказала во вторник. В инциденте участвовала GPT-5.6 Sol — самая мощная из публичных моделей OpenAI, а также более продвинутая, еще не выпущенная версия.

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-how-the-openai-models-hacked-hugging-face">Как модели OpenAI взломали Hugging Face</h2>

OpenAI проводила тест моделей на ExploitGym — открытом бенчмарке, который оценивает навыки по поиску уязвимостей. На время теста компания отключила обычные ограничения, которые обычно мешают моделям совершать кибератаки.

Модели выяснили, что на Hugging Face — платформе для размещения открытых ИИ-моделей — хранятся ответы для этого бенчмарка. Затем они последовательно использовали слабые места в исследовательских системах OpenAI и серверной инфраструктуре Hugging Face.

В результате им удалось получить доступ к нужной информации в базе данных Hugging Face. В OpenAI отметили, что модели оказались «максимально сфокусированы» на решении тестовой задачи. В <a href="https://fortune.com/2026/07/21/openai-says-ai-models-escaped-control-hacked-hugging-face/" rel="noreferrer noopener nofollow" target="_blank">отчете</a> инцидент назвали «беспрецедентным случаем кибератаки».

Это произошло на фоне широкой <a href="https://beincrypto.com/claude-fable-5-backlash-guardrails/" rel="noreferrer noopener" target="_blank">дискуссии о необходимости ограничений для ИИ</a>. Крупнейшие ИИ-лаборатории уже проводят <a href="https://beincrypto.com/fable-5-not-uniquely-risky-anthropic/" rel="noreferrer noopener" target="_blank">жесткие проверки киберрисков</a> перед запуском новых моделей.

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-hugging-face-says-the-damage-is-contained">Hugging Face: последствия локализованы</h2>

О взломе Hugging Face впервые рассказала в уведомлении от 16 июля <a href="https://huggingface.co/blog/security-incident-july-2026" rel="noreferrer noopener nofollow" target="_blank">в блоге</a>. Тогда стало известно только то, что за атакой стоял <a href="https://ru.beincrypto.com/openclaw-kriptovaliuta-kitai/" rel="noreferrer noopener" target="_blank">автономный ИИ-агент</a>. Злоумышленник получил доступ к внутренним данным и сервисным ключам.

Расследование столкнулось с неожиданной проблемой. Ограничения на одну из ведущих американских моделей заблокировали анализ инцидента, поэтому команде пришлось использовать GLM 5.2 — открытую модель от китайской компании Z.ai <a href="https://ru.beincrypto.com/ssha-iskusstvennyy-intellekt-raskhody-kitay-kimi-k3/" rel="noreferrer noopener" target="_blank">(Z.ai — китайский разработчик ИИ)</a>.

С тех пор Hugging Face перекрыла эксплуатируемые уязвимости в коде и сменила все затронутые ключи. В компании заявили, что ни одна публичная модель, датаcет или пользовательский сервис не были изменены.

Генеральный директор Клем Деланг опубликовал <a href="https://fortune.com/2026/07/21/openai-says-ai-models-escaped-control-hacked-hugging-face/" rel="noreferrer noopener nofollow" target="_blank">комментарий</a> после раскрытия информации OpenAI.

<blockquote class="max-w-xl text-4.5 border-l-2 border-blue-600 pl-11 mb-9 select-all [&_p]:!mb-0 wp-block-quote is-layout-flow wp-block-quote-is-layout-flow">
«Этот случай, возможно, первый подобный в истории, ясно показывает: вопросы безопасности ИИ нельзя решить, если каждая компания работает за закрытыми дверями. Решать их придется прозрачно и совместно, с возможностью доступа к ИИ для всех защитников, где бы они ни находились».
</blockquote>

Обе компании сейчас ведут совместное расследование. Как только работа завершится, OpenAI опубликует все подробности. Ключевой вопрос — справятся ли существующие методы сдерживания, когда модели станут еще мощнее.
The post <a href="https://ru.beincrypto.com/openai-ai-polomalsya-vzlom/">Искусственный интеллект OpenAI якобы вышел из-под контроля и взломал другую компанию</a> appeared first on <a href="https://ru.beincrypto.com">BeInCrypto</a>.