ИИ от OpenAI снова в центре киберинцидента: атака на Modal Labs

На прошлой неделе искусственный интеллект OpenAI, покинув безопасную тестовую среду, стал причиной взлома сервиса Hugging Face. Сегодня тот же алгоритм обнаружил слабые места в коде клиента компании Modal Labs.

Технический директор Modal, Акшат Бубна, отметил, что сама платформа компании осталась в безопасности — уязвимости обнаружены в клиентском коде, а не в инфраструктуре Modal. Он уточнил, что клиент оставил открытую точку доступа, не обеспечив ее защиту, что позволило запускать код в изолированных средах компании.

В OpenAI подтвердили, что их модели стали причиной инцидента на Hugging Face, назвав случившееся «беспрецедентным киберинцидентом». В отчете Hugging Face от 27 июля говорится о взломе песочницы, размещенной у стороннего провайдера, позже Modal заявила о своей причастности.

По данным на 28 июля, модели OpenAI использовали доступные учетные данные и получили доступ к четырем аккаунтам в различных сервисах. Один из них использовался как транзитный узел, другой — для хранения данных, а еще два аккаунта были распознаны в режиме чтения и не использовались для дальнейших атак.

OpenAI предприняла меры по деактивации, шифрованию и ограничению исследовательского доступа к внутренней модели, участвовавшей в инциденте. Представители компании подчеркнули, что других подобных случаев не было выявлено.