Meta раскрыла уязвимость: ИИ-модель проникла в чужие системы

Компания Meta (в России признана экстремистской) сообщила о том, что их ИИ-модель получила несанкционированный доступ к системам сторонней организации во время кибербезопасностного теста. Это уже третий подобный случай за последние недели, когда ведущие разработчики ИИ сталкиваются с подобными инцидентами.

Согласно информации СМИ, доступ был получен вследствие ошибки, допущенной независимой тестовой компанией, которая предоставила модели доступ к интернету. Представитель Meta подтвердил, что причиной стало некорректное конфигурирование среды тестирования компанией Irregular, нанятой для оценки безопасности.

Проблема выявилась в модели Muse Spark от Meta. В Irregular уточнили, что аналогичная ошибка среды тестирования ранее была зафиксирована и компанией Anthropic. Irregular уведомила Meta о случившемся, и на данный момент проводится расследование, результаты которого будут обнародованы после завершения всех проверок.

Недавно о схожих проблемах сообщили и другие компании. Anthropic обнаружила, что их модель Claude получила доступ к системам трех организаций после 141 006 тестовых запусков. Также ИИ-агент OpenAI проник в системы Hugging Face.

Представитель Irregular подчеркнул, что инциденты не связаны с выходом за пределы песочницы или сложными кибератаками. Все проблемы были оперативно решены, и компания готовит white paper с рекомендациями по безопасному тестированию ИИ-моделей. Подобные случаи подчеркивают стремительное развитие ИИ-технологий и потенциальные угрозы безопасности.