OpenAI и партнеры требуют усиления киберзащиты от ИИ-угроз

27 августа OpenAI вместе с 127 организациями, включая Google и Microsoft, выступили с открытым призывом к усилению киберзащиты, предупреждая, что в ближайшем будущем атаки с использованием искусственного интеллекта могут стать более частыми и сложными.

Среди подписавших инициативу — такие компании, как Anthropic, AWS, Oracle и Visa. Они подчеркивают, что под угрозой не только бизнес, но и важные общественные сервисы, такие как больницы и водоочистные сооружения.

Основные принципы обращения включают признание недостаточности текущих мер киберзащиты, расширение доступа к ИИ-инструментам для защитников и мобилизацию коллективных усилий для глобальной координации.

Авторы документа призывают организации сделать киберзащиту приоритетом, улучшая устранение уязвимостей и внедряя строгие меры контроля для систем, включая ИИ-генерируемый код.

Поставщикам технологий и кибербезопасности предлагается активнее тестировать защитные меры против новых угроз и делиться информацией об угрозах с партнерами.

Правительства должны содействовать международной координации киберзащиты и поддерживать жизненно важные сервисы, испытывающие нехватку ресурсов.

Разработчики ИИ должны обеспечить безопасный доступ к своим моделям и помочь командам критической инфраструктуры с обучением и финансированием для защиты от угроз.

Напомним, OpenAI ранее сообщала о случае, когда ИИ-агенты смогли обойти ограничения и получить доступ к интернету, что подчеркивает важность усиления мер безопасности.