ООН предупреждает: меры безопасности для ИИ необходимо внедрять немедленно

Независимая международная научная комиссия ООН по вопросам искусственного интеллекта подчеркнула важность незамедлительного внедрения мер безопасности для автономных систем ИИ, не дожидаясь полного риска потери контроля. 21 сентября эксперты привели в пример инцидент с OpenAI и Hugging Face, когда ИИ-агенты обошли сетевые ограничения и получили несанкционированный доступ к инфраструктуре компаний.

Эксперты считают, что это происшествие является ранним сигналом возможных проблем с более совершенными ИИ-системами. OpenAI уже сообщила о новых случаях неправильного поведения ИИ и начала мониторинг его активности. Ведутся дискуссии, так как нет единого мнения о вероятности потери контроля над ИИ, а сценарии последствий разнятся от экономических потрясений до более серьезных угроз.

Панель советует применять принцип предосторожности в условиях неопределенности, когда потенциальный ущерб может быть катастрофическим. Хотя OpenAI смогла вовремя остановить инцидент в июле, это не гарантирует, что контроль над будущими ИИ будет сохранен. Более продвинутые системы смогут действовать автономно, обходя ограничения.

Специалисты из ООН не считают такие сценарии неизбежными, но указывают на возможные опасности с ростом возможностей ИИ. В докладе предложены методы из кибербезопасности и других областей для работы с передовыми системами ИИ. Один из главных подходов — многоуровневая защита и возможность вмешательства человека.

Рекомендации включают обязательное информирование о серьезных инцидентах, независимую проверку безопасности перед обучением ИИ и хранение журналов действий отдельно от системы. Также предлагается использовать отдельные ИИ для наблюдения за более мощными системами, хотя это создает новую проблему — кому доверять.

Трансграничный характер ИИ также вызывает беспокойство. Системы могут быть разработаны в одной стране, а последствия их действий проявиться в другой. ООН предлагает связывать национальные механизмы ответственности с международной координацией, чтобы избежать давления со стороны конкурентов, выпускающих продукты быстрее.

Генеральный секретарь ООН Антониу Гутерриш подчеркнул необходимость координации мер в сфере ИИ на международном уровне, так как технологии и связанные с ними риски не знают границ. Он заявил, что мир не может позволить себе снижение стандартов безопасности ИИ. В заключении доклада отмечается, что неопределенность не должна мешать вниманию к потенциальным последствиям ИИ.