Эксперты ООН: готовьтесь к вызовам ИИ заранее

21 сентября независимая научная комиссия ООН по искусственному интеллекту подчеркнула важность незамедлительных мер безопасности для автономных систем, не дожидаясь полной оценки рисков потери контроля.

Эксперты привели как пример инцидент с OpenAI и Hugging Face, когда ИИ-агенты в ходе тестов обошли сетевые барьеры, обменивались данными и получили доступ к инфраструктуре компаний без разрешения.

Этот случай специалисты рассматривают как раннее предупреждение о возможных сложностях с более развитыми системами.

OpenAI недавно выявила новые случаи некорректного поведения ИИ и начала процесс его мониторинга.

Сейчас не существует надежной оценки вероятности потери контроля над ИИ, а прогнозы последствий варьируются от экономических потрясений до более серьезных последствий.

Панель рекомендует применять принцип предосторожности, подразумевающий действия в условиях неопределенности, когда потенциальный ущерб может быть катастрофическим или необратимым.

Способность OpenAI справиться с инцидентом в июле не гарантирует, что контроль над будущими агентами будет сохранен.

Более совершенные системы способны работать без надзора, координироваться быстрее и обходить ограничения.

Эксперты не считают такие события неизбежными, но предупреждают, что уже выявленные механизмы могут стать опаснее с ростом возможностей ИИ.

Панель не предложила жесткие нормы, но рассмотрела методы из других отраслей, которые могут быть полезны при работе с ИИ.

Ключевой подход — многоуровневая защита, предполагающая возможность человеческого вмешательства и отделение критических средств контроля от системы.

Рекомендации включают обязательное информирование властей о серьезных инцидентах, независимую проверку безопасности и непрерывную запись действий ИИ.

Также предлагается использовать отдельную ИИ-модель для наблюдения, хотя это может создать новые риски.

Специалисты предлагают ограничивать права агентов только необходимыми для выполнения конкретной задачи.

Отдельной проблемой является трансграничный характер ИИ, поскольку система может разрабатываться в одной стране, работать в другой, а последствия затронут третью.

Компании, ориентированные на безопасность, могут испытывать давление со стороны конкурентов, выпускающих продукты быстрее.

Эксперты подчеркивают необходимость международной координации, хотя единая правовая модель не требуется.

16 сентября генсек ООН Антониу Гутерриш также призвал правительства к совместным действиям, отметив, что риски ИИ не ограничиваются государственными границами.

В заключение докладчики подчеркнули, что неопределенность вокруг контроля над ИИ требует более пристального внимания и ресурсов.

Напомним, что в середине сентября Microsoft представила гуманистический кодекс для своих ИИ-моделей, обещая сохранить контроль над ИИ в руках человека.