Россия и США снимают ограничения на военный ИИ в проекте ООН

Россия и США исключили из проекта международного документа ООН о автономном вооружении критически важные ограничения на использование военного ИИ. Как сообщает The Washington Post, это произошло на основе полученных документов и информации от источников.

В документе больше не содержится требования, чтобы человек перепроверял цели, выбранные алгоритмами, перед тем, как их атаковать. Также были исключены пункты, касающиеся этических аспектов применения таких систем.

Делегации обеих стран работали над проектом регулирования автономного оружия, но убрали из текста условия, требующие, чтобы системы действовали «предсказуемо» и «надежно». Этические соображения при использовании ИИ-вооружений также были проигнорированы.

В переговорах участвовали команды из примерно десяти юристов с каждой стороны, что превышает представительство других стран. Обсуждения вели без камер и участия общественных наблюдателей. Комментарии от МИД РФ, Госдепартамента США и ООН не поступили.

Заседания проходили в Женеве с 31 августа по 4 сентября на площадке Группы правительственных экспертов по автономным системам вооружений. В ноябре участники Конвенции о конкретных видах обычного оружия снова встретятся, чтобы обсудить возможность официального мандата или юридически обязывающего соглашения.

В это время США ограничивают доступ к передовым ИИ-моделям даже для союзников, откладывая передачу новых систем на проверку. Последний инцидент с самовольным доступом ИИ к закрытому порталу Medicare поднимает вопрос о необходимости контроля.

В США законодатели пытаются закрепить надзор над мощными системами, внося законопроекты о запрете суперинтеллекта. В России планируют создать комитет по цифровому развитию и ИИ, возглавить который предложено Александру Сидякину.