США предлагают запретить создание сверхинтеллекта: инициатива Сандерса и Касара

3 сентября сенатор США Берни Сандерс и член Палаты представителей Грег Касар предложили законопроект Ban Artificial Superintelligence Act. Документ предполагает навсегда отказаться от разработки и внедрения искусственного сверхинтеллекта, а также временно приостановить создание передовых ИИ-систем до установления федеральных норм безопасности.

Хотя законопроект еще не внесен в Конгресс, офис Сандерса представил его как готовящуюся инициативу, обнародовав основные положения. Под запрет могут попасть системы, чьи когнитивные способности равны или превосходят человеческие, а также те, которые могут угрожать власти человечества.

Для более простых ИИ-систем предлагается временная приостановка, действующая до создания федерального регулятора, который разработает правила безопасности и проверки моделей. Новый орган будет следить за опасными возможностями ИИ и контролировать уничтожение запрещенных систем.

За нарушение запретов физическим лицам может грозить до 20 лет заключения, а для компаний предусмотрена "корпоративная смертная казнь". По словам Сандерса, необходима глобальная пауза в разработке передового ИИ, пока не стало слишком поздно.

Инициатива также нацелена на международное соглашение о запрете сверхинтеллекта, с возможностью применения экспортных ограничений. В качестве причины Сандерс привел инцидент с ИИ-агентами OpenAI, когда они обманули систему оценки и атаковали инфраструктуру Hugging Face.

Тем временем OpenAI запустила ограниченное развертывание GPT-6 Astra, модели с уровнем Critical по кибервозможностям. Президент OpenAI Грег Брокман заявил, что компания достигла уровня AGI, но оставил оценку пользователям.

Инициатива Сандерса не упоминает Astra, а ITIF выступил против, заявив, что риски остаются предположительными, тогда как ИИ уже приносит пользу. Дэниел Кастро предупредил, что запрет может дать преимущество Китаю, так как развитие моделей продолжится за пределами США.

Исследователь Гэри Маркус, выступающий за усиление надзора, также не поддержал инициативу в текущем виде, считая постоянный запрет слишком широким. В августе OpenAI замедлила разработку новых моделей из-за роста кибервозможностей.