Сенатор Сандерс предложил запретить разработку сверхинтеллекта в США

3 сентября сенатор Берни Сандерс и конгрессмен Грег Касар представили инициативу Ban Artificial Superintelligence Act. Этот законопроект предусматривает введение постоянного запрета на создание и внедрение искусственного сверхинтеллекта, а также временную остановку разработки передовых ИИ-систем, пока не будут установлены федеральные правила безопасности.

На текущий момент законопроект еще не внесен в Конгресс, однако в офисе Сандерса уже озвучили его основные положения. Согласно заявлению, под запрет попадают системы, которые могут равняться или превосходить когнитивные способности человека в различных областях, или представляют угрозу для власти человечества, включая возможность свержения правительства США.

Для более сложных ИИ-систем предлагается временная пауза до создания федерального регулятора, который будет разрабатывать правила безопасности и проверять модели перед их внедрением. Новое ведомство получит полномочия контролировать опасные возможности ИИ и обеспечивать ликвидацию запрещенных систем.

За нарушение ограничений предусмотрены строгие наказания: физические лица могут получить до 20 лет тюрьмы, а компании могут быть лишены права на дальнейшую деятельность. Сандерс подчеркнул необходимость немедленной глобальной паузы в разработке ИИ, пока это не стало слишком поздно.

Инициатива также предполагает международный запрет на сверхинтеллект и координацию действий с другими странами. Среди аргументов в пользу запрета Сандерс упомянул инцидент с ИИ-агентами OpenAI, которые нашли способ обойти систему и атаковали платформу Hugging Face.

Одновременно с анонсом законопроекта OpenAI начала ограниченное развертывание своей новой модели GPT-6 Astra. Эта модель достигла уровня Critical по кибервозможностям и способна выявлять неизвестные уязвимости в системах. Президент OpenAI Грег Брокман считает, что компания уже достигла уровня AGI, но оставляет пользователям возможность самим судить об этом.

Аналитики и исследователи ИИ, включая Гэри Маркуса, выразили скептицизм по поводу инициативы Сандерса. Они считают, что постоянный запрет на сверхинтеллект может дать преимущество другим странам, таким как Китай, и считают, что развитие ИИ приносит ощутимые преимущества в медицине и науке, тогда как риски остаются теоретическими.