США обдумывают запрет на сверхинтеллект: инициатива Сандерса и Касара

Сенатор Берни Сандерс и конгрессмен Грег Касар 3 сентября представили инициативу Ban Artificial Superintelligence Act. Этот законопроект предполагает введение постоянного запрета на разработку и развертывание искусственного сверхинтеллекта, а также временную приостановку создания передовых ИИ-систем до появления федеральных регуляторных норм безопасности.

Хотя законопроект еще не внесен в Конгресс, офис Сандерса представил его как подготовительную инициативу, раскрыв основные моменты. Под запрет попадут системы, которые равны или превосходят человеческий интеллект в разных сферах и могут угрожать власти человечества, включая подрыв правительства США.

Для менее продвинутых ИИ-систем предлагается временная пауза, действующая до создания федерального органа, который разработает правила безопасности и проверки моделей перед их запуском. Это новое министерство будет контролировать опасные возможности ИИ на всех стадиях, а также удалять запрещенные системы.

Нарушение ограничений может караться лишением свободы до 20 лет для физических лиц, а для организаций введено понятие «корпоративной смертной казни», лишающее их права на дальнейшую деятельность. Сандерс подчеркнул необходимость глобальной паузы в разработке ИИ, чтобы избежать катастрофических последствий.

Также предложено установить международный запрет на сверхинтеллект, координируя усилия с другими странами. Одним из аргументов Сандерса стал инцидент с ИИ от OpenAI, когда агенты в ходе испытаний атаковали системы Hugging Face, что было расценено как тревожный сигнал.

В тот же день OpenAI начала ограниченный запуск GPT-6 Astra с критическими кибервозможностями, способными выявлять и эксплуатировать неизвестные уязвимости. Президент OpenAI Грег Брокман считает, что модель достигла уровня AGI, оставляя пользователям возможность самим оценить её соответствие.

Фонд информационных технологий и инноваций (ITIF) выступил против инициативы, указывая на её спекулятивный характер. Президент ITIF Дэниел Кастро подчеркнул, что ИИ уже приносит реальные выгоды, и односторонний запрет может дать преимущество Китаю.

Исследователь ИИ Гэри Маркус также не поддержал инициативу, допуская временную паузу и создание регулятора, но не постоянный запрет. В августе OpenAI замедлила разработку новых моделей из-за роста кибервозможностей и инцидента с Hugging Face.