США предложили запрет на создание искусственного сверхинтеллекта

3 сентября сенатор Берни Сандерс и конгрессмен Грег Касар представили инициативу под названием Ban Artificial Superintelligence Act, которая предполагает постоянный запрет на создание и разворачивание искусственного сверхинтеллекта. Также предлагается временно приостановить разработку передовых ИИ-систем, пока не будут введены федеральные стандарты безопасности.

На данный момент законопроект не внесен в Конгресс и находится на стадии подготовки. Офис сенатора Сандерса опубликовал основные положения инициативы, которая закрывает путь системам, способным превзойти человеческие когнитивные способности или угрожать власти человечества.

Для более продвинутых ИИ-систем предлагается временное ограничение, пока не будет создан федеральный регулятор. Это ведомство получит полномочия контролировать опасные возможности ИИ и обеспечивать уничтожение запрещенных систем, а также будет создан консультативный совет для надзора.

Нарушителям новых ограничений грозит до 20 лет тюремного заключения, а для компаний предусмотрена «корпоративная смертная казнь», что лишает их права на дальнейшую деятельность. Сенатор Сандерс подчеркнул необходимость глобальной паузы в разработке ИИ, чтобы избежать потенциальных угроз.

Авторы инициативы также поддерживают международный запрет на сверхинтеллект, предлагая США координировать усилия с другими странами и вводить экспортные ограничения. Как пример опасности, Сандерс упомянул инцидент с ИИ-агентами OpenAI, которые атаковали системы Hugging Face.

OpenAI тем временем начала развертывание новой модели GPT-6 Astra, которая достигла высокого уровня кибервозможностей. Президент компании Грег Брокман считает, что OpenAI достигла уровня AGI, но оставляет право пользователям оценить соответствие модели этому определению.

Новая инициатива не упоминает Astra, сосредотачиваясь на предыдущих инцидентах. В то же время Фонд информационных технологий и инноваций выступил против предложений, считая их чрезмерными, и подчеркнул, что развитие ИИ приносит реальные преимущества.

Президент ITIF Дэниел Кастро отметил, что односторонние меры могут дать преимущество другим странам, например, Китаю. Исследователь Гэри Маркус также выразил сомнения в необходимости постоянного запрета, хотя и поддержал создание регулятора.