В США предлагают запретить создание сверхинтеллектуальных систем

3 сентября сенатор Берни Сандерс и конгрессмен Грег Касар объявили о планах по введению запрета на разработку искусственного сверхинтеллекта через законопроект Ban Artificial Superintelligence Act. Инициатива предполагает постоянный запрет на создание и внедрение таких систем, а также временную остановку разработки продвинутых ИИ до установления федеральных норм безопасности.

На данный момент законопроект еще не представлен в Конгрессе, однако офис Сандерса уже поделился его основными положениями. В соответствии с ними, под запрет могут попасть системы, которые обладают когнитивными способностями на уровне человеческого интеллекта или превышают его в различных сферах, а также те, которые могут угрожать государственной безопасности США.

Для продвинутых ИИ-систем предлагается временная приостановка, действующая до создания федерального регулятора. Это ведомство займется разработкой правил безопасности и процедур проверки моделей перед их внедрением, а также будет наделено полномочиями контролировать опасные возможности ИИ на всех стадиях их жизненного цикла.

Нарушение запрета может повлечь серьезные наказания: физическим лицам грозит до 20 лет тюрьмы, а компании, нарушившие запрет, могут столкнуться с "корпоративной смертной казнью". Сандерс подчеркивает необходимость глобальной паузы в разработке ИИ, чтобы избежать потенциальных угроз.

В поддержку международного запрета сверхинтеллекта, инициатива предполагает взаимодействие с другими странами и применение экспортных ограничений. Однако, несмотря на поддержку со стороны некоторых, инициативу раскритиковал Фонд информационных технологий и инноваций (ITIF), указывая на преимущества ИИ в медицине и науке.

Гэри Маркус, известный исследователь ИИ, высказал сомнения относительно инициативы, поддержав временную паузу, но критиковав постоянный запрет. Между тем, OpenAI замедлила разработку новых моделей из-за роста кибервозможностей и инцидента с Hugging Face.