Сенаторы США предлагают запретить суперинтеллект и усилить контроль над ИИ

В США сенаторы Берни Сандерс и Грег Касар выступили с законопроектом о полном запрете искусственного суперинтеллекта. Документ также предусматривает заморозку разработки мощнейших ИИ-систем и создание федерального органа для их контроля. Несмотря на поддержку инициативы от сотрудников ведущих ИИ-компаний, ее шансы на одобрение пока остаются низкими.

Законопроект предполагает бессрочный запрет на создание систем, превосходящих человеческие когнитивные способности или способных угрожать человечеству. Разработка таких моделей должна быть приостановлена до утверждения правил безопасности новым Министерством искусственного интеллекта. Запуск подобных систем будет возможен только с разрешения власти, а за нарушения предусмотрены серьезные санкции, включая до 20 лет лишения свободы.

Сенатор Сандерс считает, что человечеству не нужен интеллект, способный выйти из-под контроля. Хуан Фелипе Серон Урибе из OpenAI и Сванте Шольц из Google DeepMind поддерживают законопроект, утверждая, что суперинтеллект может обернуться катастрофой. Однако Конгресс, где доминируют республиканцы, пока не смог договориться даже о более мягких мерах, а президент Трамп сопротивляется усилению контроля.

В то время как Трамп планирует создание специального подразделения по ИИ, слухи о возможном назначении министра финансов Скотта Бессента советником по искусственному интеллекту усиливаются. Главной проблемой противников жестких ограничений остается Китай, который может продолжить развитие ИИ, если США замедлятся. Вопросы безопасности ИИ будут обсуждаться на переговорах Трампа и Си Цзиньпина. Сандерс подчеркивает важность сотрудничества между странами, напоминая об успехах Рейгана и Горбачева в ядерных переговорах.