В США представили законопроект об «аварийной кнопке» для ИИВ Конгрессе США представили законопроект, обязывающий крупных разработчиков внедрить механизмы экстренной остановки систем искусственного интеллекта

В Конгрессе СШАпредставилизаконопроектAI Kill Switch Act, обязывающий крупных разработчиков внедрить механизмы экстренной остановки систем искусственного интеллекта. Документ внесли конгрессмены Тед Лью и Натаниэль Моран.

Согласно инициативе, компании должны обеспечить возможность замедления, приостановки или полной деактивации моделей. Под действие закона подпадут организации с годовой выручкой от ИИ более $500 млн или те, чьи затраты на вычислительные мощности превысили $100 млн.

Основные требования законопроекта:

возможность мгновенного прекращения инференса и блокировки доступа пользователей;

обязательное уведомление властей об инцидентах в течение 15 дней;

право Министерства внутренней безопасности требовать отключения систем по согласованию с разведкой и Минторгом.

Основаниями для принудительной остановки могут стать потеря управления над моделью, скрытие ее возможностей от мониторинга, а также инциденты, повлекшие гибель более 10 человек или ущерб свыше $100 млн.

За нарушение регламента предусмотрены крупные штрафы: до $2 млн в день за общие нарушения и до $20 млн в день за неисполнение приказа об экстренном отключении. У компаний будет 48 часов на обжалование распоряжения.

Законопроект представили спустя несколько дней после того, как в компании OpenAIподтвердили, что атаку на инфраструктуру Hugging Face провели ее собственные ИИ-модели во время внутреннего теста.

Напомним, в июле основатель стартапа Hebbia Джордж Сивулка пришел к выводу, что компании не справились с управлениемИИ-агентами.