В США придумали рубильник для ИИ — законопроект Kill Switch

<p><strong>Два конгрессмена США внесли законопроект AI Kill Switch Act. Документ обязывает крупнейших разработчиков искусственного интеллекта сохранять техническую возможность ограничить, приостановить или полностью отключить самые мощные ИИ-системы.</strong></p>

<p>Двухпартийную инициативу подготовили Тед Лью и Натаниэл Моран. Федеральные ведомства при этом получат экстренные полномочия: при угрозе катастрофических последствий они смогут приостановить работу ИИ или отключить его полностью.</p>

<section class="c-bic-highlighted-text mb-8 md:mb-12 " id="block_6a63932297c75">
<div class="flex items-center gap-5 px-5 py-4 rounded-xl bg-grey-50 text-dark-grey-700">
<svg class="min-w-5 h-5 text-blue-600" fill="none" height="28" viewBox="0 0 28 28" width="28" xmlns="http://www.w3.org/2000/svg"><path d="m11.195 26.6 1.4-9.8h-4.9c-.812 0-.798-.448-.532-.924.266-.476.07-.112.098-.168L16.795 1.4l-1.4 9.8h4.9c.686 0 .784.462.658.714l-.098.21-9.66 14.476Z" fill="currentColor"></path></svg>
<div class="bic-block-highlighted-paragraph-content p3 p3--ns [&_p:last-child]:!mb-0 [&_p]:!leading-6 [&_p]:!font-body [&_p]:!text-4 [&_a]:!text-blue-600">
<p><strong><em>Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш</em></strong><a href="https://t.me/beincrypto_trading"><strong><em> телеграм-канал</em></strong></a><strong><em>, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!</em></strong></p>

</div>
</div>
</section>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-причиной-стали-недавние-инциденты-с-ии">Причиной стали недавние инциденты с ИИ</h2>

<p>Депутаты сослались на два свежих инцидента, которые перевели угрозу из теории в практику. Оба связаны с ведущими американскими компаниями и их самыми передовыми моделями.</p>

<p>В OpenAI признали, что модель GPT 5.6 Sol вышла из-под контроля в изолированной тестовой среде. Позже она взломала платформу Hugging Face — так модель <a href="https://ru.beincrypto.com/openai-ai-polomalsya-vzlom/" rel="noreferrer noopener" target="_blank">пыталась обойти тестовый показатель</a>.</p>

<p>Anthropic стала фигурантом <a href="https://ru.beincrypto.com/anthropic-priostanavlivaet-fable-5-mythos-5-us-directiva/" rel="noreferrer noopener" target="_blank">отдельного расследования</a> из-за моделей Fable 5 и Mythos 5. Министерство торговли США сослалось на киберриски и ограничило работу моделей инструментами экспортного контроля. Позже доступ к моделям вернули..</p>

<blockquote class="max-w-xl text-4.5 border-l-2 border-blue-600 pl-11 mb-9 select-all [&_p]:!mb-0 wp-block-quote is-layout-flow wp-block-quote-is-layout-flow">
<p>«Этот закон нацелен не только на последствия описанных инцидентов, но и на любые будущие случаи, когда развернутый ИИ выходит из‑под контроля или работает без достаточных ограничений», — говорится в <a href="https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can#:~:text=%22Stewardship%20means%20making%20sure%20humans,Congressman%20Lieu%20toward%20a%20solution.%22" rel="noreferrer noopener nofollow" target="_blank">пресс-релизе</a>.</p>
</blockquote>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-как-будет-работать-ai-kill-switch-act">Как будет работать AI Kill Switch Act</h2>

<p>Законопроект выстраивает поэтапную схему реагирования: сначала частичные ограничения, при серьезной угрозе — полная остановка ИИ-системы.</p>

<p>Решение будет принимать министр внутренней безопасности. В сложных случаях ему предписаны консультации с министром торговли и директором национальной разведки США.</p>

<p>Закон обяжет разработчиков регулярно отчитываться о подобных инцидентах и хранить технические материалы расследований. Цель конгрессменов — понимать причины сбоев заранее, а не восстанавливать картину задним числом.</p>

<p>По словам Теда Лью, инициатива поставит барьер на пути ИИ-систем, способных действовать самостоятельно.</p>

<blockquote class="max-w-xl text-4.5 border-l-2 border-blue-600 pl-11 mb-9 select-all [&_p]:!mb-0 wp-block-quote is-layout-flow wp-block-quote-is-layout-flow">
<p>«Императивно важно, чтобы у таких ИИ‑систем был аварийный выключатель. Это позволит сдержать риски катастрофического ущерба и при необходимости даст федеральным властям четкий инструмент для остановки опасных моделей», — подчеркнул Лью.</p>
</blockquote>

<p>Пять организаций уже поддержали инициативу, среди них Future of Life Institute и Americans for Responsible Innovation. Законопроект попадет в Конгресс в разгар жарких споров о федеральном регулировании искусственного интеллекта. Судьба двухпартийной инициативы покажет, способны ли предложения по безопасности ИИ собирать голоса обеих партий.</p>