Mythos от Anthropic нашла уязвимости в секретных системах США за часы

<p><strong>Анонимный представитель властей США сообщил Associated Press, что одна из моделей искусственного интеллекта компании Anthropic выявила уязвимости в особо чувствительных и защищенных компьютерных системах правительства США.</strong></p>

<p><a href="https://apnews.com/article/anthropic-mythos-ai-classified-systems-vulnerabilities-testing-3e8762c0527c4d8ed657cbe48c84a718" rel="noreferrer noopener nofollow" target="_blank">По словам неназванного собеседника</a>, Anthropic объединилась с разведывательными ведомствами США для проведения тестов с использованием модели Mythos. Она выявила ряд уязвимостей в течение нескольких часов, однако это не означает, что модель смогла за это время ими воспользоваться, подчеркнул источник.</p>

<section class="c-bic-highlighted-text mb-8 md:mb-12 " id="block_6a3bba5135205">
<div class="flex items-center gap-5 px-5 py-4 rounded-xl bg-grey-50 text-dark-grey-700">
<svg class="min-w-5 h-5 text-blue-600" fill="none" height="28" viewBox="0 0 28 28" width="28" xmlns="http://www.w3.org/2000/svg"><path d="m11.195 26.6 1.4-9.8h-4.9c-.812 0-.798-.448-.532-.924.266-.476.07-.112.098-.168L16.795 1.4l-1.4 9.8h4.9c.686 0 .784.462.658.714l-.098.21-9.66 14.476Z" fill="currentColor"></path></svg>
<div class="bic-block-highlighted-paragraph-content p3 p3--ns [&_p:last-child]:!mb-0 [&_p]:!leading-6 [&_p]:!font-body [&_p]:!text-4 [&_a]:!text-blue-600">
<p><strong><em>Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш</em></strong><a href="https://t.me/beincrypto_trading"><strong><em> телеграм-канал</em></strong></a><strong><em>, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!</em></strong></p>

</div>
</div>
</section>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-как-проходило-тестирование">Как проходило тестирование</h2>

<p>По словам представителя властей, тестирование велось в рамках инициативы Anthropic под названием Project Glasswing. Она объединила технологических гигантов и другие компании в надежде защитить критически важное мировое программное обеспечение от «серьезных» последствий, которые модель Mythos может нести для общественной безопасности, национальной безопасности и экономики.</p>

<p>О тестировании кратко упомянул сенатор-демократ Марк Уорнер из Вирджинии на слушаниях 11 июня перед сенатским комитетом по банковскому делу, жилищным вопросам и городскому развитию. По его словам, инструмент «проник» почти во все секретные системы страны не за недели, а за часы.</p>

<p>Эту информацию Уорнер приписал главе Агентства национальной безопасности и Киберкомандования США генералу Джошуа Радду. Так заявление получило подтверждение со стороны высокопоставленного военного источника.</p>

<p>В ответ на запрос Агентство Национальной Безопасности (АНБ) отказалось от комментариев в электронном письме. Представитель Anthropic также воздержался от комментариев.</p>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-растущая-напряженность-с-администрацией">Растущая напряженность с администрацией</h2>

<p>Несмотря на недавнее сотрудничество Anthropic и ведомств США по поиску уязвимостей, напряженность между калифорнийской компанией и администрацией Дональда Трампа нарастает. Anthropic выражала обеспокоенность тем, как военные США будут использовать ее ИИ, а администрация ограничила применение некоторых моделей компании.</p>

<p>В начале месяца администрация выпустила директиву, обязывающую Anthropic не допускать использования ее новейших моделей — Fable 5 и Mythos 5 — иностранными гражданами. </p>

<p>Anthropic выпустила Fable в широкий доступ ранее в этом месяце. Модель представляет собой ограниченную версию более продвинутой Mythos, доступ к которой компания строго ограничила из-за опасений в сфере кибербезопасности. Директива вышла через десять дней после того, как президент США Дональд Трамп подписал указ о создании механизма проверки рисков национальной безопасности от самых продвинутых ИИ-систем сроком до месяца перед их публичным выпуском.</p>

<p>Anthropic сообщила, что отключила модели для всех своих клиентов, чтобы выполнить директиву администрации. При этом компания заявила, что не считает предпринятые властями действия оправданными.</p>

<p>Группа руководителей в сфере кибербезопасности также обратилась к администрации Трампа с просьбой отменить директиву, заявив, что этот шаг может помочь противникам США больше, чем навредить им. Более 100 экспертов и руководителей из компаний, включая Adobe и Nvidia, сообщили властям в письме, что модели Mythos хороши в поиске уязвимостей в ПО и превращении их в работающие эксплойты, но не уникальны в этих задачах. Многие отметили, что регулярно используют другие базовые модели и модели с открытым исходным кодом для аудитов безопасности, и назвали «опасным лишать страну лучших средств киберзащиты без веских причин в момент, когда противники США быстро наращивают возможности».</p>