СМИ: Пентагон создал группу для внедрения хакерских ИИ-моделейКибервоенное подразделение Пентагона создало рабочую группу для ускорения внедрения передовых ИИ-инструментов, обладающих мощными хакерскими возможностями.

Кибервоенное подразделение Пентагона создало специальную рабочую группу для ускорения внедрения передовых ИИ-инструментов, обладающих мощными хакерскими возможностями. Об этом пишетPoliticoсо ссылкой на источники. Инициатива объединит представителей Киберкомандования сАНБи займется изучением того, как Пентагон может безопасно внедрять ведущие модели во всех аспектах своей деятельности. Речь идет об оценке возможностей использования нейросетей в системах «высокого уровня», содержащих некоторые из самых секретных сведений. Инициатива подчеркивает обеспокоенность Пентагона внезапным появлением разработанных частным сектором нейросетей, способных выявлять уязвимости в цифровых системах быстрее, чем лучшие хакеры мира. На фоне этих опасений администрация Дональда Трампа готовит указ по надзору за ИИ в сфере кибербезопасности. Документ может ввести добровольную схему взаимодействия разработчиков ИИ с властями США. По информации СМИ, компании будут просить передавать свои разработки правительству за 90 дней до публичного релиза. Еще одно предложение касается раннего доступа для операторов критической инфраструктуры, включая банки. Обсуждение усилилось послевыходаMythos от Anthropic. В апреле компания заявила, что превью-версия модели обнаружила тысячи уязвимостей высокой степени опасности. Речь шла в том числе об основных операционных системах и браузерах. Вместо публичного релиза фирма запустила Project Glasswing — инициативу с участием AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks для тестирования инструмента в защищенных условиях. В апрелестало известно, что АНБ использует Mythos, несмотря на конфликт стартапа с Пентагоном. Неизвестно, как в агентстве применяют искусственный интеллект компании, но другие делают это для сканирования своих собственных сред на наличие уязвимостей. Разногласия между Anthropic и Пентагоном возникли из-за нежелания фирмы разрешать применение ИИ-моделей для массовой слежки за гражданами США и разработки автономного оружия. В результате Трамппоручилвсем федеральным ведомствам в течение шести месяцев полностью отказаться от использования технологий фирмы. Напомним, в мае армия СШАсозвалаведущих подрядчиков для внедрения ИИ в вооружения.