СМИ связали ограничения Anthropic с КитаемОпасения Белого дома из-за возможного доступа связанной с Китаем группы к модели Mythos стали одной из причин экспортных ограничений для Anthropic. Об этом сообщает Semafor со ссылкой на источник.

Опасения Белого дома из-за возможного доступа связанной с Китаем группы к модели Mythos стали одной из причинэкспортных ограниченийдля Anthropic. Об этом сообщаетSemaforсо ссылкой на источник. ПараллельноBusiness InsiderиAxiosназвали другим триггером сообщения об обходе защиты Fable 5. Сама Anthropicутверждает, что речь шла о «узком» и неуниверсальном способе, который не давал модели уникальных возможностей. Согласно СМИ, администрацию Дональда Трампа насторожили подозрения в доступе к Mythos со стороны группы, связанной с Китаем. Журналисты не уточнили, о какой организации идет речь, как это произошло и откуда Белый дом узнал об эпизоде. По даннымThe Verge, Белый дом публично не подтверждал эту версию. Представитель Anthropic заявил Semafor, что в переговорах с властями тема «китайского доступа» к Mythos не поднималась. Компания запрещает доступ к своим продуктам из КНР. В Business Insiderотметили, что 11 июня CEO Amazon Энди Джесси сообщил администрации президента о возможности обойти ограничения Fable 5. По словам собеседника издания, коропорация отвечала на запрос о проверке модели. СогласноAxios, министр торговли США Говард Латник направил главе Anthropic Дарио Амодеи письмо, по которому Fable 5 и Mythos 5 подпадали под экспортный контроль за пределами США и для всех иностранных лиц внутри страны. Чиновники якобы пытались убедить Anthropic добровольно приостановить доступ к моделям, но компания не согласилась. Собеседник издания, близкий к стартапу, оспорил эту версию и заявил, что Белый дом дал стартапу 90 минут на отключение моделей без подробностей о характере угрозы. 13 июня советник главы Белого дома Дэвид Сакснаписалв X, что администрация получила предупреждение о возможном обходе защит Fable 5 от партнера, которому доверяли и власти, и Anthropic. «Администрация надеется, что Anthropic устранит проблему безопасности, экспортный контроль будет снят, а Fable вернется в общий доступ. […] Мяч на стороне Anthropic», — написал Сакс. «Администрация надеется, что Anthropic устранит проблему безопасности, экспортный контроль будет снят, а Fable вернется в общий доступ. […] Мяч на стороне Anthropic», — написал Сакс. Anthropic заявила, что письмо властей не содержало конкретных деталей о рисках для национальной безопасности. По версии компании, претензии касались способа обхода защиты Fable 5. Стартап утверждает, что изучил демонстрацию этой техники. По его оценке, она позволяла найти «небольшое число ранее известных незначительных уязвимостей». В Anthropic добавили, что другие публично доступные модели способны выявлять те же проблемы без обхода защиты. Компания также заявила, что перед запуском Fable 5 потратила «тысячи часов» на тестирование защит вместе с правительством США, британским Институтом безопасности ИИ, сторонними организациями и внутренними командами. По данным Anthropic, тестировщики пока не нашли универсальный способ массово обходить ограничения модели. «Мы считаем это недоразумением и работаем над восстановлением доступа как можно скорее», — заявили в компании. «Мы считаем это недоразумением и работаем над восстановлением доступа как можно скорее», — заявили в компании. 9 июняAnthropicпредставилаFable 5 и Mythos 5. Компания назвала Fable 5 моделью класса Mythos для общего доступа. Mythos 5 использует ту же базовую модель, но имеет ослабленные ограничения в отдельных областях и предназначена для киберзащитников и поставщиков критической инфраструктуры в рамках Project Glasswing. 2 июня Anthropicсообщилао расширении Project Glasswing примерно на 150 организаций более чем из 15 стран. По данным компании, ранние партнеры программы к тому моменту нашли свыше 10 000 уязвимостей высокой и критической степени. Напомним, после экспортной директивы властей США, потребовавшей от Anthropic ограничить доступ иностранных граждан к моделям Fable 5 и Mythos 5, токены децентрализованных ИИ-проектов Venice и Morpheusвырослина 14% и 21% соответственно.