Регуляторы по всему миру обеспокоились возможностями новой ИИ-модели AnthropicФинансовые регуляторы Великобритании и Канады оценивают риски, связанные с новой ИИ-моделью от Anthropic.

Финансовые регуляторы Великобритании проводят экстренные переговоры с правительственным агентством по кибербезопасности и крупнейшими банками. Стороны оценивают риски, связанные с новой ИИ-моделью от Anthropic, пишетFT. Представители Банка Англии, Управления по финансовому регулированию и надзору и Министерства финансов обсуждают вопрос с Национальным центром кибербезопасности. Совместно они планируют изучить потенциальные уязвимости критических важных IT-систем, которыевыявиланейросеть. Издание отмечает, что в ближайшие две недели крупнейшие финансовые учреждения, страховые компании и биржи получат информацию о рисках кибербезопасности, связанных с Claude Mythos. Новая нейросеть оказалась настолько мощной, что создателям пришлось отказаться от ее публичного релиза. Вместо этого стартовал Project Glasswing — инициатива по тестированию инструмента в контролируемой среде при участии AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks. Поводом для беспокойства стало то, что всего за несколько недель Mythos обнаружила тысячи уязвимостей нулевого дня в основных операционных системах и веб-браузерах. Масштаб потенциальной угрозывынудилминистра финансов США Скотта Бессента и председателяФРСДжерома Пауэлла созвать экстренное совещание с руководителями Уолл-стрит. Представители властей предупредили топ-менеджеров, среди которых присутствовали глава Citigroup Джейн Фрейзер и CEO Goldman Sachs Дэвид Соломон, что запуск Mythos знаменует новую эру в сфере кибербезопасности. Банк Канады и крупнейшие финансовые учреждения страны такжепровеливстречу для «оценки системных рисков, связанных с появлением столь продвинутой ИИ-модели. Цель инициативы — «повышение операционной устойчивости критически важного финансового сектора страны». В TechCrunchобратили внимание, что ограничение доступа к Mythos может быть элементом маркетинговой кампании для привлечения внимания к новой ИИ-модели. В марте глава профильного ИИ-стартапа Irregular Дэн Лахав подчеркнул: хотя автоматизированный поиск уязвимостей играет важную роль, реальная польза от найденной бреши для хакеров зависит от множества факторов. В Anthropic утверждают, что Mythos способна использовать бреши гораздо шире по сравнению с Opus. Однако пока неясно, действительно ли этаLLMявляется идеальным решением для киберзащиты. Стартап Aisle сообщил, что смог воспроизвести большинство достижений Mythos с помощью других нейросетей. По словам представителей фирмы, не существует единой модели для киберебзопасности — выбор инструмента всегда зависит от конкретной задачи. Одна из причин, по которой ведущие ИИ-лаборатории могут намеренно ограничивать релизы, — возможность заключать эксклюзивные контракты с крупными предприятиями, параллельно затрудняя конкурентам копирование инструментов с помощью дистилляции. «Это маркетинговая уловка, призванная скрыть тот факт, что топовые модели теперь доступны только по корпоративным соглашениям и больше не предоставляются небольшим лабораториям для тестирования», —отметилCEO exe.dev Дэвид Кроушоу. «Это маркетинговая уловка, призванная скрыть тот факт, что топовые модели теперь доступны только по корпоративным соглашениям и больше не предоставляются небольшим лабораториям для тестирования», —отметилCEO exe.dev Дэвид Кроушоу. Он добавил, что когда Mythos откроют для всех желающих, на рынке появится новая передовая LLM исключительно для корпоративных клиентов. Такой подход позволяет поддерживать приток средств и ограничивать компании, занимающихся дистилляцией алгоритмов. За последние несколько месяцев стартап Anthropic значительно расширил свою аудиторию. Решения компании пользуются большим спросом, а выручка экспоненциально растет. Журналисты TechCrunchсообщили, что на прошедшей в Сан-Франциско конференции HumanX AI тысячи специалистов в области ИИ обсуждали возможности технологии, и Claude упоминали чаще всего в качестве одного из лучших продуктов на рынке. Anthropic упоминали на многих панельных сессиях. В то же время о ChatGPT практически не говорили. Один из экспертов отметил, что OpenAI «выпала из игры». Многие участники конференции подчеркнули, что компания Сэма Альтмана потеряла ясный вектор развития. Масла в огонь подлила недавняя статья о главе стартапа — его описали как диктатора и обманщика, который отказался от изначальной благородной миссии. Диктатор и обманщик. Журналисты описали характер работы Сэма Альтмана Недавний анализ финансовых показателей OpenAI и Anthropicпоказал, что обе компании являются «самыми быстрорастущими предприятиями в истории». В этом контексте «падение» детища Альтмана говорит лишь о том, что оно больше не является бесспорным лидером. У фирмы появились конкуренты — это нормально для большинства отраслей, отметили в TechCrunch. OpenAI явно не намерена терять доминирующее положение. Компанияобъявилао новом тарифном плане за $100, который предоставляет более широкий доступ к инструменту для программированияCodex. Напомним, в апреле Anthropicвыпустилсреду для запуска сложных и длительных агентных задач — Claude Managed Agents.