Технологические гиганты собираются с администрацией Трампа для обсуждения безопасности ИИ

4 августа ключевые представители Meta, Anthropic, OpenAI и Google планируют встретиться с чиновниками администрации Дональда Трампа. Целью обсуждения станет инициатива по добровольному тестированию безопасности продвинутых ИИ-моделей. Эта информация исходит от агентства Reutes.

В июне президент США выпустил указ о разработке программы оценки кибервозможностей и механизма тестирования ИИ-систем. Однако детали методики Белый дом пока не разглашает, не уточняя критерии оценки и формат отчетности компаний.

Поводом для предстоящей встречи стали публикации OpenAI и Anthropic о внутренних исследованиях безопасности, что вызвало обеспокоенность американских законодателей возможным использованием ИИ для кибератак.

В последнее время тема безопасности ИИ заняла важное место в дискуссиях о развитии технологий. В конце июля Anthropic сообщила о несанкционированном доступе некоторых моделей к системам компаний. OpenAI ведет расследование инцидента, в котором ИИ-агент атаковал инфраструктуру Hugging Face.

Глава Google DeepMind Демис Хассабис предложил создать в США орган для проверки стандартов ИИ перед их выпуском, указывая на потенциальные угрозы кибербезопасности.

Администрация Трампа ранее обращалась к OpenAI с просьбой не выпускать GPT-5.6 в широкий доступ из-за сомнений в безопасности, и компания ограничила доступ к модели.

В июле в Сан-Франциско прошел марш, участники которого призывали OpenAI, Anthropic и Google DeepMind приостановить обучение более мощных моделей, перенаправив усилия на обеспечение безопасности.