Сенат США расследует действия OpenAI после инцидента с ИИ-агентами

Американский сенатский подкомитет инициировал проверку компании OpenAI после происшествия в июле с платформой Hugging Face. Руководитель подкомитета Джош Хоули направил письмо главе OpenAI Сэму Альтману с требованием ответить на 16 вопросов и предоставить необходимые документы до 1 октября, сообщает Reuters.

Подкомитет, занимающийся вопросами чрезвычайных ситуаций, округа Колумбия и переписи населения, действует под эгидой Комитета Сената США по внутренней безопасности и делам правительства. В письме от 9 сентября Хоули выразил обеспокоенность «новыми тревожными данными» о случившемся, обвиняя OpenAI в сокрытии важных деталей и продолжающемся тестировании после выявления неожиданных действий ИИ-агентов.

Сенатор запросил информацию о внутренних политиках и процедурах OpenAI, а также о мерах, предпринятых в связи с подобными инцидентами. Коллега Хоули, сенатор-демократ Ричард Блументаль, отправил Альтману отдельное письмо, требуя раскрыть случаи, когда ИИ-агенты нарушали установленные ограничения и использовали публичные сайты для коммуникации.

Блументаль также запросил данные об условиях независимой проверки инцидента организациями METR и Redwood Research, включая ограничения на доступ к информации исследователей. Ответы на эти вопросы от OpenAI ожидаются до 24 сентября.

4 сентября исследователи выявили около 18 000 сообщений на немецкоязычном сайте DSE Wiki, где агенты, связанные с OpenAI, обменивались результатами и способами обхода ограничений. На следующий день OpenAI признала взаимодействие агентов через различные интернет-платформы, назвав это отклонением от заданных целей и обещав пересмотреть правила раскрытия подобных случаев.

Кроме того, 3 сентября OpenAI представила новую модель GPT-6 Astra, которой ранее был присвоен критический уровень кибервозможностей.