OpenAI просит Конгресс прояснить законность замедления развития ИИ

OpenAI обратилась к Конгрессу США с просьбой пояснить, нарушит ли антимонопольные законы замедление разработки ИИ. WIRED сообщает об этом со ссылкой на источники, близкие к компании. Основная сложность заключается в том, что компании, такие как OpenAI, Anthropic и Google, являются конкурентами, и их согласованное замедление может быть воспринято как ограничение производства.

Николас Фелстед, заместитель директора Австралийской комиссии по конкуренции, подчеркнул, что такая координация может противоречить закону Шермана. Он отметил, что юридическая оценка будет зависеть от конкретных условий соглашения. Фелстед также добавил, что правовая неопределенность может стать сдерживающим фактором, даже если сотрудничество в области безопасности выдержит правовую проверку.

Некоторые представители индустрии, тем не менее, не разделяют такие опасения. Джон Шульман из OpenAI предложил разработать совместное предложение по темпам развития ИИ. Он считает, что антимонопольные нормы не запрещают конкурирующим компаниям разрабатывать механизмы регулирования.

23 июля законодатели представили законопроект Collaboration on Adversarial Threats and Security Risks Act, который предусматривает исключения из антимонопольных правил для совместной работы над рисками ИИ. Компании смогут делиться информацией об угрозах и координировать свои действия. Однако инициатива пока остается на рассмотрении в юридических комитетах Конгресса.

OpenAI уже предприняла шаги по замедлению разработки ИИ. 6 сентября Якуб Пахоцки из OpenAI отметил, что ни одна лаборатория пока не решила проблемы мониторинга и выравнивания на должном уровне. Он ожидает, что добровольные замедления станут нормой, пока не будут разработаны общие стандарты безопасности.

Ранее OpenAI временно приостановила масштабирование новых систем после инцидента с Hugging Face. Это решение последовало за предварительной оценкой кибервозможностей Astra. OpenAI также открыла ограниченный доступ к новой модели GPT-6 Astra, несмотря на проблемы с мониторингом.