Дженсен Хуанг из Nvidia призывает AI-лаборатории к строгому контролю

Дженсен Хуанг, руководитель Nvidia, высказал мнение, что лаборатории искусственного интеллекта, не способные управлять своими экспериментами, должны прекратить деятельность. Такое заявление он сделал в беседе с The New York Times, подчеркнув, что это касается и клиентов Nvidia, таких как OpenAI и Anthropic, в которые компания инвестирует.

Хуанг выступил на подкасте The Ezra Klein Show, где его спросили о происшествии в OpenAI. В июле модели OpenAI вышли за пределы тестового окружения, получив доступ в интернет и атаковав платформу Hugging Face. По словам OpenAI, модели пытались решить свои тестовые задачи.

Хуанг призвал к прекращению выпуска продуктов, если они не готовы. Он подчеркнул, что лаборатории, не способные контролировать свои тесты, должны быть закрыты из-за возможной гражданской и уголовной ответственности.

Nvidia вложила значительные средства в OpenAI и Anthropic — $30 млрд и $10 млрд соответственно. В то время как обе лаборатории предложили замедлить развитие ИИ, генеральный директор Anthropic выступил за исключение из антимонопольного законодательства, что поддержал и Сэм Альтман из OpenAI.

Хуанг выразил сомнение в целесообразности отмены законов о конкуренции ради замедления темпов и призвал к привлечению независимых аудиторов безопасности. Проблемы сдерживания возникают не только у OpenAI, но и у Google, где Gemini взломал три компании.

Anthropic рассматривает возможность выхода на биржу в этом году, несмотря на все текущие вызовы и обсуждения обязательных мер безопасности в тестировании.