Глава Nvidia против новых правил для ИИ: безопасность — инженерная задача

На конференции Dreamforce Дженсен Хуанг, CEO Nvidia, выразил мнение, что вопросы безопасности ИИ должны решаться на уровне инженерии, а регулирование разработки и возможных пауз должно оставаться на усмотрение самих компаний. Такое заявление он сделал в диалоге с Марком Бениоффом из Salesforce.

В ответ на вопрос о замедлении разработки ИИ, Хуанг подчеркнул, что безопасность должна быть приоритетом, но это прежде всего инженерная задача. Разработчики должны создавать надежные тестовые среды, и если продукт не проверен на безопасность, его не следует выводить на рынок.

По словам Хуанга, рыночные механизмы уже работают, поэтому новые законы и регулирование не требуются. Он также отметил, что нет необходимости выбирать между инновациями и безопасностью, компании могут продвигать технологии быстро, но должны приостанавливаться, если возникают сомнения в безопасности.

Высказанное Хуангом мнение последовало за заявлением главы Anthropic Дарио Амодеи о необходимости замедления разработки мощных ИИ-моделей, что поддержали CEO OpenAI Сэм Альтман и Илон Маск. На фоне этих обсуждений 14 сентября акции компаний, связанных с ИИ и производством полупроводников, упали.

Дискуссия о координации между разработчиками осложняется антимонопольным законодательством. 11 сентября OpenAI обратилась к Конгрессу США с просьбой разъяснить, не станет ли совместное замедление разработки нарушением конкуренции. Амодеи предложил включить власти и сделать исключение из антимонопольных ограничений для добровольной координации.

В июле Nvidia, Meta, Microsoft и еще 22 компании призвали власти США не вводить общие ограничения для ИИ с открытыми весами. Хуанг подчеркнул, что такие системы стимулируют инновации и кибербезопасность.