Глава Nvidia против новых регуляций ИИ: безопасность как инженерная задача

Безопасность искусственного интеллекта должна решаться как инженерная задача, а темпы разработки и возможные остановки лучше оставить на усмотрение самих компаний. Такую точку зрения выразил Дженсен Хуанг, руководитель Nvidia, в ходе беседы с Марком Бениоффом, CEO Salesforce, на конференции Dreamforce.

Во время дискуссии Бениофф затронул вопрос о возможном замедлении в развитии ИИ. Хуанг ответил, что обеспечение безопасности — это первостепенная задача, требующая инженерного подхода. Он подчеркнул, что разработчики обязаны создавать безопасные среды для тестирования своих продуктов, и если компания не уверена в их надежности, выпускать их не следует.

Хуанг также отметил, что существующих рыночных сил достаточно для регулирования, и дополнительные законы не нужны. Он отверг идею противопоставления скорости инноваций и безопасности, добавив, что компании могут быстро развиваться, но должны делать паузы при потере контроля или возникновении сомнений в безопасности.

Заявление Хуанга прозвучало вскоре после призыва Дарио Амодеиса из Anthropic снизить темпы разработки мощных ИИ-моделей, что поддержали Сэм Альтман из OpenAI и Илон Маск. На фоне этих дискуссий 14 сентября акции компаний, связанных с ИИ и производством полупроводников, начали снижаться из-за опасений за спрос на вычислительную инфраструктуру.

Антимонопольное законодательство усложняет вопрос координации между разработчиками. 11 сентября OpenAI обратилась к Конгрессу США за разъяснениями, не станет ли совместное замедление разработки нарушением конкуренции. Амодеи предложил, чтобы для такой координации между конкурентами участвовали власти и было введено узкое исключение из антимонопольных ограничений.

Напомним, в июле компании, включая Nvidia, Meta и Microsoft, призвали власти США не вводить ограничения для ИИ-моделей с открытыми весами, подчеркивая их роль в инновациях и кибербезопасности.