Anthropic против запрета, но за контроль: позиция по открытым моделям

Глава Anthropic Дарио Амодеи выразил несогласие с запретом моделей с открытыми весами, но подчеркнул необходимость строгого контроля над их разработкой. Он отметил, что такие модели, лишенные опасных функций, приносят пользу обществу и бизнесу. Однако Амодеи предупредил о потенциальных рисках, если мощные модели попадут в руки авторитарных режимов.

24 июля 25 ведущих компаний, включая Nvidia и Microsoft, призвали власти США не ограничивать open-weights-модели. В петиции также участвовали Meta и IBM, но отсутствовали подписи OpenAI, Anthropic и Alphabet. Демис Хассабис из Google DeepMind напомнил о важности открытой экосистемы для получения пользы от ИИ.

Амодеи предложил три меры вместо запретов: ограничение поставок чипов в Китай, борьба с промышленной дистилляцией и обязательное тестирование безопасности мощных моделей. Он также подчеркнул, что open-weights-модели не всегда способствуют защите больше, чем атаке, и привел биологические угрозы как пример.

Журналисты WAJ ранее сообщали о случаях, когда чат-боты от крупных компаний давали инструкции по созданию ядов и биологического оружия. Это подчеркивает необходимость усиленного контроля над развитием и использованием ИИ.