Anthropic и Accenture инвестируют $2 млрд в независимую оценку ИИ

Anthropic и Accenture объединили усилия для независимой оценки передовых моделей искусственного интеллекта. В течение пяти лет они намерены вложить в эту инициативу не менее $2 млрд. Такое партнерство станет частью новой стратегии Anthropic, включающей в себя внедрение независимых оценщиков.

Специализированное подразделение Accenture, Faculty, возглавит проект, который будет сосредоточен на оценке моделей, редтиминге и проверке выравнивания и защитных механизмов. Этот шаг поддерживает концепцию CEO Anthropic Дарио Амодеи о «встроенных оценщиках», которые должны иметь доступ к внутренним процессам разработки ИИ.

В сентябре Амодеи призвал замедлить развитие передовых ИИ-моделей из-за увеличивающихся рисков безопасности, ссылаясь на инцидент с OpenAI и Hugging Face. Он предложил три направления для снижения рисков: международные соглашения, общие индустриальные правила и независимые лабораторные проверки.

Сотрудничество с Accenture не является эксклюзивным, и Anthropic планирует в ближайшие недели объявить о новых партнерах. Accenture будет также работать с другими ИИ-разработчиками, а переговоры ведутся с некоммерческой METR о пилоте встроенной оценки. Anthropic надеется, что в будущем финансирование таких проверок будут поддерживать государственные или объединенные источники.

Отметим, что CEO Nvidia Дженсен Хуанг выразил несогласие с идеей замедления ИИ, подчеркнув, что безопасность технологий — это вопрос инженерии.