Anthropic и Accenture инвестируют $2 млрд в анализ передовых ИИ

Компания Anthropic объявила о начале сотрудничества с консалтинговой фирмой Accenture, в рамках которого они планируют направить не менее $2 млрд на независимую оценку передовых ИИ-моделей в течение пяти лет. Это стратегическое партнерство направлено на внедрение оценочных команд внутри Anthropic, что является частью их последнего обязательства.

Руководство проектом возьмет на себя подразделение Faculty компании Accenture, специализирующееся на ИИ. В задачи проекта войдут оценка моделей, проверка их выравнивания и тестирование защитных механизмов. Таким образом, инициатива будет способствовать улучшению контроля над обучением и внедрением ИИ-технологий.

Генеральный директор Anthropic Дарио Амодеи ранее предложил идею «встроенных оценщиков», которые будут иметь такой же доступ, как и сотрудники внутри ИИ-компаний. Это позволит им отслеживать процесс обучения моделей, оценивать безопасность и выявлять уязвимости. В сентябре Амодеи предложил замедлить развитие передовых ИИ, ссылаясь на риски безопасности.

Хотя партнерство с Accenture не является эксклюзивным, Anthropic планирует расширять сотрудничество с другими оценщиками. Параллельно ведутся переговоры с некоммерческой организацией METR о пилотном проекте по встроенной оценке. В будущем компания надеется на финансирование таких инициатив из государственных или совместных источников, хотя пока они оплачивают работу Accenture напрямую.

CEO Nvidia Дженсен Хуанг выразил несогласие с идеей регуляторного замедления ИИ, утверждая, что безопасность технологии должна решаться инженерными методами.