Anthropic и Accenture инвестируют $2 млрд в независимую оценку ИИ

Компании Anthropic и Accenture договорились о совместных инвестициях в размере $2 млрд для проведения независимой оценки передовых технологий в области искусственного интеллекта. В течение пяти лет каждая сторона планирует вложить как минимум $1 млрд в развитие этой области. Это партнерство является частью обязательства Anthropic по интеграции оценщиков в свои процессы.

Специализированное подразделение Accenture по искусственному интеллекту, Faculty, будет руководить проектом. Основной задачей станет оценка моделей, проверка их выравнивания и тестирование защитных механизмов. Инициатива предполагает создание команд оценщиков, которые будут работать внутри ИИ-разработчиков с доступом, позволяющим тщательно контролировать обучение и развертывание моделей.

В сентябре Дарио Амодеи, CEO Anthropic, подчеркнул необходимость замедления развития передовых ИИ из-за растущих рисков безопасности. Он предложил три стратегии для снижения рисков: международные соглашения, установление общих правил и независимые проверки в лабораториях. Партнерство с Accenture не будет эксклюзивным, и Anthropic планирует привлекать других специалистов в ближайшее время.

В долгосрочной перспективе Anthropic стремится к финансированию независимых проверок из государственных или коллективных источников, как предусмотрено инициативой Advanced AI Framework. Пока такие механизмы отсутствуют, компания финансирует работу Accenture напрямую, что вызывает вопросы о независимости оценок. Напомним, что в то же время CEO Nvidia Дженсен Хуанг выступил против замедления развития ИИ, подчеркнув, что безопасность технологий — это инженерная задача.