Российские компании тестируют китайские GPU как альтернативу Nvidia

Компании MWS AI и Rubytech провели испытания нового ИИ-комплекса с использованием восьми китайских графических ускорителей, предлагая альтернативу американским решениям Nvidia. Полноценный запуск таких систем планируется к 2027 году.

В последние годы российские компании все чаще обращаются к китайским GPU, однако полному внедрению мешают программные ограничения и проблемы совместимости с существующей инфраструктурой.

По данным «Ведомостей», испытания проводились с целью замены чипов Nvidia. Генеральный директор МТС Web Services Павел Воронин подчеркнул, что компания стремится снизить инфраструктурные риски, а не просто сменить поставщика.

На новом комплексе были протестированы две модели MWS AI: Cotype Pro 3 с 27 миллиардами параметров и Cotype Light 3 на 9 миллиардов параметров. Оба варианта способны работать с текстом и графикой, а также поддерживают развертывание в закрытых системах заказчиков. При этом точная модель китайского чипа, использованного в испытаниях, остается неизвестной.

Rubytech заявила, что в ряде сценариев производительность комплекса была сопоставима с системами на базе Nvidia H100. При входном контексте в 27 000 токенов генерация ответа занимала около 8 секунд, а последующие токены формировались с интервалом в 111 мс.

Оптимизация программного обеспечения позволила повысить производительность комплекса в 2–2,2 раза в некоторых задачах. Сейчас Rubytech продолжает улучшать систему, которая в первую очередь ориентирована на инференс, а возможность дообучения моделей планируется добавить позже.

К 2027 году ожидается полноценный запуск комплексов на китайских GPU, которые могут стать альтернативой привычным решениям Nvidia, несмотря на длительные сроки переноса моделей с платформы CUDA.

Пока крупные компании находятся на разных этапах внедрения китайских GPU. Например, ВТБ уже начал их тестирование, хотя производители и объемы закупок не раскрываются. В то же время Yadro изучает различные ускорители для выбора оптимальных конфигураций для своих заказчиков.

Несмотря на заявленные характеристики, многие китайские ускорители пока не дотягивают до уровня Nvidia. Например, чип Tongxin от Shanghai Wutongshu High-Tech оказался медленнее Nvidia A100 из-за несовместимости с CUDA.

По мнению экспертов, массовое замещение Nvidia в ближайшие годы маловероятно из-за необходимости развития программного обеспечения и сервисной поддержки. Однако государство активно продвигает локализацию производства ИИ-чипов, что может ускорить переход на альтернативные решения.