Виталик Бутерин: DeepSeek V4 уже работает на домашнем компьютере без дата-центра

Сооснователь Ethereum Виталик Бутерин рассказал о прогрессе в области локального искусственного интеллекта. По его данным, новая версия DeepSeek V4 уже запускается на относительно скромном оборудовании, а децентрализованный подход к ИИ начинает пересекаться с задачами приватности в Ethereum.

Бутерин уточнил, что для DeepSeek V4 появилась 2-битная квантованная версия — «облегченная» сборка модели, которая требует около 90 ГБ видеопамяти. На технике Apple она обрабатывает около 35 токенов в секунду, на оборудовании AMD — около 7 токенов в секунду.

Что Виталик называет настоящим «CROPS AI»

Сооснователь Ethereum считает, что настоящий локальный ИИ должен работать на оборудовании разных производителей. Поэтому он разделяет «просто децентрализованный ИИ» и то, что называет «CROPS AI» — направление, где модели реально оптимизированы под несколько аппаратных платформ. По его словам, индустрии есть куда расти в этом направлении.

Бутерин также упомянул несколько проектов в этой области. Среди них — клиент для обмена сообщениями с поддержкой Telegram, инструмент Lucebox Hub для эффективного запуска плотных моделей вроде Qwen 27B и проект VoxTerm для локальной записи и обработки голоса без сторонних серверов.

Локальный ИИ пересекается с приватностью Ethereum

По словам Бутерина, задачи локального ИИ и приватности в Ethereum тесно связаны. Например, технология приватных запросов к удаленным языковым моделям одновременно решает другую проблему — приватное чтение данных из сети Ethereum через RPC. Один инструмент покрывает сразу два направления.

Виталик также призвал создавать языковые модели, заточенные под экосистему Ethereum. По его мнению, это существенно повысит безопасность кода смарт-контрактов и протоколов. В качестве примера он привел Leanstral — продукт объемом менее 70 ГБ, который на тесте по написанию кода на языке Lean конкурирует с решениями в триллион параметров.