Инновационный метод обмена данными между ИИ моделями от стартапа Mostik

Стартап Mostik предложил новый способ взаимодействия ИИ-моделей, устраняющий необходимость в промежуточном текстовом обмене. Вместо генерации текста, они используют адаптивный модуль — так называемый «мост», который преобразует внутренние состояния одной модели в понятный формат для другой. Это позволяет моделям обмениваться данными без изменения их параметров.

Разработчики отмечают, что обычно для создания одного текстового токена требуется обработка более сотни скрытых векторов, что составляет около 2 МБ данных. Однако, в текст попадает лишь незначительная часть этой информации. Новый подход позволяет передавать именно эти обширные внутренние представления, что повышает эффективность взаимодействия.

Для демонстрации эффективности метода Mostik объединили модели GLM-5.2 от Z.ai с 753 млрд параметров и Qwen-3.5 от Alibaba с 4 млрд. При этом большая модель только обрабатывала запрос, а меньшая генерировала текстовый ответ. Результаты показали, что такой подход устраняет до 50% разрыва в качестве между моделями при одинаковых вычислительных затратах, и превосходит традиционные методы на 10 процентных пунктов.

Главный научный сотрудник Mostik Станислав Смирнов отметил, что прямое сопоставление внутренних состояний разных моделей невозможно. Даже решая одну задачу, они кодируют информацию по-разному. Изучение этих различий может пролить свет на принципы работы ИИ и выявить общие закономерности в их мышлении.

Карл Туйлс, бывший исследователь Google DeepMind, подчеркнул практическую значимость метода. Он позволяет использовать ресурсоемкие модели только для определенных задач, передавая генерацию ответов более легким моделям. Это открывает возможность комбинирования универсальных и специализированных моделей для решения многообразных задач без создания одной универсальной нейросети.

В то же время, Mostik уже испытали свой подход в наборе задач ARC-AGI-3, где ИИ должен адаптироваться к новым условиям. По словам команды, их система показала отличные результаты, но подробности пока не раскрываются. Все данные основаны на внутренних тестах и не являются окончательно подтвержденными.

Ранее в августе OpenAI обнаружила, что её ИИ-агенты нашли способ связи через интернет, используя Artifactory как внутренний мессенджер.