Амнезия ИИ-агентов: эксперт нашел лекарство

<p><strong>ИИ-исследователь под псевдонимом codila объяснил, почему ИИ-агент «страдает амнезией» и как это исправить. По его словам, агенту нужны сразу две вещи: циклы, чтобы думать, и графы, чтобы помнить.</strong></p>

<p>Именно нехватка памяти, как отмечает исследователь, мешает одиночному агенту доводить сложные задачи до конца. Лекарством эксперт называет особую архитектуру, при которой слабая модель обходит более сильную без нее.</p>

<section class="c-bic-highlighted-text mb-8 md:mb-12 " id="block_6a6326e4de8aa">
<div class="flex items-center gap-5 px-5 py-4 rounded-xl bg-grey-50 text-dark-grey-700">
<svg class="min-w-5 h-5 text-blue-600" fill="none" height="28" viewBox="0 0 28 28" width="28" xmlns="http://www.w3.org/2000/svg"><path d="m11.195 26.6 1.4-9.8h-4.9c-.812 0-.798-.448-.532-.924.266-.476.07-.112.098-.168L16.795 1.4l-1.4 9.8h4.9c.686 0 .784.462.658.714l-.098.21-9.66 14.476Z" fill="currentColor"></path></svg>
<div class="bic-block-highlighted-paragraph-content p3 p3--ns [&_p:last-child]:!mb-0 [&_p]:!leading-6 [&_p]:!font-body [&_p]:!text-4 [&_a]:!text-blue-600">
<p><strong><em>Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш</em></strong><a href="https://t.me/beincrypto_trading"><strong><em> телеграм-канал</em></strong></a><strong><em>, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!</em></strong></p>

</div>
</div>
</section>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-почему-агент-все-забывает">Почему агент все забывает</h2>

<p>Корень проблемы <a href="https://x.com/0xCodila/status/2080344428179259846" rel="noreferrer noopener nofollow" target="_blank">codila видит в устройстве </a>одиночного цикла. Цикл — это один круг улучшения: агент пробует, проверяет результат, вносит правку и повторяет.</p>

<p>Такой цикл дает агенту способность думать, но не помнить. Как поясняет исследователь, шаги выстраиваются в линию и ждут друг друга, пока контекстное окно не переполнится — и тогда агент забывает, что вообще делал.</p>

<p>Есть у одиночного цикла и второй изъян. Агент видит только собственную метрику и не замечает, когда сам показатель перестает отражать суть задачи.</p>

<p>Основой мышления агента при этом остаются четыре приема, которые сформулировал Эндрю Ын — американский ученый в области искусственного интеллекта, сооснователь Coursera и основатель образовательной компании DeepLearning.AI. Первый прием — рефлексия: агент пишет ответ, второй запрос его критикует, после чего агент переписывает результат.</p>

<p>Второй прием — использование инструментов: агенту дают поиск, запуск кода и доступ к API. Третий — планирование, когда задачу разбивают на шаги в формате JSON еще до запуска, а при сбое агент перестраивает план. Четвертый — работа команды агентов, где один пишет код, второй проверяет, а третий тестирует.</p>

<p>Силу такого подхода codila подкрепляет цифрами Ына. По его данным, GPT-3.5 в связке с агентным подходом решает тест HumanEval на 95,1%, тогда как более новая GPT-4 без такого подхода — на 67%.</p>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-как-графы-лечат-забывчивость">Как графы лечат забывчивость</h2>

<p>Лекарством от «амнезии» codila называет переход от цикла к графу. Граф — это сеть циклов, где отдельные циклы проверяют и поправляют друг друга, а не тянутся одной линией.</p>

<figure class="wp-block-image size-full"><img alt="Разбор агентных подходов Эндрю Ына." class="wp-image-388117" src="https://assets.beincrypto.com/img/YVdQx2RpK77gZ_5rVepw6k3D02k=/smart/c8aceafcc2ca473bbb2f94e916ed6421" /><figcaption class="wp-element-caption">Схема графовой мультиагентной архитектуры из разбора подходов Эндрю Ына. Источник: <a href="https://x.com/0xCodila/status/2080344428179259846" rel="noreferrer noopener nofollow" target="_blank">codila</a></figcaption></figure>

<p>Память в такой сети устроена принципиально иначе. Агенты делятся общим состоянием через код координации и не пересылают друг другу целые переписки, поэтому промежуточные результаты не переполняют контекст. Как формулирует сам исследователь, агент забывает, а граф — нет.</p>

<p>Внедрить такой подход codila советует в два шага. Сначала стоит добавить один критикующий запрос после каждой генерации, что дает прирост качества на 10–30% за день работы. Затем все четыре приема связывают в единый граф.</p>

<p>Отдельно исследователь предупреждает о ловушке. Если проверяющий узел получает тот же контекст, что и исполнитель, он не проверяет работу, а лишь соглашается сам с собой — поэтому такому узлу нужен чистый контекст и опора на реальный сигнал, например на реально пройденный тест.</p>

<p>Честно называет codila и цену такого подхода. По его словам, граф оправдан не всегда: для мелких и линейных задач он только добавляет расходы и точки отказа, а реальную пользу приносит там, где работу можно распараллелить.</p>

<p>Итог сводится к смене роли. Тот, кто просто задает вопрос, остается на уровне запросов, тогда как тот, кто рисует граф, становится архитектором и запускает уже не одного агента, а целую команду.</p>