MemGPT и Letta иерархическая память для LLM в 2026 году

MemGPT (проект переименован в Letta еще в сентябре 2024 года) — архитектура, где языковая модель сама решает, что держать в контекстном окне, а что вынести во внешнее хранилище. Иерархическая память LLM здесь работает почти как в обычном компьютере: быстрый и тесный core memory плюс медленный, но почти безразмерный архив. Разберем три уровня памяти Letta, сравним подход с Mem0 и покажем, когда какую систему реально ставить в прод в 2026 году.

Letta — это MemGPT, выросший в отдельную компанию с 10 млн долларов посевных инвестиций и 23 354 звездами на GitHub. Память агента разбита на три уровня: core, recall и archival. Mem0 проще и дешевле для быстрого старта, Letta — для агентов, которые живут неделями без перезапуска. Ниже разбор архитектуры, бенчмарков и цен на сентябрь 2026.

Что такое MemGPT и почему проект стал называться Letta?

MemGPT — исследовательская работа UC Berkeley 2023 года про виртуальное управление контекстом. Осенью 2024 команда развернула ее в открытый фреймворк и компанию под именем Letta.

Идея статьи «MemGPT: Towards LLMs as Operating Systems» простая: контекстное окно модели работает как оперативная память компьютера. Быстрое, но маленькое. Все остальное живет на "диске", во внешнем хранилище, откуда данные подгружаются по вызову функции. Такой вывод.

Авторы Packer, Wooders, Lin, Fang, Patil, Stoica и Gonzalez опубликовали препринт в октябре 2023 года, arXiv:2310.08560. Идея разлетелась по Hacker News за несколько часов и собрала десятки тысяч звезд еще до официального релиза. Через год исследовательский код превратился в производственный фреймворк с CLI, REST API и облаком. По данным GhTrends, к июню 2026 репозиторий letta-ai/letta набрал 23 354 звезды, больше 2 400 форков и свыше сотни контрибьюторов. Название сменили, MemGPT стал Letta, но ядро осталось прежним.

Как работает иерархическая память LLM внутри Letta?

Агент делит память на то, что физически лежит в контекстном окне, и то, что лежит снаружи и подгружается через вызов функции. Letta сам решает, когда двигать данные между уровнями.

Система предупреждает о переполнении на 70% заполнения контекста и принудительно сбрасывает данные при 100%, сохраняя рекурсивную выжимку вытесненного. Так работал еще оригинальный MemGPT, и Letta унаследовала этот механизм почти без изменений. Именно это и называют паттерном виртуальной памяти LLM.

Что держится в core memory

Core memory — это быстрый уровень, аналог оперативной памяти. Здесь живут системные инструкции (read-only) и рабочий блок, который агент правит сам через функции. Например: "имя пользователя — Настя, предпочитает короткие ответы без эмодзи". Модель переписывает этот блок при получении новых фактов, без участия человека и без дообучения.

Что уходит во внешний контекст

Recall storage хранит полную историю сообщений, archival storage — произвольные тексты и документы. Оба уровня достаются через поиск: по времени, по тексту или по эмбеддингу. Для бота поддержки archival storage может держать переписку за год, а core memory — только пять фактов о клиенте, важных прямо сейчас.

Какие уровни памяти использует Letta и зачем каждый нужен?

Три уровня закрывают три разные задачи: что видно прямо сейчас, что было недавно и что нужно искать целенаправленно.

Короче, чем дальше уровень от контекстного окна, тем он дешевле и вместительнее, но и медленнее в доступе. Ровно тот же компромисс, что между RAM и SSD на обычном сервере.

Чем MemGPT vs Mem0 отличаются на практике?

Mem0 — это слой памяти, который добавляют к существующему агенту. Letta — целая среда выполнения, агент запускается внутри нее. Разница в том, сколько инфраструктуры вы берете на себя.

По сравнению Vectorize, Mem0 оптимизирован под скорость подключения: SDK, API-ключ, вызов add() и search() — рабочая память за несколько минут. У Mem0 около 48 тысяч звезд на GitHub, это больше комьюнити, примеров и готовых интеграций. Letta требует принять всю платформу целиком: цикл агента, вызов инструментов, персистентность состояния.

Прямых опубликованных бенчмарков между двумя системами почти нет, результаты сильно зависят от модели и промптов. Зато A-MEM, более поздняя работа, заявляет вдвое лучшую точность на многошаговых задачах именно за счет отказа от жесткой иерархии MemGPT в пользу динамического управления памятью.

Сколько стоит перейти на Letta или Mem0 в 2026 году?

Оба сервиса дают бесплатный вход, но с разными лимитами. Letta считает агентов, Mem0 считает запросы к памяти.

Letta Pro стоит 20 долларов в месяц за 20 стейтфул-агентов плюс квоту на модель Letta Auto с оплатой за перерасход. У Mem0 нижний платный тариф Starter стоит 19 долларов при 50 тысячах add-запросов и 5 тысячах retrieval-запросов в месяц — и это без графовой памяти, ее открывают только на тарифе Pro за 249 долларов.

Для соло-проекта бесплатных лимитов Letta и Mem0 обычно хватает на пилот. Zep дороже, но там платите за граф с датами валидности фактов, а не просто за хранилище.

Что показывают бенчмарки точности памяти агентов?

На тесте Deep Memory Retrieval оригинальный MemGPT поднял точность модели с 32,1% до 92,5% против baseline с рекурсивной суммаризацией. Позже Zep заявил результат выше — 94,8% против 93,4% у MemGPT.

DMR проверяет способность агента ответить на вопрос, ссылающийся на разговор из прошлой сессии, с узким диапазоном правильных ответов. GPT-4 с рекурсивной суммаризацией истории теряет детали уже через несколько итераций сжатия, это ожидаемо: суммаризация по своей природе lossy-процесс.

На вложенном key-value retrieval (нужно сделать несколько последовательных подстановок, чтобы найти финальное значение) GPT-3.5 падал до 0% точности уже на первом уровне вложенности, GPT-4 держался чуть дольше и обнулялся на четвертом. MemGPT точность не терял вообще, потому что искал пары значений напрямую в archival memory, а не пытался удержать их все в контексте разом.

Кому реально подходит каждый вариант?

Простое правило: если мир агента почти статичен и задача — запоминание, хватит векторного слоя вроде Mem0. Если факты меняются во времени и важна история изменений, смотрите в сторону графовых систем или Letta.

Максим: «У меня в приложении для Роберта зашиты 25 принципов воспитания, которые я сформулировал сам. Это не продукт на продажу, чисто для себя. Но по сути это тот же archival storage, что в Letta: база фактов лежит отдельно от диалога, и агент подтягивает из нее только то, что нужно в моменте.»

Для чат-бота поддержки клиентов или личного ассистента Mem0 надежнее — простой чат, короткая память, минимум инфраструктуры. Для агента, который ведет проект неделями и должен помнить, что менялось и когда, лучше подходит Letta или Zep. Если вы собираете такого агента через Claude Code или другой инструмент с поддержкой MCP, слой памяти определяет, забудет ли ассистент контекст проекта после перезапуска сессии.

Какие есть ограничения у иерархической памяти LLM?

Иерархическая память решает проблему забывания, но не бесплатно: она требует моделей с надежным function calling и добавляет сложность в инфраструктуру.

Оригинальный MemGPT работал стабильно только на моделях OpenAI, специально дообученных под функции. GPT-3.5 и Llama 2 70B регулярно генерировали синтаксически неверные вызовы функций или изобретали несуществующие. Летом 2026 ситуация лучше — модель-агностичный дизайн Letta поддерживает Anthropic, Mistral и локальные модели, но требование к качеству tool calling никуда не делось.

Есть нюанс с self-hosting: сервер Letta хранит состояние агентов в PostgreSQL, и самостоятельно развернутый бэкенд иногда отстает по фичам от облака. Визуальный редактор памяти (ADE) тоже не всегда стабильно работает против self-hosted инстанса — это честно признают сами разработчики.

Глоссарий терминов иерархической памяти

• MemGPT — исследовательский проект UC Berkeley 2023 года о виртуальном управлении контекстом LLM, переименован в Letta.
• Core memory — быстрый уровень памяти агента, физически лежит в контекстном окне, аналог RAM.
• Recall memory — полная история сообщений сессии, хранится снаружи контекста и подгружается поиском.
• Archival memory — долгосрочное хранилище документов и фактов, доступно через вызов функции.
• Stateful-агент — агент, который сохраняет память между сессиями и не начинает с нуля при каждом вызове.
• DMR (Deep Memory Retrieval) — бенчмарк на точность ответа по фактам из прошлых сессий диалога.
• Function calling — механизм, которым LLM вызывает внешние функции для чтения и записи памяти.

Частые вопросы про MemGPT и Letta

Чем контекстное окно отличается от памяти агента

Контекстное окно — это лимит токенов, которые модель видит за один вызов. Память агента — более широкое понятие: она включает контекст плюс все, что хранится снаружи и может быть туда подгружено по запросу.

MemGPT и Letta это одно и то же

По сути да. Letta — прямое продолжение проекта MemGPT, тот же стек идей из UC Berkeley, но развернутый в производственную платформу с облаком, CLI и коммерческой поддержкой с сентября 2024 года.

Можно ли пользоваться Letta бесплатно

Да, бесплатный тариф дает до трех управляемых агентов с собственным API-ключом, без обязательной регистрации для локального запуска.

Что проще внедрить новичку без опыта в бэкенде

Mem0. Установка SDK, вызов add() и search(), рабочая память за минуты. Letta требует понимания агентного цикла и серверной части.

Нужна ли отдельная векторная база для иерархической памяти

Для archival storage да, обычно используется embedding-поиск поверх векторного хранилища. Core и recall memory можно держать в обычной базе вроде PostgreSQL.

Почему GPT-3.5 плохо работает с MemGPT

Модель нестабильно генерирует корректные вызовы функций, а вся система построена на function calling. Без надежных вызовов агент не может двигать данные между уровнями памяти.

Что выбрать для агента с меняющимися во времени фактами

Система с temporal knowledge graph, например Zep: там факты хранятся с окном валидности, и агент видит, когда информация устарела, а не просто перезаписывает старое значение новым.

Иерархическая память — не единственный слой в стеке агента, но без нее любой длинный диалог рано или поздно упрется в лимит контекста. Обзоры инструментов для построения таких агентов смотрите в каталоге VibeCoderz, а если нужна помощь с архитектурой конкретного проекта — пишите на консультацию Максиму.

Обновлено: сентябрь 2026.