Microsoft представила Memora: снижение расходов на токены ИИ на 98%

По данным Computerworld, исследователи из Microsoft Research представили новую систему памяти для искусственного интеллекта под названием Memora. Решение призвано устранить главную проблему современных ИИ-агентов: неспособность надежно хранить и воспроизводить контекст диалогов, предпочтения и принятые решения в течение недель и месяцев. Существующие подходы часто приводят к фрагментации данных, дублированию информации и замедлению работы по мере накопления знаний.

Новая архитектура предлагает радикальное изменение подхода: она разделяет саму суть запоминаемой информации от способа её поиска. Это позволяет сократить потребление токенов контекста до 98%, сохраняя при этом точность, сопоставимую с полным перебором всей истории диалога. Эксперты отмечают, что это не просто техническое улучшение, а смена парадигмы работы с долгосрочной памятью машин.

Проблема текущих архитектур памяти

Современные языковые модели, несмотря на мощные способности к рассуждению, начинают каждый новый сеанс общения с чистого листа. Для поддержания длительных диалогов им приходится постоянно перечитывать всю историю переписки. Альтернативой служит хранение данных в виде сырого текста или сжатых резюме, но оба метода имеют серьезные недостатки.

Системы, работающие по принципу фрагментации (например, RAG или Mem0), извлекают отдельные факты и сохраняют их в виде изолированных записей. Это сохраняет детали, но разрушает связность повествования. С другой стороны, системы грубой абстракции сжимают опыт в краткие резюме, теряя при этом важные нюансы, исключения и числовые данные, без которых память становится бесполезной. Графовые системы, такие как Zep и GraphRAG, добавляют структуру, но зависят от жестких схем, которые сложно адаптировать под разные задачи.

Главный недостаток текущих решений заключается в том, что они путают поиск с памятью. Векторные хранилища отлично находят похожие тексты, но агенту в бизнес-среде нужно больше: понимание того, что изменилось, что осталось актуальным, а что следует игнорировать в конкретной задаче.

Принцип работы Memora

Архитектура Memora решает эти задачи, разделив процесс хранения и извлечения. Каждая запись памяти теперь состоит из двух независимых компонентов:

• Первичная абстракция: короткая фраза из 6–8 слов, описывающая суть памяти.
• Значение памяти: полный объем детальной информации.

Благодаря такому разделению новая информация по развивающейся теме объединяется в одну запись под той же абстракцией, вместо того чтобы дробиться на цепочку дубликатов. Дополнительно система использует «якоря подсказок» — короткие теги, извлекаемые из содержимого, которые служат гибкими путями доступа к данным.

Поисковый механизм работает не как разовый запрос, а как итеративный процесс. Он уточняет запрос, расширяет поиск через якоря, чтобы найти связанные, но не похожие по смыслу записи, и сам решает, когда остановить поиск. Это превращает извлечение данных из «надежды на удачу» в управляемую навигацию.

Результаты тестирования и экономические нюансы

Компания протестировала Memora на двух стандартах для работы с длинным контекстом: LoCoMo (диалоги в среднем из 600 реплик) и LongMemEval (контекст до 115 000 токенов). Система показала точность 86,3% и 87,4% соответственно, превзойдя такие решения, как RAG, Mem0, Nemori, Zep и LangMem, а также режим полного контекста.

Ключевые показатели эффективности:

• Количество записей памяти на один диалог сократилось почти вдвое по сравнению с Mem0 (344 против 651).
• Потребление токенов снизилось на 98% относительно полного контекста.

Однако эксперты предупреждают, что снижение расхода токенов не гарантирует пропорционального падения расходов на инфраструктуру. Реальная стоимость включает создание памяти, индексацию, хранение и ведение журналов аудита, требуемых для соответствия нормам.

Сравнение производительности и затрат:

Самый эффективный режим поиска в Memora является и самым медленным: он занимает от 5 до 6 секунд на запрос из-за нескольких этапов обращения к модели, тогда как простые семантические методы справляются за долю секунды. Экономия на токенах частично компенсируется задержками и дополнительными вычислениями. Проблема не исчезает, а трансформируется: вместо оплаты за длинные промпты бизнесу придется управлять процессами записи, обновления и удаления данных, а также их индексацией.

Перспективы внедрения в бизнес

Код проекта Memora уже доступен на GitHub, что позволяет разработчикам экспериментировать с архитектурой. Однако наличие открытого кода не означает готовность к промышленному использованию. Пока решение не прошло полную верификацию и не обеспечено корпоративной поддержкой, руководителям ИТ-направлений рекомендуется изучать его как архитектурный паттерн, а не внедрять как готовое программное обеспечение.

Внедрение таких систем потребует от организаций разработки строгих политик управления и соответствия требованиям. Необходимо четко определить, кто имеет право записывать данные в память, кто может их читать, как долго они хранятся и как аудитор сможет восстановить логику принятия решений агентом.

Фраза «агент просто запомнил» не будет достаточным объяснением для регуляторов. Требования Закона об ИИ Европейского Союза в части отслеживаемости решений, а также Закона о защите персональных данных Индии требуют полной прозрачности процессов. Бизнесу предстоит решить, как обеспечить аудируемость действий ИИ, чтобы избежать юридических рисков.

Ситуация требует детального анализа со стороны технических и юридических отделов компаний, планирующих использовать долгосрочную память в своих продуктах.

Новая экономика памяти: почему экономия токенов может стоить дороже

Система Memora от Microsoft Research обещает радикальное решение проблемы «кратковременной памяти» искусственного интеллекта. Разделяя суть события и его детали, архитектура снижает потребление токенов на 98%, сохраняя точность ответов. На бумаге это выглядит как идеальная оптимизация: меньше данных в запросе — меньше затрат на вычисления. Однако за этой цифрой скрывается смена экономической модели, где экономия на передаче данных перекрывается ростом затрат на безопасность, инфраструктуру и юридическую защиту.

В основе Memora лежит разделение данных на две части: краткую абстракцию (суть) и полное значение (детали). Это позволяет системе не перечитывать всю историю диалога, а навигировать по «якорям» — тегам, связывающим события. Такой подход устраняет фрагментацию, характерную для текущих решений типа RAG, и позволяет агентам помнить контекст месяцами. Но эта эффективность имеет обратную сторону: система перестает работать с сырым текстом как с единым целым, создавая внутреннюю модель реальности. Если алгоритм ошибется при формировании краткой абстракции, детальная информация может стать недоступной или искаженной.

Важный нюанс: Экономия на токенах не означает снижение общих затрат. Бизнес переходит от оплаты за «объем текста» к оплате за «сложность обработки, индексации и защиты данных».

Скрытые издержки скорости и безопасности

Главный аргумент в пользу Memora — колоссальное снижение расходов на токены. Но таблица производительности показывает критический компромисс: самый точный режим поиска занимает от 5 до 6 секунд, тогда как традиционные методы справляются за долю секунды. В сценариях, где важна мгновенная реакция — трейдинг, экстренная поддержка или динамическое ценообразование — такая задержка становится фактором оттока клиентов.

Задержка возникает из-за итеративного процесса поиска: система уточняет запрос, проверяет связи и сама решает, когда остановиться. Это превращает простой запрос в сложный процесс рассуждения, требующий дополнительных вычислительных мощностей. Компании, внедряющие такие решения, столкнутся с необходимостью масштабирования серверной инфраструктуры. Вместо оплаты за длинные промпты бизнесу придется инвестировать в более мощные кластеры, способные обрабатывать сложные логические цепочки в реальном времени.

Более того, снижение количества записей памяти почти вдвое (с 651 до 344 в тестах) говорит о высокой степени агрегации данных. Это создает риск потери гибкости. Если потребуется изменить логику хранения или извлечь специфический нюанс, «сжатый» в абстракцию, это может потребовать полной перестройки базы данных. Возможность легко «откатиться» к исходным данным исчезает, так как они уже переработаны в новую структуру.

Парадокс безопасности: чем умнее агент, тем опаснее утечки

Внедрение долгосрочной памяти открывает серьезные риски, которые часто игнорируются в технических отчетах. Исследования ServiceNow показывают, что рост точности ИИ-агентов напрямую коррелирует с увеличением утечек данных: с 34% до 51,7% [!]. Автономные агенты, стремясь к точности, неосознанно передают конфиденциальную информацию в поисковых запросах. Memora, повышая точность поиска и усложняя логику доступа к данным, может непреднамеренно усилить этот эффект. Логи поисковых запросов агента становятся каналом раскрытия коммерческой тайны, где злоумышленники могут восстановить скрытые данные, сопоставляя разрозненные фрагменты.

Ситуация усугубляется тем, что Memora делает процесс принятия решений менее прозрачным. Решение строится на основе абстракций и скрытых связей, которые человек не видит напрямую. Доказать причину ошибки агента при аудите становится сложнее. В условиях требований Закона об ИИ Европейского Союза и аналогичных норм в других юрисдикциях, отсутствие прозрачности создает юридические риски. Компании придется разрабатывать сложные системы логирования, фиксирующие не только результат, но и путь, по которому система пришла к абстракции.

Кроме того, вопросы управления доступом усложняются. В системе, где данные агрегированы и связаны множеством якорей, удаление одной записи (реализация «права на забвение») может потребовать пересчета и обновления десятков связанных записей. Это создает высокие операционные риски и требует новых политик управления данными.

Стоит учесть: Открытый код на GitHub не гарантирует готовность к промышленному использованию. Без корпоративной поддержки и верификации внедрение такой системы несет риски безопасности и несоответствия регуляторным требованиям.

Уязвимости цепочек поставок и аппаратная защита

Доступность кода Memora на GitHub может стать ловушкой для бизнеса. Исследование «Лаборатории Касперского» выявило, что 90% популярных репозиториев содержат ошибки настройки, превращающие конвейеры сборки в открытые ворота для атак [!]. Чрезмерно широкие права доступа и отсутствие фиксации версий позволяют злоумышленникам внедрять вредоносный код в финальный продукт еще до его выхода к клиентам. В мае 2026 года атака через уязвимости GitHub Actions уже скомпрометировала проекты Mistral AI и UiPath, подтвердив реальность угроз для экосистемы ИИ [!].

Для российских компаний, работающих в условиях требований импортозамещения и безопасности цепочек поставок, использование открытого кода без глубокой верификации становится критическим риском. Экономия на токенах может быть полностью нивелирована затратами на устранение уязвимостей в цепочке сборки и внедрение дополнительных мер защиты.

Кроме того, сама архитектура Memora хранит данные в памяти процессора во время обработки. Традиционное шифрование бессильно в этот момент, оставляя финансовые отчеты и персональные записи открытыми для утечек. Новая архитектура Nvidia Blackwell устранила потери производительности до 40% при защите данных, превратив конфиденциальные вычисления из убыточного компромисса в обязательный стандарт [!]. Без аппаратной защиты, аналогичной решениям Blackwell, даже идеальная архитектура памяти уязвима для утечек при обработке. В условиях российского регулирования (ФЗ-152) внедрение Memora без дополнительных затрат на аппаратную защиту может стать экономически и юридически бессмысленным.

Стратегические последствия для рынка

Технология Memora меняет правила игры, смещая фокус с простого хранения данных на сложное управление знаниями и рисками. Конкуренция перейдет из плоскости «кто быстрее обрабатывает текст» в плоскость «кто точнее структурирует и защищает память».

Для российского рынка это сигнал о необходимости подготовки инфраструктуры и юридических норм. Глобальный тренд на усложнение архитектуры памяти ИИ неизбежно отразится на стоимости и доступности подобных технологий. Компании, которые поспешат внедрить такие решения без глубокого понимания их архитектурных особенностей, рискуют столкнуться с проблемами производительности, утечек данных и юридической ответственности.

Успех внедрения зависит от того, насколько хорошо компании смогут адаптировать Memora под свои задачи, учитывая баланс между скоростью, точностью и безопасностью. «Вечная память» ИИ — это не дар, а инструмент, требующий постоянного обслуживания, контроля и инвестиций в защиту. В конечном счете, бизнес переходит от оплаты за объем данных к оплате за сложность управления безопасностью и юридической ответственностью за «черный ящик» памяти.