LEANN: RAG-индекс, который сжали с 201 ГБ до 6 ГБ
Исследователи UC Berkeley выпустили открытый векторный индекс LEANN: он хранит только граф связей и пересчитывает эмбеддинги в момент запроса. Результат — 60-миллионный чанк-индекс уменьшился с 201 ГБ до 6 ГБ при точности на уровне HNSW, ценой секунд ожидания вместо миллисекунд. Разбираю, кому такой компромисс выгоден и как он меняет экономию локальных баз знаний.
Главная претензия к локальному RAG всегда была не в моделях, а в индексе: чтобы искать по миллионам фрагментов, эмбеддинги нужно хранить — и они занимают десятки и сотни гигабайт. Исследователи UC Berkeley показали, что хранить их вообще не обязательно. Их открытый индекс LEANN держит только компактный граф связей, а эмбеддинги пересчитывает прямо в момент запроса. Итог: индекс на 60 млн фрагментов весит 6 ГБ вместо 201 ГБ — при точности на уровне классического HNSW.
Как это работает: хранить граф, считать векторы
Классические векторные индексы вроде HNSW ускоряют поиск за счёт заранее построенного графа близости — но вместе с графом хранят и сами векторы, а это терабайты на корпоративных объёмах. LEANN переворачивает уравнение: граф остаётся, векторы выбрасываются. Когда приходит запрос, система пересчитывает эмбеддинги только для тех фрагментов, до которых дошла по графу — нескольких тысяч из миллионов. Итог — память экономится на два порядка, а время ответа растёт с миллисекунд до секунд.
| Параметр | HNSW (классика) | LEANN |
|---|---|---|
| Размер индекса на 60M чанков | ≈201 ГБ | ≈6 ГБ |
| Скорость запроса | миллисекунды | секунды |
| Точность (recall) | базовая планка | сопоставимая при 90% recall |
| Требования к железу | сервер или NAS | ноутбук |
| Пересчёт эмбеддингов | нет — хранятся | да — на лету, только по графу |
LEANN меняет местами ресурсы: вместо памяти — процессорное время на запрос.
Кому это выгодно
Обратная сторона — латентность. Для чат-бота с ожиданием ответа «2–5 секунд на поиск» это нормально. Для поиска подсказки при каждом нажатии клавиши или для высоконагруженного сервиса — нет. Практичная стратегия: горячие индексы (частые запросы, малый объём) — в классике, холодные архивы (редкие запросы, гигантский объём) — в LEANN.
Частые вопросы
Значит, векторные базы больше не нужны?
Нужны — для быстрых сценариев. LEANN не заменяет, а дополняет: там, где важен каждый гигабайт и скорость в секундах приемлема, он выигрывает по стоимости в разы.
Реально ли это на домашнем компьютере?
Да, в этом и смысл: 6 ГБ индекса и пересчёт по графу — уровень современного ноутбука. Качество поиска при этом держится на уровне привычных решений.
Что с приватностью?
Как и любой локальный RAG, LEANN позволяет держать документы внутри периметра. Более того, пересчёт эмбеддингов на месте означает, что векторы тоже никуда не отправляются.
Публикация о выпуске LEANN и материалы проекта.
Собрать локальную базу знаний
Помогу оценить объём ваших документов, подобрать векторное хранилище и собрать RAG на своих данных — с расчётом места, скорости и стоимости.
Написать на dnvitas@mail.ruМатериал подготовлен 07.11.2026 по публикации Marktechpost о LEANN (MLSys 2026) и материалам UC Berkeley. Метрики — данные авторов исследования.
