Разборы · Статья: · Видео: · ~11 мин
RAG не умер, а вырос в итеративный agentic-поиск: эмбеддинги как кэш вычислений
Доклад TurboPuffer: почему «RAG = один вектор-поиск в контекст» устарел, но retrieval жив и стал итеративным поиском агента с набором инструментов. Эмбеддинги как кэш вычислений — на метриках Cursor, Claude Code и цитате Jeff Dean.
Коротко
Простой «RAG = один вызов вектора в контекст» устарел, но сам retrieval жив и превратился в итеративный поиск агента с набором инструментов (вектор, BM25, grep). Эмбеддинги стоит понимать как кэш вычислений: разовая индексация экономит токены и поднимает точность ответов, что подтверждают метрики Cursor.
Оценка видео
Чем выше — тем больше пользы на минуту
средняя из 5
Свежий доклад (нач. 2026), ссылки на кейсы Cursor, Claude Code, цитату Jeff Dean — всё на острие темы.
За 11 минут есть один ясный тезис и пара конкретных цифр, но много общих слов и саморекламы TurboPuffer; глубины реализации нет.
Рамка «embeddings = cache compute» и «нужен не триллион, а правильный миллион» свежо поданы, но по сути это переупаковка известного спора RAG vs agentic.
Понятна развилка «grep каждый раз vs разовая индексация» и когда что выгодно, но без рецептов внедрения — только направление мысли.
Инсайты
Нажми, чтобы раскрыть — то, что меняет взгляд на тему
01 «RAG мёртв» — это спор о терминах, а не о технологии
То, что в твиттере называют «agentic search» (grep по файлам), и есть retrieval — просто без заранее построенного индекса. RAG не умер, умерла его примитивная трактовка «один вектор-поиск → контекст»; объём поисковых запросов на retrieval, наоборот, резко вырос в 2025.
02 Эмбеддинги и семантический поиск — это кэш вычислений
Без индекса агент каждую сессию заново грепает, читает, оценивает и повторяет, чтобы понять одно и то же — и так у 10 разработчиков по 10 раз в день, сжигая токены. Индекс — это закэшированный результат этого «понимания», который превращает повторяющуюся дорогую работу в один разовый upfront-расход.
03 Retrieval перестал быть разовым вызовом и стал циклом рассуждения
Современный агент ищет, чтобы понять, и понимает, чтобы искать дальше — несколько шагов, разные инструменты, добор только нужного. Поиск встроен в reasoning, а не предшествует ему.
04 Узкое место — не размер контекстного окна, а отбор
Даже триллион токенов контекста не отменяет необходимости retrieval: «тебе не нужен триллион сразу, тебе нужен правильный миллион» (Jeff Dean). Ставка на гигантские окна вместо ступенчатого отбора — ложный путь.
Полезные советы
Что можно применить уже сегодня. Разверни совет — сколько займёт, что даст и что конкретно делать
Не выбрасывай RAG — расширь «retrieval» до набора инструментов
Дай агенту не только векторный поиск, а полный набор: full-text/BM25, grep, glob, regex, обычные фильтры — и позволь ему итеративно их комбинировать, пока он не наберёт нужный контекст. Один разовый вектор-поиск с закидыванием в контекст устарел (работало в 2023 — начале 2024).
Индексируй то, что переиспользуется много раз; grepай то, что одноразово
Если по одной кодовой базе/корпусу 100 человек задают похожие вопросы каждый день, заплати один раз за парсинг + эмбеддинг и дай агенту лёгкий инструмент поиска во время выполнения. Если контент уникален для сессии — дешевле грепать на лету, чем строить индекс.
Не дублируй индексацию похожих корпусов — сравнивай их хешами
По примеру Cursor: считай Merkle-дерево (хеш-дерево) по кодовым базам, и если новая ветка/база достаточно похожа на уже проиндексированную — копируй готовые данные и переиндексируй только изменившиеся файлы вместо полного re-chunk/re-embed.
Строй retrieval как двухступенчатую воронку, а не как «всё в контекст»
Даже при огромном контекстном окне сначала лёгким механизмом сузь триллионы токенов до «правильного миллиона / 100k / 10k», и только это передавай модели. Цель — не «дать всё», а «дать нужное».
Измеряй пользу retrieval честной A/B-метрикой, а не средним по всем запросам
Семантический поиск помогает не каждому запросу, поэтому средний прирост выглядит скромно (2–3% retention). Смотри на прирост точности там, где инструмент реально срабатывал (у Cursor — +12–24% accuracy), и на снижение неудовлетворённых запросов.
Логика повествования
Как устроена аргументация видео — пройди по шагам
-
Предпосылка Соцсети: «RAG мёртв»
В твиттере волна заявлений, что RAG устарел и его заменяет «agentic search» — grep по файлам.
-
Аргумент Но данные поиска: интерес к RAG, наоборот, вырос
График объёма поиска Google: рост в 2023, плато, а в середине 2025 — новая точка перегиба и резкий взлёт. Эмпирическое возражение настроению соцсетей.
-
Аргумент Значит, спор — о терминах, а не о технологии
RAG = Retrieval-Augmented Generation, а не только вектор-поиск. «Agentic search» — тот же retrieval, но набором инструментов и итеративно.
-
Аргумент Тезис: умер примитивный RAG, retrieval живёт и стал циклом
Мёртв наивный сценарий «один раз дёрнули вектор-поиск → контекст». Сам retrieval становится богаче (вектор, BM25, grep, фильтры) и встраивается в reasoning агента.
-
Пример Развилка цены: грепать заново каждую сессию ИЛИ закэшировать понимание в индекс
Claude Code каждую сессию grep–read–assess–repeat; Cursor платит один раз за индексацию (парсинг + эмбеддинг), потом дёшево достаёт ответ. Эмбеддинги = cached compute. Дедупликация похожих баз — через деревья Меркла.
-
Пример Честная метрика: прирост там, где инструмент сработал
У Cursor внутренний бенчмарк +12–24% accuracy, но в онлайн A/B ~2,6% retention — потому что семантический поиск нужен не каждому запросу, и средний эффект «размывается».
-
Вывод Вывод: ступенчатый отбор важнее размера окна — добываем не всё, а нужное
«Тебе не нужен триллион сразу, тебе нужен правильный миллион» (Jeff Dean). Узкое место — отбор, а не размер контекста.
Подробный разбор
Полный разбор — разверни, если нужно глубже
Развернуть подробный разбор Свернуть подробный разбор
Стоит ли смотреть целиком
Достаточно этой заметки — ключевой тезис («умер примитивный RAG, retrieval жив и стал итеративным циклом») и цифры (Cursor +12–24% accuracy против ~2,6% retention в A/B, дедупликация по деревьям Меркла) пересказываются за минуту. Остальные 11 минут — общие слова и промо вендора TurboPuffer.
Кому полезно
Инженерам, которые строят агентов и RAG-пайплайны и решают, индексировать корпус или грепать на лету; продактам и тимлидам, выбирающим между ставкой на гигантское контекстное окно и ступенчатый retrieval; всем, кто устал от спора «RAG мёртв / жив» и хочет разложить его по сути, а не по терминам.
План внедрения
С чего начать — отмечай шаги, прогресс сохранится
Выполнено 0 из 4
Проверь себя
Ответь на вопросы, чтобы материал закрепился
-
1. Какой тезис о RAG отстаивает спикер в этом докладе?
-
2. Спикер показал график объёма поиска Google по теме за несколько лет. Зачем он его привёл?
-
3. Почему Cursor использует деревья Меркла (Merkle trees) при индексации кодовых баз?
-
4. Cursor сообщает о приросте точности ~12–13% (и до ~24% у Composer), но в онлайн A/B-тесте метрики выглядят скромно (~2,6% удержания кода, ~2,2% меньше недовольных запросов). Как спикер объясняет этот разрыв?
-
5. Что означает идея «embeddings и семантический поиск — это cached compute», проиллюстрированная сравнением трейсов Claude Code и Cursor?
Похожие разборы
Маленькую LLM можно «надрессировать» через RL: дисциплина в работе с инструментами важнее размера модели
Snorkel показал кейс, где 4B-модель после RL-дообучения (GRPO, ~$500, 21 час) обошла 235B на задачах tool use для финансового анализа. Главный вывод: проблема была не в слабом «мышлении», а в неумении пользоваться инструментами — и именно это чинит RL на качественных данных, а не апгрейд на модель побольше.
Читать → РазборDiffusion Gemma: зачем диффузионная LLM ускоряет локальный инференс и чем платит за скорость
Энтузиаст запускает локально открытую диффузионную LLM Google (Apache 2.0) и на живых замерах показывает: для одиночного пользователя она выдаёт ~94 ток/с против ~61 у обычной Gemma при сопоставимом качестве. Главный поворот — диффузия выгодна именно домашнему юзеру, а не дата-центру, и прирост скорости честен только там, где небольшая просадка качества допустима.
Читать → РазборЛупы вместо промптов в вайб-кодинге: цель со стоп-условием, которая крутится сама
Луп — это рекурсивная цель со стоп-условием: ставишь задачу один раз, и агент сам крутится «сделал → проверил → не готово → снова», пока условие не выполнится. Лупы не заменяют промптинг, а снимают ежедневную рутину — и, как признаёт сам автор, доступны уже в Claude Code и Codex через goals, а не только в его платформе.
Читать → РазборМногоагентный вайб-кодинг: пошаговый workflow от идеи до продакшена
Автор показывает свой процесс вайб-кодинга: главный навык — не писать код, а оркестрировать рой агентов, масштабируя их число и планы под сложность задачи. За одно видео он вживую собирает полный стек (база, API, AWS, Discord-авторизация), но половина «обязательных инструментов» — его же платные продукты.
Читать →