// KNOWLEDGE

Разработка RAG-систем, которые отвечают по Вашим данным и указывают источник

RAG даёт языковой модели доступ к Вашим данным. Мы строим всю цепочку: от загрузки файлов и баз до поиска, ранжирования, ответа с цитатой и измерения качества.

от$7,000
недель5–10
Сметафиксированная
ISO27001:2022

Что болит

Вы уже сделали прототип на LangChain за выходные, и на демо он выглядел хорошо. На реальных документах он путает версии, отвечает из чужого раздела и не находит таблицы. Команда не знает, как измерить, стало лучше или хуже.

Документы у Вас разные: PDF со сканами, Excel с ценами, страницы вики, записи в CRM. Один способ нарезки текста для всего не работает. Таблицы рассыпаются, а заголовки теряются.

Ещё одна проблема в данных, которые меняются каждый день. Прайс обновили, а ассистент отвечает по старому. Удалённый документ всё ещё попадает в ответы, потому что индекс никто не чистит.

Что строим

  • Коннекторы к Вашим источникам: файлы, Google Drive, вики, PostgreSQL, CRM
  • Разбор форматов: PDF, сканов через OCR, таблиц, презентаций и HTML
  • Нарезка и embeddings под тип документа с метаданными для фильтров
  • Векторная база Qdrant или pgvector в Вашем PostgreSQL
  • Гибридный поиск и re-ranking, чтобы в ответ попадали нужные фрагменты
  • Генерация ответа с цитатами и отказом, когда источника нет
  • Инкрементальное обновление и удаление устаревших документов из индекса
  • Набор тестов качества поиска и ответов, который запускается при каждом изменении

Что Вы получаете

  • RAG-сервис с API для Ваших продуктов и внутренних систем
  • Исходный код, конфигурация индексации и инфраструктура как код
  • Тестовый набор вопросов с эталонами и отчёт качества
  • Документация по архитектуре, обновлению индекса и добавлению источников
  • Дашборд с метриками запросов, задержки и стоимости

Как измеряем результат

  • Доля вопросов, где нужный фрагмент найден среди первых результатов
  • Доля ответов с правильной цитатой по тестовому набору
  • Время ответа и стоимость одного запроса
  • Время от изменения документа до появления изменений в ответах

Вопросы

От чего зависит цена разработки RAG?

Базовая цена от $7 000. Её определяют количество и разнообразие источников, доля сканов и таблиц, требования к правам доступа и место развёртывания. После discovery мы фиксируем смету за 2-3 дня, и она не меняется без Вашего согласия.

Какую векторную базу Вы используете?

Чаще всего Qdrant или pgvector. Если у Вас уже есть PostgreSQL, pgvector часто проще в поддержке. Для больших объёмов и сложных фильтров берём Qdrant. Решение принимаем по Вашим данным, а не по моде.

Как Вы измеряете качество?

Вместе с Вашей командой собираем реальные вопросы с эталонными ответами и источниками. Отдельно проверяем поиск и отдельно ответ. Тесты запускаются при каждом изменении модели, промпта или нарезки, поэтому регрессия видна сразу.

Можно ли обойтись без передачи данных сторонним ИИ-сервисам?

Да. Embeddings и генерация могут работать на нашей модели на vLLM или на Вашем сервере. Тогда документы не выходят за пределы контролируемой инфраструктуры. Для банков и клиник ставим выделенный сервер.

Что нужно от нас?

Доступ к источникам в режиме чтения, примеры типичных вопросов и человек, который знает предметную область и может проверить ответы. NDA и DPA подписываем до предоставления доступа.

Опишите задачу. Ответим в течение рабочего дня, первый звонок с фаундером.

08 / Контакт

Опишите задачу. Первый звонок с фаундером.

Ответим в течение рабочего дня. 30 минут, чтобы сказать, стоит ли это делать и сколько это стоит.

Вячеслав СалоидFounder · 10+ лет в разработке
Бюджет

Ответим в течение рабочего дня.