Розробка RAG-систем, які відповідають за Вашими даними і вказують джерело
RAG дає мовній моделі доступ до Ваших даних. Ми будуємо весь ланцюжок: від завантаження файлів і баз до пошуку, ранжування, відповіді з цитатою і вимірювання якості.
Що болить
Ви вже зробили прототип на LangChain за вихідні, і на демо він виглядав добре. На реальних документах він плутає версії, відповідає з чужого розділу і не знаходить таблиці. Команда не знає, як виміряти, стало краще чи гірше.
Документи у Вас різні: PDF зі сканами, Excel з цінами, сторінки вікі, записи в CRM. Один спосіб нарізки тексту для всього не працює. Таблиці розсипаються, а заголовки губляться.
Ще одна проблема в даних, які змінюються щодня. Прайс оновили, а асистент відповідає за старим. Видалений документ досі потрапляє у відповіді, бо індекс ніхто не чистить.
Що будуємо
- Конектори до Ваших джерел: файли, Google Drive, вікі, PostgreSQL, CRM
- Розбір форматів: PDF, сканів через OCR, таблиць, презентацій і HTML
- Нарізка і embeddings під тип документа з метаданими для фільтрів
- Векторна база Qdrant або pgvector у Вашому PostgreSQL
- Гібридний пошук і re-ranking, щоб у відповідь потрапляли потрібні фрагменти
- Генерація відповіді з цитатами і відмовою, коли джерела немає
- Інкрементальне оновлення і видалення застарілих документів з індексу
- Набір тестів якості пошуку і відповідей, який запускається при кожній зміні
Що Ви отримуєте
- RAG-сервіс з API для Ваших продуктів і внутрішніх систем
- Вихідний код, конфігурація індексації і інфраструктура як код
- Тестовий набір питань з еталонами і звіт якості
- Документація з архітектури, оновлення індексу і додавання джерел
- Дашборд з метриками запитів, затримки і вартості
Як міряємо результат
- Частка питань, де потрібний фрагмент знайдено серед перших результатів
- Частка відповідей з правильною цитатою за тестовим набором
- Час відповіді і вартість одного запиту
- Час від зміни документа до появи змін у відповідях
Системи і стек
Галузі
Питання
Від чого залежить ціна розробки RAG?
Базова ціна від $7 000. Її визначають кількість і різноманітність джерел, частка сканів і таблиць, вимоги до прав доступу і місце розгортання. Після discovery ми фіксуємо кошторис за 2-3 дні, і він не змінюється без Вашої згоди.
Яку векторну базу Ви використовуєте?
Найчастіше Qdrant або pgvector. Якщо у Вас уже є PostgreSQL, pgvector часто простіший в підтримці. Для великих обсягів і складних фільтрів беремо Qdrant. Рішення ухвалюємо за Вашими даними, а не за модою.
Як Ви вимірюєте якість?
Разом з Вашою командою збираємо реальні питання з еталонними відповідями і джерелами. Окремо перевіряємо пошук і окремо відповідь. Тести запускаються при кожній зміні моделі, промпту чи нарізки, тому регресію видно одразу.
Чи можна обійтися без передачі даних стороннім AI-сервісам?
Так. Embeddings і генерація можуть працювати на нашій моделі на vLLM або на Вашому сервері. Тоді документи не виходять за межі контрольованої інфраструктури. Для банків і клінік ставимо виділений сервер.
Що потрібно від нас?
Доступ до джерел у режимі читання, приклади типових питань і людина, яка знає предметну область і може перевірити відповіді. NDA і DPA підписуємо до надання доступу.
Пов’язані послуги
Інші послуги розділу
Опишіть задачу. Відповімо протягом робочого дня, перший дзвінок з фаундером.
Опишіть задачу. Перший дзвінок з фаундером.
Відповімо протягом робочого дня. 30 хвилин, щоб сказати, чи варто це робити і скільки це коштує.