Дообучение LLM на Ваших примерах, терминах и стиле общения
Учим open-weight модель на Ваших разговорах, документах и правильных ответах. Она начинает писать Вашими терминами и форматом, а качество мы меряем тестовым набором до и после.
Что болит
Модель отвечает общими словами и не знает Ваших терминов. Промпт уже на несколько страниц, а она все равно путает продукты и пишет не тем тоном.
Вы платите за большую модель там, где задача узкая и повторяющаяся. Разбор звонков или классификация обращений могли бы работать на меньшей модели, если ее обучить.
Кто-то предлагает fine-tuning как волшебную кнопку. Но никто не может сказать, как проверить, что после обучения стало лучше, а не хуже.
Что строим
- Анализ задачи: нужно ли дообучение или хватит RAG и промпта
- Сбор и очистка обучающих примеров из Ваших данных
- Обезличивание персональных данных перед обучением
- Тестовый набор и метрики качества до начала обучения
- Дообучение методом LoRA на одной или двух базовых моделях
- Сравнение дообученной модели с базовой и с облачным API
- Развертывание дообученной модели на vLLM
Что Вы получаете
- Веса дообученной модели, которые принадлежат Вам
- Очищенный обучающий набор и скрипты его подготовки
- Тестовый набор с результатами до и после обучения
- Развернутая модель с API или инструкция по развертыванию
- Процедура переобучения, когда появятся новые данные
Как измеряем результат
- Оценка на тестовом наборе против базовой модели
- Доля ответов в правильном формате без ручных правок
- Стоимость одного запроса против большой облачной модели
- Количество ошибок в терминах и названиях продуктов
Системы и стек
Отрасли
Вопросы
Сколько стоит дообучение модели?
От $10 000. Цена зависит от объема и чистоты данных, числа задач и размера модели. Самая дорогая часть обычно не само обучение, а подготовка примеров и тестов. GPU для обучения учитываем в оценке.
Сколько данных нужно?
Для узкой задачи часто хватает нескольких сотен качественных примеров. Для стиля и терминов лучше несколько тысяч. Важно не количество, а правильность примеров. На discovery смотрим Ваши данные и честно говорим, достаточно ли их.
Всегда ли дообучение лучше RAG?
Нет. Если модель должна знать свежие факты, цены или остатки, лучше RAG. Дообучение дает формат, стиль и поведение. Часто лучше всего работает сочетание. Мы советуем дообучение, только когда тесты показывают выигрыш.
Не утекут ли наши данные через модель?
Мы обезличиваем персональные данные перед обучением и обучаем модель в закрытом контуре. Модель может запомнить фрагменты обучающих данных, поэтому чувствительные поля в набор не попадают. NDA и DPA подписываем до доступа.
Что после запуска?
Модель стареет вместе с Вашим бизнесом. Мы настраиваем процедуру переобучения и можем проводить ее по SLA. Каждая новая версия проходит тот же тестовый набор, прежде чем заменить старую.
Какую модель Вы берете за основу?
Open-weight модели с лицензией, которая разрешает коммерческое использование и дообучение. Выбираем две кандидатки по размеру, языку и скорости, дообучаем обе на части данных и оставляем ту, что лучше проходит тесты. Русский и украинский язык проверяем отдельно, потому что не все модели держат их одинаково.
Связанные услуги
Другие услуги раздела
Опишите задачу. Ответим в течение рабочего дня, первый звонок с фаундером.
Опишите задачу. Первый звонок с фаундером.
Ответим в течение рабочего дня. 30 минут, чтобы сказать, стоит ли это делать и сколько это стоит.