Донавчання LLM на Ваших прикладах, термінах і стилі спілкування
Вчимо open-weight модель на Ваших розмовах, документах і правильних відповідях. Вона починає писати Вашими термінами і форматом, а якість ми міряємо тестовим набором до і після.
Що болить
Модель відповідає загальними словами і не знає Ваших термінів. Промпт уже на кілька сторінок, а вона все одно плутає продукти і пише не тим тоном.
Ви платите за велику модель там, де задача вузька і повторювана. Розбір дзвінків чи класифікація звернень могли б працювати на меншій моделі, якби її навчили.
Хтось пропонує fine-tuning як чарівну кнопку. Але ніхто не може сказати, як перевірити, що після навчання стало краще, а не гірше.
Що будуємо
- Аналіз задачі: чи потрібне донавчання, чи вистачить RAG або промпту
- Збір і очищення навчальних прикладів з Ваших даних
- Знеособлення персональних даних перед навчанням
- Тестовий набір і метрики якості до початку навчання
- Донавчання методом LoRA на одній або двох базових моделях
- Порівняння донавченої моделі з базовою і з хмарним API
- Розгортання донавченої моделі на vLLM
Що Ви отримуєте
- Ваги донавченої моделі, які належать Вам
- Очищений навчальний набір і скрипти його підготовки
- Тестовий набір з результатами до і після навчання
- Розгорнута модель з API або інструкція з розгортання
- Процедура перенавчання, коли з’являться нові дані
Як міряємо результат
- Оцінка на тестовому наборі проти базової моделі
- Частка відповідей у правильному форматі без ручних правок
- Вартість одного запиту проти великої хмарної моделі
- Кількість помилок у термінах і назвах продуктів
Системи і стек
Галузі
Питання
Скільки коштує донавчання моделі?
Від $10 000. Ціна залежить від обсягу і чистоти даних, кількості задач і розміру моделі. Найдорожча частина зазвичай не саме навчання, а підготовка прикладів і тестів. GPU для навчання враховуємо в оцінці.
Скільки даних потрібно?
Для вузької задачі часто вистачає кількох сотень якісних прикладів. Для стилю і термінів краще кілька тисяч. Важлива не кількість, а те, наскільки приклади правильні. На discovery дивимося Ваші дані і кажемо чесно, чи їх достатньо.
Чи завжди донавчання краще за RAG?
Ні. Якщо модель має знати свіжі факти, ціни чи залишки, краще RAG. Донавчання дає формат, стиль і поведінку. Часто найкраще працює поєднання. Ми радимо донавчання лише тоді, коли тести показують виграш.
Чи не витечуть наші дані через модель?
Ми знеособлюємо персональні дані перед навчанням і навчаємо модель у закритому контурі. Модель може запам’ятати фрагменти навчальних даних, тому чутливі поля в набір не потрапляють. NDA і DPA підписуємо до доступу.
Що після запуску?
Модель старіє разом з Вашим бізнесом. Ми налаштовуємо процедуру перенавчання і можемо проводити її за SLA. Кожна нова версія проходить той самий тестовий набір перед заміною старої.
Яку модель Ви берете за основу?
Open-weight моделі з ліцензією, яка дозволяє комерційне використання і донавчання. Обираємо дві кандидатки за розміром, мовою і швидкістю, донавчаємо обидві на частині даних і лишаємо ту, що краще проходить тести. Українську і польську мову перевіряємо окремо, бо не всі моделі тримають їх однаково.
Пов’язані послуги
Інші послуги розділу
Опишіть задачу. Відповімо протягом робочого дня, перший дзвінок з фаундером.
Опишіть задачу. Перший дзвінок з фаундером.
Відповімо протягом робочого дня. 30 хвилин, щоб сказати, чи варто це робити і скільки це коштує.