Guardrails для AI-агентів: фільтри, заборонені теми, перевірка фактів і передача людині
Ставимо між моделлю і клієнтом шар перевірок. Він ловить заборонені теми, вигадані ціни і персональні дані, а складні випадки передає менеджеру.
Що болить
Бот пообіцяв клієнту знижку, якої немає, або назвав неіснуючу ціну. Клієнт зробив скриншот, і тепер Ви маєте або виконувати обіцянку, або сперечатися.
Клініка боїться, що агент почне давати медичні поради. Банк боїться, що бот прокоментує кредитне рішення. Промпт «не говори про це» не завжди спрацьовує.
Коли бот не знає відповіді, він вигадує впевнено і гладко. Клієнт не відрізняє правду від вигадки, а менеджер дізнається про це зі скарги.
Що будуємо
- Перелік заборонених тем, обіцянок і формулювань разом з Вами
- Фільтри вхідних повідомлень на атаки і зловживання
- Перевірка відповідей перед відправкою: ціни, знижки, факти з Вашої бази
- Маскування персональних даних у відповідях і логах
- Правила передачі розмови людині: тема, емоції, невпевненість моделі
- Тестовий набір з провокаціями для регулярного прогону
- Дашборд спрацювань guardrails і помилкових блокувань
Що Ви отримуєте
- Шар guardrails, вбудований у Ваш чат-бот чи голосового агента
- Задокументовані правила, які можна змінювати без програміста
- Тестовий набір з провокаціями і результатами
- Дашборд спрацювань і налаштовані алерти
- Інструкція для менеджерів, які приймають передані розмови
Як міряємо результат
- Кількість відповідей, зупинених або виправлених guardrails
- Частка помилкових блокувань нормальних відповідей
- Кількість скарг на неправдиву інформацію від бота
- Частка розмов, переданих людині, і причини передачі
Системи і стек
Галузі
Питання
Скільки коштують guardrails?
Від $5 000 за 3–5 тижнів. Ціна залежить від кількості правил, каналів і того, чи треба перевіряти факти з Вашою базою товарів чи цін. Для голосових агентів додається вимога до швидкості, бо перевірка не може затримувати відповідь.
Чи не почне бот відмовляти у всьому?
Це реальний ризик надто суворих фільтрів. Тому ми міряємо і заблоковані погані відповіді, і помилково заблоковані нормальні. Пороги налаштовуємо на Ваших реальних розмовах, а не навмання.
Чи гарантують guardrails, що бот ніколи не помилиться?
Ні. Вони суттєво зменшують ризик, але мовні моделі іноді помиляються. Тому критичні речі, як ціни і знижки, ми перевіряємо кодом з Вашою базою, а спірні випадки передаємо людині.
З якими ботами це працює?
З чат-ботами на сайті, в Telegram, Instagram, WhatsApp і голосовими агентами на SIP чи Binotel. На будь-якій моделі: OpenAI, Gemini, Anthropic чи власній. Агентів платформи Happ ми самі проганяємо тестовими наборами перед кожною зміною.
Що потрібно від нас?
Перелік того, що бот не має говорити, доступ до бази цін і товарів, приклади реальних розмов і людина, яка погоджує правила. NDA підписуємо до доступу.
Що після запуску?
Нові продукти і акції змінюють правила. Інтерфейс правил дозволяє оновлювати їх без програміста. Можемо також переглядати спрацювання і донастроювати фільтри за SLA.
Пов’язані послуги
Інші послуги розділу
Опишіть задачу. Відповімо протягом робочого дня, перший дзвінок з фаундером.
Опишіть задачу. Перший дзвінок з фаундером.
Відповімо протягом робочого дня. 30 хвилин, щоб сказати, чи варто це робити і скільки це коштує.