Guardrails для AI-агентов: фильтры, запрещенные темы, проверка фактов и передача человеку
Ставим между моделью и клиентом слой проверок. Он ловит запрещенные темы, выдуманные цены и персональные данные, а сложные случаи передает менеджеру.
Что болит
Бот пообещал клиенту скидку, которой нет, или назвал несуществующую цену. Клиент сделал скриншот, и теперь Вы либо выполняете обещание, либо спорите.
Клиника боится, что агент начнет давать медицинские советы. Банк боится, что бот прокомментирует кредитное решение. Промпт «не говори об этом» срабатывает не всегда.
Когда бот не знает ответа, он выдумывает уверенно и гладко. Клиент не отличает правду от вымысла, а менеджер узнает об этом из жалобы.
Что строим
- Перечень запрещенных тем, обещаний и формулировок вместе с Вами
- Фильтры входящих сообщений на атаки и злоупотребления
- Проверка ответов перед отправкой: цены, скидки, факты из Вашей базы
- Маскирование персональных данных в ответах и логах
- Правила передачи разговора человеку: тема, эмоции, неуверенность модели
- Тестовый набор с провокациями для регулярного прогона
- Дашборд срабатываний guardrails и ошибочных блокировок
Что Вы получаете
- Слой guardrails, встроенный в Ваш чат-бот или голосового агента
- Задокументированные правила, которые можно менять без программиста
- Тестовый набор с провокациями и результатами
- Дашборд срабатываний и настроенные алерты
- Инструкция для менеджеров, которые принимают переданные разговоры
Как измеряем результат
- Количество ответов, остановленных или исправленных guardrails
- Доля ошибочных блокировок нормальных ответов
- Количество жалоб на ложную информацию от бота
- Доля разговоров, переданных человеку, и причины передачи
Системы и стек
Отрасли
Вопросы
Сколько стоят guardrails?
От $5 000 за 3–5 недель. Цена зависит от числа правил, каналов и того, нужно ли проверять факты по Вашей базе товаров или цен. Для голосовых агентов добавляется требование к скорости, потому что проверка не может задерживать ответ.
Не начнет ли бот отказывать во всем?
Это реальный риск слишком строгих фильтров. Поэтому мы меряем и заблокированные плохие ответы, и ошибочно заблокированные нормальные. Пороги настраиваем на Ваших реальных разговорах, а не наугад.
Гарантируют ли guardrails, что бот никогда не ошибется?
Нет. Они существенно снижают риск, но языковые модели иногда ошибаются. Поэтому критичные вещи, вроде цен и скидок, мы проверяем кодом по Вашей базе, а спорные случаи передаем человеку.
С какими ботами это работает?
С чат-ботами на сайте, в Telegram, Instagram, WhatsApp и голосовыми агентами на SIP или Binotel. На любой модели: OpenAI, Gemini, Anthropic или собственной. Агентов платформы Happ мы сами прогоняем тестовыми наборами перед каждым изменением.
Что нужно от нас?
Перечень того, что бот не должен говорить, доступ к базе цен и товаров, примеры реальных разговоров и человек, который согласует правила. NDA подписываем до доступа.
Что после запуска?
Новые продукты и акции меняют правила. Интерфейс правил позволяет обновлять их без программиста. Можем также просматривать срабатывания и донастраивать фильтры по SLA.
Связанные услуги
Другие услуги раздела
Опишите задачу. Ответим в течение рабочего дня, первый звонок с фаундером.
Опишите задачу. Первый звонок с фаундером.
Ответим в течение рабочего дня. 30 минут, чтобы сказать, стоит ли это делать и сколько это стоит.