Аудит безопасности AI-систем: prompt injection, утечки данных и red teaming агентов
Атакуем Ваш чат-бот или агента так, как это сделал бы злоумышленник, и показываем, что удалось. После отчета помогаем закрыть найденное и проверяем еще раз.
Что болит
Ваш бот отвечает клиентам в Telegram или на сайте. Вы не знаете, можно ли заставить его раскрыть системный промпт, цены для партнеров или данные других клиентов.
Агент имеет доступ к CRM, заказам или платежам. Если кто-то уговорит его выполнить чужую команду, последствия будут уже не репутационные, а финансовые.
Обычный пентест проверяет серверы и API, но не разговор с моделью. Атака через текст, документ или письмо проходит мимо классических инструментов.
Что строим
- Модель угроз для Вашей AI-системы: данные, инструменты, пользователи
- Тесты на прямую и непрямую prompt injection, включая атаки через документы и сайты
- Попытки вытащить системный промпт, персональные и коммерческие данные
- Проверка инструментов агента: можно ли вызвать их с чужими параметрами
- Тесты на jailbreak, оскорбительные и запрещенные ответы
- Проверка по OWASP Top 10 для LLM-приложений
- Повторная проверка после исправлений
Что Вы получаете
- Отчет с каждой находкой, примером атаки и уровнем критичности
- Рекомендации по исправлению под Ваш стек
- Набор атакующих тестов, который можно запускать при каждом релизе
- Отчет повторной проверки после исправлений
- Разбор результатов с Вашей командой
Как измеряем результат
- Количество находок по уровню критичности
- Доля критичных находок, закрытых до повторной проверки
- Количество атакующих тестов в регулярном прогоне
- Время от нового релиза до проверки безопасности
Системы и стек
Отрасли
Вопросы
Сколько стоит аудит безопасности AI?
От $7 000 за 3–6 недель. Цена зависит от числа каналов и агентов, от того, какие инструменты есть у агента, и нужна ли проверка инфраструктуры. Агента с доступом к платежам проверяем глубже, чем бота с ответами из базы знаний.
Не сломаете ли Вы наш продакшен?
Тесты согласуем заранее и проводим на тестовой среде или в согласованные часы. Инструменты, которые меняют данные, подменяем заглушками. Границы тестирования фиксируем письменно до начала.
Гарантирует ли аудит, что бота не взломают?
Нет, и ни один честный аудит этого не гарантирует. Языковые модели можно обмануть новыми способами, которые появляются постоянно. Аудит находит известные слабые места, а регулярный набор тестов ловит регрессии. Поэтому мы советуем сочетать его с guardrails.
Что нужно от нас?
Доступ к тестовой среде, описание инструментов агента, системный промпт и схема данных. NDA подписываем до доступа. Находки передаем только согласованным людям в Вашей компании.
С какими системами работаете?
Чат-боты на сайте, в Telegram, Instagram и WhatsApp, голосовые агенты, RAG-ассистенты, внутренние копилоты. Модели OpenAI, Anthropic, Gemini или собственные. Мы сами тестируем агентов платформы Happ перед каждым релизом.
Что после аудита?
Набор атакующих тестов остается у Вас и запускается в CI. Можем проводить повторные проверки по SLA, когда меняются модели или появляются новые типы атак.
Связанные услуги
Другие услуги раздела
Опишите задачу. Ответим в течение рабочего дня, первый звонок с фаундером.
Опишите задачу. Первый звонок с фаундером.
Ответим в течение рабочего дня. 30 минут, чтобы сказать, стоит ли это делать и сколько это стоит.