Аудит безпеки AI-систем: prompt injection, витоки даних і red teaming агентів
Атакуємо Ваш чат-бот чи агента так, як це зробив би зловмисник, і показуємо, що вдалося. Після звіту допомагаємо закрити знайдене і перевіряємо ще раз.
Що болить
Ваш бот відповідає клієнтам у Telegram чи на сайті. Ви не знаєте, чи можна змусити його розкрити системний промпт, ціни для партнерів або дані інших клієнтів.
Агент має доступ до CRM, замовлень чи платежів. Якщо хтось вмовить його виконати чужу команду, наслідки будуть уже не репутаційні, а фінансові.
Звичайний пентест перевіряє сервери і API, але не розмову з моделлю. Атака через текст, документ чи лист проходить повз класичні інструменти.
Що будуємо
- Модель загроз для Вашої AI-системи: дані, інструменти, користувачі
- Тести на пряму і непряму prompt injection, включно з атаками через документи і сайти
- Спроби витягнути системний промпт, персональні і комерційні дані
- Перевірка інструментів агента: чи можна викликати їх з чужими параметрами
- Тести на jailbreak, образливі і заборонені відповіді
- Перевірка за OWASP Top 10 для LLM-застосунків
- Повторна перевірка після виправлень
Що Ви отримуєте
- Звіт з кожною знахідкою, прикладом атаки і рівнем критичності
- Рекомендації з виправлення під Ваш стек
- Набір атакуючих тестів, який можна запускати при кожному релізі
- Звіт повторної перевірки після виправлень
- Розбір результатів з Вашою командою
Як міряємо результат
- Кількість знахідок за рівнем критичності
- Частка критичних знахідок, закритих до повторної перевірки
- Кількість атакуючих тестів у регулярному прогоні
- Час від нового релізу до перевірки безпеки
Системи і стек
Галузі
Питання
Скільки коштує аудит безпеки AI?
Від $7 000 за 3–6 тижнів. Ціна залежить від кількості каналів і агентів, від того, які інструменти має агент, і чи потрібна перевірка інфраструктури. Агент з доступом до платежів перевіряємо глибше, ніж бота з відповідями з бази знань.
Чи не зламаєте Ви наш продакшен?
Тести узгоджуємо заздалегідь і проводимо на тестовому середовищі або в погоджені години. Інструменти, що змінюють дані, підміняємо заглушками. Межі тестування фіксуємо письмово до початку.
Чи гарантує аудит, що бота не зламають?
Ні, і жоден чесний аудит цього не гарантує. Мовні моделі можна обдурити новими способами, які з’являються постійно. Аудит знаходить відомі слабкі місця, а регулярний набір тестів ловить регресії. Тому ми радимо поєднувати його з guardrails.
Що потрібно від нас?
Доступ до тестового середовища, опис інструментів агента, системний промпт і схема даних. NDA підписуємо до доступу. Знахідки передаємо лише погодженим людям у Вашій компанії.
З якими системами працюєте?
Чат-боти на сайті, в Telegram, Instagram і WhatsApp, голосові агенти, RAG-асистенти, внутрішні копілоти. Моделі OpenAI, Anthropic, Gemini або власні. Ми самі тестуємо агентів платформи Happ перед кожним релізом.
Що після аудиту?
Набір атакуючих тестів лишається у Вас і запускається в CI. Можемо проводити повторні перевірки за SLA, коли змінюються моделі чи з’являються нові типи атак.
Пов’язані послуги
Інші послуги розділу
Опишіть задачу. Відповімо протягом робочого дня, перший дзвінок з фаундером.
Опишіть задачу. Перший дзвінок з фаундером.
Відповімо протягом робочого дня. 30 хвилин, щоб сказати, чи варто це робити і скільки це коштує.