Поиск
AppSec.AIGate
AppSec.AIGate ‒ это security gateway (шлюз безопасности) для Large Language Models (LLM). Система устанавливается между пользователями и LLM-провайдерами и в реальном времени анализирует каждый входящий запрос к модели и каждый исходящий ответ от неё.
В отличие от классических WAF (Web Application Firewall), которые работают на уровне HTTP-запросов, AppSec.AIGate понимает семантику взаимодействия с LLM: извлекает пользовательский промпт из структуры API-запроса, выполняет лингвистический анализ текста, а также проверяет ответ модели перед отправкой пользователю.
Какие угрозы закрывает AppSec.AIGate¶
В отличие от классических WAF (Web Application Firewall), которые работают на уровне HTTP-запросов, AppSec.AIGate понимает семантику взаимодействия с LLM: извлекает пользовательский промпт из структуры API-запроса, выполняет лингвистический анализ текста, а также проверяет ответ модели перед отправкой пользователю.
Какие угрозы закрывает AppSec.AIGate¶
- Jailbreak и prompt injection атаки ‒ злоумышленник пытается заставить LLM игнорировать системные инструкции через специально сконструированные промпты. Например, классический «Ignore all previous instructions and...» или более сложные многошаговые атаки. Threat Detector использует ML-модель для выявления таких попыток ещё до отправки запроса к LLM.
- Утечки персональных данных (PII) ‒ пользователь может случайно или намеренно отправить в LLM номер паспорта, ИНН, СНИЛС, банковскую карту, email, номер телефона и другие персональные данные. PII Detector обнаруживает 20+ типов PII на русском и английском языках и может замаскировать их до отправки запроса к модели.
- Нарушения контентной безопасности в ответах ‒ LLM может сгенерировать опасный контент: инструкции по созданию оружия, вредоносный код, сексуальный контент, разжигание ненависти. Content Safety анализирует запрос и ответ модели по категориям опасного контента и блокирует опасный контент до его доставки пользователю.
- Нарушения корпоративных политик ‒ организация может определить собственные правила: запретить обсуждение конкурентов, ограничить использование определённых языков, заблокировать запросы на определённые темы. Content Policy Service проверяет соответствие этим правилам.
- Утечки секретов в ответах LLM ‒ модель, обученная на внутренних данных или получившая доступ к контексту, может вернуть в ответе API-ключи, JWT-токены, строки подключения к БД, приватные SSH-ключи. Output PII Detector перехватывает такие утечки до отправки ответа пользователю.
