Innostage представила продукт AIDR (Artificial Intelligence Detection & Response) для защиты корпоративных больших языковых моделей. Решение блокирует атаки на ИИ-сервисы, предотвращает утечки данных и позволяет встроить контроль взаимодействия с ИИ в процессы информационной безопасности.
Корпоративные ИИ-сервисы используются при подготовке документов, анализе данных, работе с кодом, внутренней аналитике и обработке клиентских запросов, поэтому требуется контролировать не только доступ к приложению, но и содержание диалога с моделью: данные в запросах, инструкции для LLM и возвращаемые ответы.
Традиционные средства защиты не обеспечивают достаточной детализации происходящего внутри взаимодействия с моделью, из‑за чего возникает зона риска, требующая отдельного контроля запросов, ответов и связанных событий.
Innostage AIDR функционирует как прозрачный прокси между пользовательским ИИ-приложением и языковой моделью. Продукт фильтрует входящие запросы до передачи в LLM, блокирует попытки внедрения вредоносных инструкций (prompt injection) и обхода ограничений модели (jailbreak), а исходящие ответы проверяет на наличие персональных данных, коммерческой тайны, конфиденциальной и другой критичной информации.
Дополнительно AIDR контролирует тематику, тональность и токсичность ответов. В сценариях разработки продукт выявляет и маскирует секреты в запросах к модели, включая логины, пароли и токены, снижая риск их передачи в LLM. Все события безопасности передаются в SIEM-систему с указанием уровня критичности.
«Когда компания внедряет ИИ в рабочие процессы, она создает новый контур работы с данными. Задача не в том, чтобы ограничить использование ИИ, а в том, чтобы дать команде безопасности понятные точки контроля там, где риск возникает в самом диалоге пользователя с моделью. AIDR помогает сделать этот контур управляемым для ИБ», – отметил Айдар Фатыхов, владелец продукта Innostage AIDR.
Источник: пресс-служба Innostage
