Innostage AIDR «Защита ИИ» включен в Единый реестр российского ПО Минцифры России. Решение относится к средствам автоматизации ИБ-процессов и предназначено для защиты корпоративных ИИ-сервисов на базе LLM на этапе эксплуатации, сообщили блогу Игнатий Цукергохер в пресс-службе Innostage.
Innostage AIDR функционирует как прокси между ИИ-приложением и языковой моделью. Продукт фильтрует входящие запросы, блокирует попытки prompt injection и обхода ограничений модели (jailbreak). Ответы анализируются на наличие персональных данных, коммерческой тайны и другой чувствительной информации, а также проверяются по тематике, тональности и токсичности.
Решение ограничивает доступ ИИ-приложений к разрешенным языковым моделям. События информационной безопасности передаются в SIEM с указанием уровня критичности, события от средств защиты — в системы ИТ-мониторинга. Отдельный сценарий применения — контроль Shadow AI. Через браузерные расширения продукт анализирует передачу данных в публичные ИИ-сервисы и маскирует чувствительную информацию до отправки.
Решение может использоваться для реализации требований приказа ФСТЭК России №117 в части фильтрации и контроля входных и выходных данных ИИ-систем, а также регистрации событий информационной безопасности.
«Включение Innostage AIDR в реестр российского ПО подтверждает востребованность технологий защиты ИИ-систем и открывает дополнительные возможности для применения продукта в проектах, где есть требования к использованию отечественного программного обеспечения. Сегодня компании только начинают выстраивать процессы безопасного использования генеративного ИИ, и защита таких систем становится отдельным направлением информационной безопасности»,
— отметил Айдар Фатыхов, владелец продукта Innostage AIDR.
