К2 Кибербезопасность и «Лаборатория Касперского» исследовали использование ИИ в 200+ крупных российских компаниях из ИТ, финансов, торговли, телекома, строительства и фармацевтики. Исследование было направлено на выявление подходов российского бизнеса к безопасному использованию технологий искусственного интеллекта, рассказали блогу «Игнатий Цукергохер» в пресс-службах компаний.
В числе основных направлений применения оказались:
- генерация контента — 41%,
- аналитика данных — 37%,
- разработка ПО — 37%,
- HR‑процессы — 27%,
- клиентские сервисы — 22%.
43% компаний отметили, что при недоступности ИИ бизнес продолжит работу с потерями (32% — умеренными, 11% — критическими), что указывает на зависимость отдельных процессов от ИИ.
«Искусственный интеллект уже влияет на непрерывность бизнеса и должен рассматриваться как компонент операционной устойчивости. Поэтому в ближайшие годы основным вызовом будет внедрение зрелых практик по управлению ИИ-рисками. За последнее время участились инциденты с негативными последствиями от использования ИИ: генерация токсичного контента от имени компании, загрузка сотрудниками конфиденциальной информации и внутренних протоколов в публичные модели, внедрение вредоносных запросов и т.д. Согласно опросу, уже 25% компаний считают, что безопасность ИИ входит в ТОП-5 приоритетов бизнеса. При этом пока только 22% выделили на это отдельный бюджет. Эти организации показывают зрелый подход, встраивая новый класс рисков в систему своего стратегического планирования», — прокомментировал Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в К2 Кибербезопасность.
61% компаний пытаются контролировать использование сторонних ИИ‑сервисов, но сталкиваются с техническими и организационными ограничениями. Полноценные политики и контроль реализованы у 29% организаций, 47% ограничиваются мониторингом, 24% применяют блокировки.
«В случае с ИИ поражает не только скорость развития технологий, но и то, как быстро он распространяется среди пользователей. Сотрудники начинают самостоятельно экспериментировать с чат-ботами, агентами и другими системами на базе LLM с самыми лучшими намерениями — для увеличения продуктивности, повышения качества и скорости работы. Так формируется «теневой ИИ» — набор ИИ-практик и инструментов, неподконтрольных ИТ- и ИБ-департаментам. Задача бизнеса в данном случае — возглавить этот процесс, то есть предоставить сотрудникам доступ к безопасным и доверенным ИИ-инструментам», — прокомментировал Владислав Тушканов, руководитель группы исследования технологий машинного обучения, «Лаборатория Касперского».
В 78% компаний безопасность ИИ относится к зоне ответственности ИБ‑подразделений, тогда как участие ИТ носит поддерживающий характер.
