В РФ 38% компаний внедряют ИИ, но лишь 14% понимают стандарт MLSecOps для защиты моделей
38% российских компаний внедряют ИИ, но лишь 14% понимают, как безопасно управлять этими системами. Разрыв между скоростью запуска моделей и уровнем защиты открывает лазейки для атак на корпоративные данные и процессы.
Согласно исследованию «Лаборатории Касперского» и К2 Кибербезопасность, опубликованному 3 сентября 2026 года, российские компании активно внедряют искусственный интеллект, но отстают в вопросах его защиты. 38% корпораций уже разрабатывают ИИ-решения для внутренних процессов, однако лишь 14% респондентов демонстрируют глубокое понимание методологии безопасной разработки MLSecOps. Остальные либо не знакомы с этим подходом (46%), либо знают о нем поверхностно (40%).
Внедрение ИИ опережает развитие защитных механизмов: компании запускают новые модели быстрее, чем успевают выстроить систему их контроля и аудита.
Что такое MLSecOps и почему он важен
MLSecOps (Machine Learning Security Operations) — это стандарт безопасности для систем машинного обучения. В отличие от классической защиты ПО, где безопасность встраивается в код, здесь контроль распространяется на весь жизненный цикл ИИ: от подготовки данных до эксплуатации готовой модели.
Отсутствие единого стандарта создает риски, так как угрозы меняются быстро. Если ранее главной задачей была защита от утечек данных в чатах и обхода ограничений (джейлбрейк), то сейчас фокус сместился на:
- обнаружение вредоносного кода в действиях ИИ-агентов;
- контроль за код-ассистентами, которые могут генерировать уязвимый код;
- защиту от скрытых изменений поведения модели.
Ключевые пробелы в безопасности
Исследование выявило системные недостатки в управлении ИИ-активами в российских компаниях:
- Отсутствие реестра моделей: Централизованный каталог всех используемых ИИ-моделей есть только у 32% организаций. Это повышает риск запуска непроверенных или вредоносных артефактов и создает зависимость от неизвестных источников.
- Контроль данных: Менее половины компаний (43%) ведут централизованный каталог датасетов (наборов данных). Через них в систему могут попасть ошибки, произойти утечки или нарушиться права доступа.
- Фрагментация ответственности: Задачи по безопасности ИИ распределены между разными отделами: безопасностью разработки, защитой данных, мониторингом инфраструктуры и расследованием инцидентов. Без постоянного взаимодействия этих команд с аналитиками данных эффективно выстроить защиту невозможно.
Риски возникают не только в инфраструктуре, но и непосредственно в данных, пайплайнах обучения и логике валидации моделей. Отсутствие единого каталога делает невозможным полный аудит цепочки поставок ИИ-решений.
Практические последствия для бизнеса
Текущая ситуация требует от компаний пересмотра подхода к управлению ИИ-рисками:
- Необходимость создания реестров: Для снижения рисков критически важно внедрить централизованные каталоги моделей и датасетов. Это позволит отслеживать происхождение каждого компонента и быстро реагировать на уязвимости.
- Интеграция команд: Безопасность ML-разработки требует тесного взаимодействия ИБ-отдела с командами data science и разработки. Изолированная работа приводит к «слепым зонам» в защите.
- Адаптация инструментов: Рынок защитных решений динамичен. Компаниям необходимо отслеживать новые классы угроз (например, вредоносные навыки агентных систем) и обновлять инфраструктуру защиты (включая внедрение AI Firewall), а не полагаться только на традиционные антивирусные решения.
Рынок MLSecOps в России находится на этапе становления. Единая зрелая практика еще не сформировалась, и защитные решения появляются разрозненно, преимущественно там, где риски уже нанесли ощутимый ущерб бизнесу.
Подтверждение: kaspersky.ru
