Kaspersky: как кибериммунитет защищает бизнес от рисков ИИ-агентов

«Лаборатория Касперского» представила документ, объясняющий, как защитить корпоративные системы от рисков, связанных с использованием автономных ИИ-агентов. Руководство построено на концепции кибериммунитета — подходе к безопасности, где защита встраивается в архитектуру системы на этапе проектирования, а не добавляется постфактум. Материал ориентирован на директоров по информационной безопасности (CISO), ИТ-руководителей и разработчиков, которым предстоит внедрять или уже использующие такие технологии.

Четыре ключевых риска автономных систем

ИИ-агенты — это системы на базе больших языковых моделей (LLM), способные самостоятельно работать с файлами, базами данных, почтой и внешними сервисами. Они активно внедряются в процессы разработки ПО, клиентской поддержки и бизнес-аналитики. Однако часто это происходит «снизу вверх», когда сотрудники используют инструменты без согласования с ИТ-отделом, создавая так называемый теневой ИИ — инфраструктуру с неизвестным уровнем защиты.

В документе выделены четыре основных вектора угроз:

• Недоверенное когнитивное ядро. Языковые модели вероятностны по своей природе и могут ошибаться, выдавая неверные инструкции или данные.
• «Фатальная триада». Опасное сочетание трех факторов: доступ агента к конфиденциальным данным, обработка недоверенного внешнего ввода (например, писем от клиентов) и возможность взаимодействовать с внешними системами.
• Избыточные полномочия. Агенту предоставляют больше прав, чем необходимо для выполнения конкретной задачи, что расширяет поверхность атаки.
• Непрозрачность действий. Сложность для человека отслеживать логику принятия решений системой и вовремя заметить ошибку до того, как она приведет к инциденту.

Эти риски подтверждены реальными кейсами: зафиксированы случаи, когда ИИ-агенты случайно удаляли важные данные или выполняли другие нежелательные действия из-за неверной интерпретации команд.

Внедрение ИИ-агентов часто обходит корпоративные протоколы безопасности. Это создает «слепые зоны», где система имеет доступ к критичным активам, но работает без должного аудита и контроля со стороны ИБ-службы.

Кибериммунитет как метод защиты

Для снижения рисков «Лаборатория Касперского» предлагает использовать принципы кибериммунитета. Суть подхода — не в перечне конкретных технических мер, а в фиксации целей безопасности на самом раннем этапе проектирования архитектуры. Это позволяет определить допустимые уязвимости и заложенные допущения, которые определяют структуру системы.

Технический директор компании Антон Иванов отмечает, что ИИ-агенты являются привлекательной целью для злоумышленников, так как обычно исполняются с теми же правами доступа, что и другие приложения разработчика или сотрудника. Риски возрастают вместе со степенью автономности: от простой LLM без инструментов до сложных мультиагентных систем.

Ключевые рекомендации из руководства включают:

• Принцип наименьших привилегий: агент должен получать только те права, которые строго необходимы для текущей задачи.
• Человеческий контроль: все критические операции должны проходить через подтверждение человеком и проверку контекста.
• Строгая изоляция и аудит: чем сложнее делегируемая задача, тем более жесткими должны быть механизмы контроля за действиями агента.

Баланс между защитой и эффективностью определяется на этапе проектирования. Если безопасность не заложена в архитектуру изначально, компенсировать риски на этапе эксплуатации становится значительно сложнее и дороже.