CISO против агентного ИИ: как управлять рисками, когда машины принимают решения быстрее людей
Роль CISO перестраивается под давлением агентного ИИ, который берет на себя решение критических задач в реальном времени, оставляя за человеком ответственность за конечный результат. Это меняет баланс между людьми и технологиями, формируя новую модель безопасности, где зависимость от поставщиков и уязвимости человеческого фактора становятся стратегическими рисками для бизнеса.
Изменение роли CISO: новые вызовы в эпоху агентного ИИ
По данным Helpnetsecurity, роль главного специалиста по информационной безопасности (CISO) претерпела значительные изменения за последние десять лет. Особенно заметной стала трансформация, связанная с появлением агентного ИИ, который теперь вовлечен в принятие решений и действия на уровне масштаба. Эксперты отмечают, что сегодня CISO не только руководит людьми, но и участвует в управлении гибридными командами, где человек и ИИ работают вместе.
От традиционной структуры к гибридной модели
Ранее структура отдела информационной безопасности была иерархической, с четко определенными звеньями ответственности и специализированными группами. Работодатели конкурировали за аналитиков и инженеров, чтобы заполнить эти ниши. Сегодня приоритет изменился: CISO должен проектировать, управлять и доверять команде, включающей как людей, так и ИИ-агентов. Основная задача — определить, какие решения можно автоматизировать, а где необходим человеческий контроль.
Ключевым фактором стало не изменение инструментов, а смещение акцента на ответственность. При работе с ИИ-агентами, способными действовать в реальном времени, CISO остается ответственным за результаты, даже если организация не внедрила адекватные меры управления. Эта модель управления и ответственности не существовала десять лет назад.
Современные подходы к оценке ИИ-продуктов
Оценка ИИ-продуктов сегодня отличается от подхода пятилетней давности. Ранее внимание уделялось функционалу, охвату и интеграции с человеческими процессами. Теперь же приоритет — безопасность, прозрачность и возможность управления на уровне машинной скорости. Эксперт подчеркивает, что продукт должен быть интуитивно понятен, способен работать автономно в заданных рамках и предоставлять данные в режиме реального времени.
Важно, чтобы платформы снижали когнитивную нагрузку на команды, обрабатывали большие объемы данных и выявляли скрытые паттерны. Лучшие решения уже не ограничиваются обнаружением угроз, а рекомендуют и, при необходимости, внедряют улучшения. Они также измеряют собственную эффективность и вносят корректировки, превращая защиту в непрерывный процесс оптимизации.
Риски зависимости от поставщиков
Особое внимание уделяется вопросу зависимости от крупных поставщиков. Слишком часто бизнесы консолидируют функции в платформах, которые не были спроектированы для автономной работы на уровне машинной скорости. При этом решения, пути выполнения задач и механизмы восстановления остаются неясными и находятся вне контроля заказчика.
Примером стали инциденты 2025 года, когда несколько крупных компаний столкнулись с атаками, связанными с цепочками поставок и группировкой Scattered Spider. Даже зрелые команды безопасности оказались перегружены, поскольку большинство атак использовали слабости, связанные с человеческим фактором. В условиях атак, управляемых ИИ, подобные уязвимости становятся критичными.
Вопросы, которые задает бизнес
Для минимизации рисков ключевым становится аудит текущих решений и оценка того, как быстро организация сможет адаптироваться к изменениям. Вопросы, которые должны задавать руководители, включают:
- Как быстро будет повреждена выручка, доверие или безопасность, если поставщик перестанет работать?
- Какие возможности есть для автоматизации и как они соответствуют скорости действий злоумышленников?
Ответы на эти вопросы позволяют сформировать более устойчивую стратегию, где защита превращается из реактивного элемента в активную составляющую бизнес-процессов.
Что дальше?
В условиях ускорения атак и роста роли ИИ, бизнесу необходимо перестроить подход к управлению рисками. Это включает в себя:
- Перепроектирование команд вокруг результатов, а не функций.
- Автоматизацию выполнения задач.
- Применение человеческого суждения там, где это наиболее эффективно.
- Обеспечение четкой ответственности до того, как угроза превысит возможности реагирования.
Те, кто начнет действовать сейчас, получат преимущество в борьбе с угрозами, которые уже действуют с большой скоростью.
Изменение правил игры: когда ИИ становится участником команды
От контроля к доверию: как меняется роль CISO
В условиях, когда ИИ-агенты способны принимать решения и действовать автономно, роль главного специалиста по информационной безопасности (CISO) претерпевает глубокую трансформацию. Сегодня CISO — это не только архитектор безопасности, но и менеджер гибридной команды, где человек и ИИ работают как партнеры. Это не только изменение функций, а сдвиг в природе ответственности: CISO больше не управляет только людьми, он участвует в управлении ИИ-агентами, которые действуют в реальном времени. И именно он отвечает за результаты, даже если решения были приняты не человеком.
Важный нюанс: В мире машинной скорости безопасность превращается из реактивного действия в постоянный процесс, где ИИ-агенты не только обнаруживают угрозы, но и предлагают решения. Это меняет не только процессы, но и ожидания от команды безопасности.
В 2025 году инциденты, связанные с группировкой Scattered Spider, показали, как быстро могут распространяться атаки, если уязвимости связаны с человеческим фактором. В условиях, где ИИ управляет атаками, подобные уязвимости становятся не только слабыми местами — они становятся дверями в систему.
Важный нюанс: В таких условиях критически важно не только использовать ИИ, а понимать, как он работает, каковы его пределы и кто отвечает за его действия. Если поставщик не предоставляет прозрачности и контроля, бизнес рискует оказаться в ситуации, где он не в состоянии быстро адаптироваться к изменению угроз.
Управление рисками в условиях зависимости от поставщиков
Одной из скрытых опасностей внедрения ИИ в безопасность является рост зависимости от поставщиков. Многие компании консолидируют функции в платформах, которые не были разработаны для автономной работы в условиях машинной скорости. Это создаёт уязвимости, которые злоумышленники могут использовать. Например, OpenAI обвинила китайскую компанию DeepSeek в использовании метода дистилляции для ускорения развития её моделей искусственного интеллекта. Согласно письму, направленному в комиссию Палаты представителей США по Китаю, DeepSeek, возможно, обучала свою модель на выходных данных американских ИИ-систем, включая собственные разработки OpenAI. Такие действия ставят под угрозу конкурентоспособность американских разработчиков и поднимают вопросы в контексте соблюдения прав интеллектуальной собственности [!].
Важный нюанс: Когда бизнес консолидирует функции в сторонних платформах, он рискует потерять контроль над критически важными процессами. Это делает его уязвимым не только для атак, но и для сбоев, которые могут быть вызваны внешними факторами.
Стратегия на будущее: от функций к результатам
В условиях роста скорости атак и повышения роли ИИ, бизнесу нужно перестроить подход к управлению рисками. Это не только вопрос обновления технологий — это смена парадигмы. Команды безопасности должны перестать фокусироваться только на функциях и начать работать вокруг результатов.
Это означает, что:
- Автоматизация должна быть не только возможной, но стратегически обоснованной.
- Человеческое суждение должно оставаться ключевым элементом, особенно в условиях неопределённости.
- Ответственность должна быть чётко распределена и понятна всем участникам, включая ИИ-агентов.
Важный нюанс: В будущем безопасность станет не отделом, а процессом, встроенным в бизнес-процессы и управляемым на скорости машин. Тех, кто начнёт это понимать сегодня, ждёт преимущество в борьбе с угрозами, которые уже действуют на уровне ИИ.
Риски утечек данных и дистилляционных атак
Рост мощности и доступности открытых ИИ-моделей создаёт угрозу утечки интеллектуальной собственности через дистилляционные атаки, позволяющие копировать функционал закрытых систем без доступа к их данным. Это ставит под вопрос конкурентное преимущество компаний, инвестирующих миллионы в разработку уникальных алгоритмов, и меняет фундамент кибербезопасности в эпоху ИИ. Защита включает ограничение запросов, добавление шума в ответы, водяные знаки и юридические меры [!].
Выводы и рекомендации
Для минимизации рисков ключевым становится аудит текущих решений и оценка того, как быстро организация сможет адаптироваться к изменениям. Вопросы, которые должны задавать руководители, включают:
- Как быстро будет повреждена выручка, доверие или безопасность, если поставщик перестанет работать?
- Какие возможности есть для автоматизации и как они соответствуют скорости действий злоумышленников?
Ответы на эти вопросы позволяют сформировать более устойчивую стратегию, где защита превращается из реактивного элемента в активную составляющую бизнес-процессов.
Источник: helpnetsecurity.com
