Управление рисками
Управление рисками в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Упоминается вместе:
Календарь упоминаний:
Управление рисками ИИ-агентов переходит к инженерным методам контроля вместо полагания на промпты
NVIDIA предлагает рассматривать безопасность искусственного интеллекта как строгую инженерную задачу, требующую применения проверенных методов разработки ПО. По мере интеграции агентов в корпоративные процессы компании сталкиваются с тем, что стремление к продуктивности опережает зрелость практик управления рисками. Для устранения этого разрыва необходимо внедрение принудительных технических ограничений на каждом уровне архитектуры — от модели до инфраструктуры выполнения команд.
Событие: NVIDIA представила open-source среду выполнения OpenShell, которая накладывает политики безопасности вне зоны досягаемости самого ИИ-агента, обеспечивая изолированное выполнение команд и контроль доступа к ресурсам.
Фактор: Сетевые политики и разделение полномочий действуют как принудительные барьеры, блокирующие передачу данных в несанкционированные адреса даже при наличии вредоносных инструкций в контексте модели.
Риск: Ключевой угрозой является не утечка базы данных целиком, а точечный автоматизированный вывод конфиденциальной информации через легальные, но неправильно настроенные каналы связи агента.
Эффект: Внедрение ИИ-агентов смещает фокус защиты с «данных в покое» на контроль «данных в движении» и логики принятия решений, требуя внедрения семантического логирования вызовов инструментов.
Обнаружение угроз вынуждено сместить фокус с сигнатурного анализа на поведенческий мониторинг из-за использования легитимных инструментов группой NightEagle
Группа кибершпионов NightEagle (APT-Q-95) впервые атаковала российские производственные и строительные предприятия, используя легитимные инструменты разработки для маскировки. Злоумышленники внедряли вредоносный код в оперативную память серверов Microsoft Exchange через скомпрометированные учётные записи VPN, что делает традиционные методы защиты неэффективными. Обнаружение угроз сталкивается с необходимостью выявления аномалий в поведении пользователей и сетевом трафике, так как стандартные антивирусы не способны распознать вредоносную активность, замаскированную под рутинную работу разработчиков через GitHub и туннели Microsoft.
Событие: Эксперты «Лаборатории Касперского» зафиксировали первую атаку группы NightEagle на российские предприятия в секторах производства и строительства, что подтверждает расширение географии деятельности APT-Q-95 за пределы Азии.
Риск: Внедрение вредоносного кода непосредственно в оперативную память серверов затрудняет его обнаружение на диске, позволяя злоумышленникам сохранять полный контроль над ИТ-инфраструктурой без срабатывания стандартных систем защиты.
Фактор: Использование легитимных инструментов разработки (GitHub, туннели Microsoft) для перемещения по сети делает традиционные методы блокировки портов и IP-адресов неэффективными, вынуждая бизнес инвестировать в сложные системы анализа поведения пользователей (UEBA).
Эффект: Необходимость постоянного мониторинга сетевых аномалий и проверки устаревших систем увеличивает операционные затраты на кибербезопасность, при этом компании, игнорирующие обновление ПО годами, остаются наиболее уязвимыми для подобных целевых вторжений.
Риск утечки ИИ-технологий в целях массового наблюдения
Анализ угроз показал, что злоумышленники использовали ChatGPT для подготовки инструментов массового наблюдения, включая разработку рекламных материалов и проектной документации. Один из пользователей, предположительно из Китая, запрашивал модель создать систему мониторинга социальных сетей для поиска экстремистского контента и информации о политических, этнических и религиозных группах. Анализ угроз помог выявить, что такие запросы не включали непосредственное участие в реализации инструментов, но всё равно представляли риск их дальнейшего применения.
В нашей базе собрано 34 события по теме «Управление рисками». Мы показываем все из них.
Объединили похожие карточки: Управление рисками; Планирование и управление рисками на стратегическом уровне; Предотвращение негативных последствий рисков и другие.