Теневой искусственный интеллект
Теневой искусственный интеллект в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Упоминается вместе:
Календарь упоминаний:
Рост неконтролируемого «Теневого ИИ» из-за неэффективности запретов в российском бизнесе
Исследование: Совместный анализ «Лаборатории Касперского» и К2 Кибербезопасность за январь–апрель 2026 года выявил, что 61% компаний стремятся контролировать использование ИИ, но лишь 29% внедрили действенные политики безопасности.
Суть: Сотрудники самостоятельно внедряют чат-боты и агенты для повышения продуктивности, создавая «Теневой ИИ», который остается вне контроля ИТ- и ИБ-департаментов из-за технических сложностей мониторинга.
Риск: Попытки запретить доступ к внешним сервисам не устраняют угрозу, а перемещают использование «Теневого ИИ» в неконтролируемую зону, где данные передаются публичным моделям без должной защиты.
Фактор: Низкая доля полных блокировок (24%) свидетельствует о том, что бизнес осознал неэффективность запретительных мер и вынужден сталкиваться с фактом неконтролируемого внедрения технологий персоналом.
Теневой ИИ как источник критических финансовых потерь
Каждая пятая организация сталкивается с использованием неавторизованных инструментов сотрудниками без контроля службы безопасности, что классифицируется как теневой ИИ. В 2025 году 63% работников передавали конфиденциальную информацию в личные чат-боты, создавая скрытые потоки данных, о которых 86% компаний не имеют представления. Ущерб от таких инцидентов в среднем превышает затраты на стандартные кибератаки на $670 000 из-за задержек в обнаружении и сложности оценки масштаба утечки.
Рост угрозы из-за теневого ИИ
Теневые ИИ-агенты возникают, когда внедрение ИИ опережает меры безопасности, что приводит к потере контроля над их деятельностью. Такие агенты уже имеют легитимный доступ, что делает их уязвимыми для захвата злоумышленниками. Примером является атака методом memory poisoning, при которой контекст агента модифицируется для изменения его будущих ответов. Эти атаки могут оставаться незамеченными, так как выглядят как обычное поведение. Microsoft рекомендует централизованное управление агентами и прозрачность их работы для снижения рисков.
Рост рисков из-за несанкционированных агентов ИИ
Теневой ИИ представляет собой агентов искусственного интеллекта, созданных сотрудниками без одобрения ИТ-отдела. Такие агенты часто используют личные аккаунты в популярных сервисах и имеют доступ к корпоративным ресурсам, что делает их потенциальным источником утечек данных и атак. Они могут быть заражены или использованы злоумышленниками для вредоносных действий. Рост числа таких агентов усложняет контроль доступа и требует новых методов идентификации и мониторинга.
В нашей базе собрано 4 события по теме «Теневой искусственный интеллект». Мы показываем все из них.
Объединили похожие карточки: Теневой искусственный интеллект; «Теневой GenAI»; Теневой ИИ и другие.