GenAI становится угрозой для конфиденциальных данных компаний
Исследование показывает, что генеративный искусственный интеллект становится фактором риска для безопасности корпоративных данных, особенно в условиях роста неструктурированной информации, множественных дубликатов и необоснованного обмена файлами. В компаниях отмечено значительное количество конфиденциальных записей, переданных внешним адресатам, а также распространение данных среди лиц, которым доступ не нужен, что повышает вероятность утечек.
По данным исследования, проведенного компанией Concentric AI, генеративный искусственный интеллект (GenAI) становится новым фактором риска для безопасности корпоративных данных. Особенно остро проблема выглядит в контексте увеличения объемов неструктурированной информации, множественных дубликатов и необоснованного обмена файлами между сотрудниками и внешними лицами.
Рост уязвимостей при использовании GenAI
Анализ показывает, что инструменты вроде Microsoft Copilot в среднем обрабатывают почти три миллиона конфиденциальных записей на организацию в первом полугодии 2025 года. В рамках исследования выявлено более 3000 взаимодействий пользователей с этим инструментом, что повышает вероятность непреднамеренного раскрытия данных.
Особую тревогу вызывает «теневой» GenAI, когда сотрудники используют несанкционированные решения. Это создает риск утечек, поскольку компании могут не знать, куда утекает информация.
Проблема избыточного доступа
В исследовании отмечается, что распространение данных среди лиц, которым доступ не нужен, остается критическим. В среднем, три миллиона конфиденциальных записей на компанию были переданы внешним адресатам, что составляет более половины всех переданных файлов. В финансовой сфере доля внешнего обмена конфиденциальной информацией достигает 73%.
Особую угрозу представляют ссылки с разрешением «для всех» (Anyone links), позволяющие получить доступ без авторизации. В здравоохранении значительная часть файлов, переданных через такие ссылки, содержит конфиденциальные данные. По данным исследования, подобные утечки наблюдаются и в других отраслях.
Внутренний обмен также несет риски. В ряде компаний значительная доля переданных файлов включает конфиденциальную информацию. В розничной торговле и финансовой сфере большинство файлов, переданных через личные аккаунты, содержат данные, требующие защиты.
Увеличение объема данных и связанные с этим риски
Рост объема информации приводит к росту «информационного мусора». В среднем, организации сталкиваются с 10 миллионами дубликатов данных, причем дублирование в государственных и образовательных учреждениях превышает 30%.
Накопление устаревших записей также представляет проблему. В разных отраслях среднее количество таких записей составляет семь миллионов, а в промышленности — около четверти всех данных. Хранение устаревшей информации не только увеличивает затраты, но и затрудняет управление рисками.
Кроме того, исследование выявило значительное количество «сиротских» данных — записей без владельца, а также данных, связанных с уволенными сотрудниками или неактивными аккаунтами. В среднем, компании сталкиваются с четырьмя миллионами сиротских записей и двумя миллионами записей с неактивными пользователями. В государственном и образовательном секторах неактивные данные составляют почти 10% от общего объема.
Риски GenAI: когда ИИ становится угрозой корпоративной безопасности
Использование генеративного искусственного интеллекта в корпоративной среде открывает не только возможности, но и новые векторы угроз. Рост популярности инструментов вроде Microsoft Copilot, с одной стороны, повышает производительность, но с другой — создает уязвимости, связанные с управлением и безопасностью данных. Это особенно критично в условиях роста неструктурированных данных, избыточного доступа и увеличения числа несанкционированных решений.
Важный нюанс: Рост использования GenAI в корпоративной среде требует адаптации политики безопасности, включая мониторинг несанкционированных ИИ-инструментов и контроль за передачей данных через LLM.
Углубление угроз: ИИ в руках злоумышленников
Новые данные подтверждают, что ИИ не только используется в корпоративных целях, но и становится мощным инструментом для киберпреступников. Так, в 2025 году было зафиксировано, что злоумышленники применяют ИИ для атак в 40 раз быстрее, чем ранее. Это позволяет им быстро адаптироваться, обходить традиционные меры защиты и получать доступ к привилегированным данным. Например, в случае с компанией Jaguar Land Rover кибератака, начавшаяся 1 сентября, привела к утечке 350 ГБ конфиденциальной информации, включая исходные коды и персональные данные сотрудников.
Также стоит учитывать, что уязвимости в ИИ-системах могут быть использованы для внедрения вредоносного кода. Так, в августе 2025 года специалисты обнаружили уязвимость в чат-боте Lenovo, которая позволяла хакерам украсть cookie-файлы и получить доступ к рабочим сессиям сотрудников. Это подчеркивает, что даже корпоративные ИИ-инструменты, предназначенные для внутреннего использования, могут стать вектором атак.
Важный нюанс: Угрозы, связанные с ИИ, выходят за рамки внутреннего управления данными. Компаниям необходимо не только контролировать использование ИИ внутри, но и защищаться от его применения злоумышленниками.
Практические шаги: контроль и предотвращение
Для минимизации рисков, связанных с GenAI, эксперты рекомендуют:
- внедрять платформы, такие как Lanai, которые позволяют отслеживать ИИ-активность на уровне устройства в реальном времени;
- использовать шифрование, контроль доступа и мониторинг для защиты данных от ИИ-атак;
- проводить регулярные аудиты и обучение сотрудников, чтобы минимизировать человеческий фактор;
- внедрять автоматизированные процессы очистки данных и управления доступом, особенно в условиях роста объёмов информации.
Важный нюанс: Рост популярности GenAI требует не только адаптации внутренних политик, но и усиления общей стратегии кибербезопасности. Без комплексного подхода компании рискуют столкнуться с серьезными утечками данных и финансовыми потерями.
