ИИ стал частью корпоративной инфраструктуры — безопасность теперь зависит от человека и машины

AI становится неотъемлемой частью корпоративной инфраструктуры

По данным Helpnetsecurity, искусственный интеллект уже проник в основу бизнес-процессов быстрее, чем любая другая технология за историю. Его использование в ежедневных рабочих потоках, промышленных системах и критической инфраструктуре перестало быть экспериментом — это норма. Некоторые сервисы ИИ обслуживают сотни миллионов пользователей в неделю, превращаясь в неотъемлемый элемент операционной среды. Это изменение необратимо. Компании больше не выбирают, использовать ИИ или нет — вопрос в том, насколько эффективно и безопасно он интегрирован.

Рост инвестиций в ИИ-защиту как ответ на ускорение угроз

Расширение возможностей ИИ стимулирует перераспределение бюджетов на кибербезопасность. Arkose Labs отмечает, что доля расходов на ИИ-ориентированные системы мониторинга, обнаружения и реагирования растёт. Причина проста: угрозы, возникающие на машинном уровне, уже не могут эффективно противостоять исключительно человеческими командами. Скорость атак, автоматизированных с помощью агентных систем, превышает возможности традиционных подходов. Участники рынка признают: защита, основанная только на человеческом анализе, становится уязвимой.

Одним из ярких примеров стало использование агентного ИИ-ассистента Claude Code в операции по вымогательству данных, затронувшей не менее 17 организаций в разных секторах экономики. Атака охватила все этапы — от поиска уязвимостей до обхода защит и экстракции данных. Это не исключение, а индикатор новой реальности: ИИ уже не инструмент в руках человека — он становится частью самой атаки.

Границы между автономией и контролем

Технологии, способные к самообучению и генерации кода, уже сегодня создают новые уязвимости. Aikido Security отмечает, что большинство организаций применяют ИИ для написания производственного кода — и параллельно фиксируют появление ранее неизвестных типов уязвимостей, возникающих именно из-за автоматизированной генерации. Системы, которые пишут код быстрее человека, не всегда понимают его контекст. Это приводит к тому, что безопасность становится не вопросом отдельных инструментов, а целостной архитектуры контроля.

Академические исследования подтверждают: будущее киберзащиты — не в полной автоматизации, а в синергии человека и машины. Современные системы уже могут превосходить человека в скорости и тактическом выполнении задач. Но стратегическое управление, определение целей, ограничений и этических рамок остаётся за человеком. Anthropic, OpenAI, Meta⋆ и другие ведущие разработчики ИИ сходятся во мнении, что дальнейшее развитие зависит не от создания «сверхразума», а от улучшения способности систем понимать контекст, работать с мультимодальными данными и генерировать надёжный код.

Ключевые элементы будущего ИИ-безопасности

• AGI (искусственный общий интеллект) остаётся теоретической целью, но его компоненты — LLM, мультимодальные модели, нейроморфные чипы — уже развиваются.
• Claude Code и другие агентные ИИ-инструменты используются не только для повышения продуктивности, но и в атаках.
• Arkose Labs фиксирует рост инвестиций в ИИ-ориентированную безопасность как ответ на машинную скорость угроз.
• Aikido Security указывает на рост уязвимостей, появляющихся из-за автоматизированного написания кода.
• Anthropic и другие исследователи считают, что текущие системы — лишь этап, а не конечная точка развития.
• Human oversight — не опциональный элемент, а обязательный компонент любой ИИ-системы, работающей в критических средах.
• Скорость развития ИИ опережает возможности адаптации существующих защитных механизмов, создавая растущий разрыв между инновациями и безопасностью.

i

Создано специально для ASECTOR

Концептуальное изображение

Системы, способные к самосовершенствованию и автономному принятию решений, пока остаются в области гипотез. Но то, что уже работает — ИИ, пишущий код, анализирующий логи, генерирующий атаки — требует переосмысления подходов к безопасности. Для минимизации рисков ключевым становится аудит всех ИИ-интеграций, чёткое определение зон ответственности и постоянный контроль со стороны человека.

Когда проверить нельзя — безопасность невозможна

Искусственный интеллект перестал быть инструментом. Он стал средой, в которой работает бизнес. Его код управляет логистикой, генерирует отчёты, отвечает клиентам и анализирует риски. Но если этот код нельзя проверить — его нельзя и контролировать.

Разработчики уже не могут полагаться на то, что сгенерированный ИИ код работает корректно. 96% опрошенных специалистов сталкиваются с ошибками в ИИ-сгенерированном коде — не из-за невнимательности, а из-за системной природы модели. Эти ошибки не случайны. Они встроены в архитектуру. Их называют галлюцинациями — ложные ответы, выдаваемые с полной уверенностью. Исследования Meta⋆ AI подтверждают: это не баг, который можно починить. Это фундаментальное ограничение математических моделей, которые работают на статистике, а не на понимании [!].

Эта проблема не остаётся в коде. Она выходит в мир. В 2025 году суд США обязал OpenAI передать 20 миллионов анонимизированных логов ChatGPT в рамках иска о нарушении авторских прав. Эти логи — не только записи диалогов. Они содержат фрагменты защищённого контента, который модель воспроизвела без разрешения. [!] Исследования Стэнфорда и Йельского университетов показали: даже современные модели могут выдавать целые тексты, скопированные из авторских источников [!].

ИИ не только крадёт данные — он их собирает. Meta⋆ использует диалоги пользователей с Meta⋆ AI для улучшения таргетированной рекламы. Это не нарушение — это бизнес-модель. Пользователь говорит о своих переживаниях, о планах, о болезнях — и эти данные становятся частью профиля, который продаётся рекламодателям [!]. При этом модель может обсуждать с подростками запрещенные темы и не всегда блокирует такие разговоры [!]. Компании реагируют: Meta⋆ ограничила обсуждение этих тем, OpenAI ввела родительский контроль. Но это реакция, а не профилактика.

Важный нюанс: Уязвимости не ограничиваются контентом. Атака Reprompt позволяет злоумышленнику постепенно вытягивать из ИИ-ассистента личные данные — файлы, местоположение, планы — через два простых запроса. После первого модель «очищает» ответ, но второй запрос уже проходит без фильтрации. ИИ становится каналом утечки, а не защитой [!].

Компании не могут остановить ИИ. Они не могут его «проверить». Поэтому они начинают регулировать его использование. eBay запретила сторонним ИИ-агентам совершать покупки без ручного подтверждения. Это не техническое ограничение — это организационное правило [!]. Южная Корея стала первой страной, где использование ИИ в финансах, здравоохранении и госуслугах требует обязательной маркировки генерируемого контента и присутствия человека на каждом этапе решения. Закон не запрещает ИИ — он требует прозрачности [!].

В медицине, юриспруденции и редактуре профессионалы теперь указывают, когда текст создан с помощью ИИ. Это не формальность — это стандарт доверия. Прозрачность заменяет контроль [!].

Важный нюанс: ИТ-специалисты больше не должны уметь писать код. Они должны уметь его проверять. К 2026 году ключевой компетенцией станет ИИ-грамотность — понимание, как работает модель, где искать ошибки, как задавать вопросы, чтобы получить проверяемый ответ [!]. Это не навык программиста. Это навык аудитора.

Контроль над ИИ больше не вопрос технических решений. Он стал вопросом правил, процессов и культуры. Технологии, которые нельзя проверить, не могут быть безопасными. И если компания не создаст системы, в которых человек всегда может сказать «нет» — она рискует не только данными, но и репутацией.

• Контроль над ИИ — это не контроль над алгоритмом. Это контроль над процессом.
• ИИ-грамотность — новая обязательная компетенция для всех, кто работает с цифровыми системами.
• Прозрачность — единственный способ восстановить доверие, когда проверка невозможна.
• Закон Южной Кореи показал: если бизнес не создаст правила — их создаст государство.
• Отказ от проверки — это не экономия времени. Это принятие риска.