Чат-боты становятся каналами для кибератак: данные и команды скрываются в обычном трафике

По данным Digital Trends, исследователи из Check Point Research продемонстрировали, как чат-боты, способные просматривать веб-страницы, могут быть использованы в качестве каналов связи для вредоносного ПО. Вместо того, чтобы обращаться к традиционному серверу команд и управления, вредоносная программа может использовать URL-запросы чат-бота для получения инструкций с вредоносной страницы, а затем возвращать ответы на заражённое устройство.

В современных корпоративных средах трафик, направляемый на крупные платформы искусственного интеллекта, часто воспринимается как обычный. Это позволяет каналам команд и управления скрываться в фоновом веб-трафике. Такой подход может быть использован не только для получения команд, но и для выгрузки данных с инфицированной системы.

Механизм атаки: чат-бот становится ретранслятором

Демонстрация, проведённая исследователями, основана на простом принципе. Вредоносная программа запрашивает у интерфейса чат-бота загрузку определённого URL, просит его обработать и вернуть краткое содержание. Затем вредоносный код анализирует возвращённый текст, чтобы извлечь из него встроенные инструкции.

Check Point проверила этот метод на практике, используя веб-интерфейсы Grok и Microsoft Copilot. Основное отличие заключается в том, что атакующие не используют API-ключи, что снижает порог для злоумышленников. В тестовых сценариях доступ к чат-ботам возможен без авторизации, что делает их уязвимыми для эксплуатации.

Для кражи данных злоумышленники могут использовать обратный путь. В одном из описанных методов данные помещаются в параметры URL, а затем передаются через запрос, инициированный чат-ботом, на инфраструктуру атакующих. Применение базового кодирования позволяет дополнительно скрыть передаваемую информацию, что делает её менее заметной для простых систем фильтрации.

Почему угроза трудно обнаруживается

Это не новая форма вредоносного ПО, а известный паттерн, маскирующийся под легитимный сервис. Если функции браузера в чат-ботах остаются включёнными по умолчанию, инфицированная система может использовать домены, которые выглядят безопасными. Это делает атаку трудноразличимой от обычного поведения приложения.

Check Point также обратила внимание на то, насколько распространённая инфраструктура позволяет реализовать подобные сценарии. В демонстрации использовался WebView2, встроенный веб-компонент современных систем Windows. В описанном процессе программа собирает базовые данные о хосте, запускает скрытый веб-просмотр на сервисе ИИ, инициирует запрос и анализирует ответ, чтобы извлечь следующую команду. Такое поведение может выглядеть как обычное взаимодействие приложения с пользователем, а не как сигнал о компрометации.

Рекомендации для специалистов по безопасности

Специалисты по кибербезопасности должны рассматривать чат-боты с функцией поиска в интернете как любые другие облачные приложения, которые могут быть использованы после компрометации. Если такие инструменты разрешены, важно отслеживать автоматизированные паттерны, частые загрузки URL, необычные частоты запросов или объёмы трафика, не соответствующие поведению человека.

Функции браузера в чат-ботах могут быть ограничены на управляемых устройствах и определённых ролях, а не на каждом компьютере. Открытый вопрос — масштаб проблемы. Пока что это демонстрация, и нет данных о её успешности в условиях защищённых корпоративных сред. Следующим этапом станет наблюдение за тем, будут ли поставщики усиливать обнаружение автоматизации в веб-чатах, а также за тем, как защитные команды начнут рассматривать такие сервисы как потенциальные каналы связи после компрометации.

i

Создано специально для ASECTOR

Концептуальное изображение

Какие шаги предпринять для снижения рисков

Для минимизации рисков ключевым становится аудит текущих политик по использованию ИИ-сервисов, включая функции браузера. Следует настроить мониторинг за необычными запросами к чат-ботам, особенно в сценариях, где наблюдается высокая автоматизация. Также важно ограничить доступ к таким сервисам только для устройств, где это действительно необходимо.

Поставщики ИИ-сервисов могут рассмотреть внедрение механизмов, позволяющих различать запросы, автоматизированные и инициированные людьми. Это повысит общий уровень безопасности и снизит вероятность злоупотребления функциями чат-бота.

Угроза безопасности: как чат-боты становятся инструментом киберпреступности

Уязвимость в удобстве

Чат-боты, оснащённые функцией поиска в интернете, приносят значительное удобство, но в то же время создают новые точки входа для злоумышленников. Вредоносное ПО может использовать такие сервисы как канал связи, чтобы получать команды и передавать данные, маскируясь под легитимный трафик. Это делает атаки труднообнаружимыми, особенно в корпоративных средах, где ИИ-сервисы уже воспринимаются как безопасные.

Исследования показывают, что злоумышленники могут инициировать запросы к чат-ботам, чтобы загрузить вредоносные URL, обработать их и извлечь команды из возвращённого текста. Такой подход не требует API-ключей или авторизации, что снижает порог входа для атакующих. Это особенно критично для сервисов вроде Microsoft Copilot, которые активно используются в корпоративной среде [!].

Новые векторы атаки

Тестирование, проведённое исследовательскими группами, продемонстрировало, что функция поиска в чат-ботах может быть использована для маскировки вредоносной активности. Например, данные могут быть переданы через параметры URL, а затем обработаны и отправлены на сторонние серверы. Такой метод позволяет обойти фильтры, ориентированные на поиск вредоносного содержимого, а не на анализ паттернов трафика.

Важный нюанс: Модель Grok 4, использованная в одном из сценариев атаки, показала слабые результаты в тесте на точность ИИ, набрав всего 54% правильных ответов. Это может быть одной из причин, почему злоумышленники могут манипулировать её ответами и использовать её как вектор атаки [!].

Угроза маскируется под повседневность

Трафик, направляемый на крупные ИИ-платформы, часто воспринимается как обычный, что создаёт идеальные условия для скрытой передачи данных. В демонстрации, проведённой исследователями, использовался WebView2 — встроенный веб-компонент Windows, который позволяет программе собирать данные о хосте, запускать скрытый веб-просмотр и инициировать запросы. Такое поведение может выглядеть как обычное взаимодействие приложения с пользователем, а не как сигнал о компрометации.

В условиях роста популярности агентного ИИ, который может действовать от имени пользователя, такие уязвимости становятся особенно опасными. Например, Microsoft Copilot, встроенный в продукты компании, уже используется для автоматизации задач, но его активное внедрение в корпоративные процессы сопровождается ростом рисков утечек данных [!].

Ключевые уязвимости

• Отсутствие авторизации: Атакующие не нуждаются в API-ключах или авторизации, чтобы использовать функцию поиска в чат-ботах.
• Маскировка трафика: Вредоносная активность может быть скрыта под легитимным трафиком, что затрудняет её обнаружение.
• Низкая точность ИИ-моделей: Некоторые модели, такие как Grok 4, показывают слабые результаты в тестах на точность, что делает их уязвимыми для манипуляций [!].
• Рост теневых ИИ-приложений: Внедрение чат-ботов в корпоративные процессы привело к увеличению числа неутверждённых приложений, которые могут содержать уязвимости [!].

Что дальше: меры защиты и перспективы

Для минимизации рисков важно пересмотреть подходы к мониторингу трафика и настройке политик по использованию ИИ-сервисов. Специалисты по безопасности должны отслеживать автоматизированные паттерны, частые загрузки URL и необычные объёмы трафика, которые могут указывать на компрометацию системы.

Поставщики ИИ-сервисов, в свою очередь, должны внедрять механизмы, позволяющие отличать запросы, инициированные человеком, от автоматизированных. Это может включать анализ поведения, частоты запросов и паттернов трафика. Также важно ограничивать доступ к функции поиска в чат-ботах, особенно в корпоративных средах, где безопасность имеет приоритет над удобством.

Важный нюанс: Для бизнеса ключевым остаётся аудит текущих политик и настройка систем мониторинга. Утечка данных или компрометация системы могут привести к серьёзным последствиям, включая финансовые потери и утрату доверия клиентов. В условиях быстро меняющейся угрозы важно не только реагировать на известные риски, но и предвосхищать новые векторы атак, связанные с развитием ИИ-технологий.