Google обнаружил вирус на ИИ: он учится и обходит защиту

По данным Digital Trends, группа по разведке угроз Google (Google Threat Intelligence Group, GTIG) выявила новую разновидность вредоносного ПО, которая представляет собой серьёзную угрозу для современной кибербезопасности. Новому вирусу было присвоено название PROMPTFLUX.

Угроза нового поколения

Этот вредоносный код использует ИИ, на котором, в том числе, основаны такие технологии, как Google Gemini, чтобы в реальном времени изменять свою структуру. В отличие от традиционных вирусов, PROMPTFLUX не действует по жёстко заданному сценарию. Он способен обучаться и адаптироваться, создавая новые методы атаки по мере их применения.

Такой подход делает его особенно опасным, поскольку он может обходить системы обнаружения, основанные на распознавании цифровых «отпечатков пальцев» — так называемых сигнатур вирусов. Если вредоносная программа способна менять свою сигнатуру каждую секунду, традиционные методы защиты теряют эффективность.

Что известно о происхождении и текущем состоянии

На данный момент, по информации GTIG, PROMPTFLUX находится в тестовой фазе. В образцах, найденных исследователями, были выявлены незавершённые элементы, что позволяет предположить, что он ещё не используется в реальных атаках. Однако, чтобы минимизировать риски, Google уже заблокировала активы и учётные записи, связанные с этим вредоносным ПО.

Рост угроз и ответные меры

Внедрение ИИ в создание вредоносных программ открывает новую главу в кибервойне. Если раньше защита строилась на предсказуемости угроз, то теперь она должна учитывать их способность к самостоятельной эволюции. Это ставит под сомнение эффективность существующих систем безопасности и требует новых подходов.

В ответ на эти риски Google разрабатывает новую систему безопасности, ориентированную именно на защиту ИИ-моделей. Одной из ключевых разработок стало создание анти-ИИ-инструментов, включая программу под названием Big Sleep, которая предназначена для поиска и устранения уязвимостей до того, как они могут быть использованы в атаках.

Интересно: Сможет ли традиционная кибербезопасность, ориентированная на статические сигнатуры, противостоять угрозам, которые способны к постоянной адаптации и изменению?

i

Создано специально для ASECTOR

Концептуальное изображение

Кибербезопасность в эпоху адаптивных угроз

Открытие новой вредоносной программы PROMPTFLUX, использующей ИИ для постоянной трансформации, ставит перед кибербезопасностью задачу, с которой она сталкивается впервые. В отличие от традиционных вирусов, которые следуют заранее заданным сценариям, PROMPTFLUX может изменять свою структуру в реальном времени, обходя системы обнаружения. Это означает, что защита, построенная на анализе сигнатур, становится уязвимой.

Новые правила игры

Такие угрозы требуют фундаментального пересмотра подходов к защите. В прошлом эффективность кибербезопасности зависела от скорости обновления баз сигнатур и способности систем обнаруживать известные модели атак. Теперь же, когда вредоносный код может обучаться и адаптироваться, защита должна уметь предсказывать и предотвращать неизвестные угрозы.

Разработка Google в виде анти-ИИ-инструментов, таких как Big Sleep, демонстрирует, как начинает формироваться новая парадигма: защита, которая сама использует ИИ для предотвращения атак. Это не только реакция на новую угрозу — это сдвиг в стратегии, где ИИ становится не только оружием, но и щитом.

Важный нюанс: PROMPTFLUX — это не только вирус, а индикатор нового этапа в кибервойне, где победу одерживает сторона, способная быстрее адаптироваться к изменяющимся угрозам.

Скрытые игроки и системные последствия

Создание PROMPTFLUX указывает на то, что за этим стоит не случайный хакер, а организованная группа, обладающая знаниями в области ИИ. Такие угрозы могут быть частью более широкой стратегии, направленной на тестирование уязвимостей в системах, защищенных современными технологиями. Если подобные вредоносные программы станут частью реальных атак, это может повлиять на доверие к ИИ-технологиям, особенно в бизнесе и государственных структурах.

Важно понимать, что ИИ — это не только инструмент для создания угроз, но и средство их обнаружения. Компании, которые смогут эффективно использовать ИИ для прогнозирования атак, получат значительное преимущество. Это создаёт новый рынок, где ключевыми игроками станут не только производители ПО, но и разработчики алгоритмов безопасности.

Важный нюанс: В борьбе с PROMPTFLUX и подобными угрозами победа будет зависеть не от масштаба, а от скорости — способности быстро адаптироваться и предотвращать атаки, которые ещё не случились.

Расширяющийся спектр угроз

Современные киберпреступники уже начали применять ИИ-модели в реальных атаках, создавая инструменты, способные адаптироваться и менять поведение в процессе работы. Среди таких инструментов — QuietVault, PromptSteal, FruitShell, PromptLock и, конечно, PROMPTFLUX. Эти программы используют ИИ для кражи данных, генерации вредоносных команд и обхода систем безопасности. Это указывает на переход от экспериментального использования ИИ к его интеграции в кибератаки, что усложняет их обнаружение и предотвращение [!].

Рост спроса на услуги брокеров первоначального доступа также свидетельствует о развитии модели Cybercrime-as-a-Service. Эта модель позволяет даже участникам с базовыми навыками участвовать в сложных атаках, используя готовые инструменты и доступы. Большинство атак основываются на украденных учетных данных или известных уязвимостях, что делает их предотвращение возможным при соблюдении базовых мер безопасности. Рынок первоначального доступа оценивается в $9–10 млн, с ценой одного доступа от $500 до $1,5 тыс. [!].

Новые вызовы для бизнеса

Для компаний, особенно тех, кто активно внедряет ИИ в производственные процессы, эти угрозы становятся критически важными. Рост внедрения искусственного интеллекта в разработку программного обеспечения сопровождается увеличением рисков для безопасности и качества создаваемых решений. Исследования показывают, что использование ИИ снижает когнитивную активность пользователей, ухудшает воспроизведение информации и повышает вероятность киберинцидентов. Это требует пересмотра подходов к обучению и защите в сфере разработки ПО [!].

В условиях роста атак с применением ИИ, позволяющих создавать более убедительные фишинговые материалы, многие работники не могут отличить текст, сгенерированный ИИ, от написанного человеком. Это подчеркивает необходимость укрепления кибербезопасности, особенно в части аутентификации и обучения сотрудников [!].

Перспективы и решения

Рост уязвимостей из-за смешения масштаба и скрытности атак требует новых инструментов и подходов к мониторингу. Злоумышленники всё чаще сочетают массовые атаки с высокотехнологичными методами, что усложняет защиту сетей. Использование ИИ позволяет создавать более убедительные атаки и ускоряет обнаружение угроз, но не заменяет опыт киберспециалистов [!].

Для минимизации рисков ключевым становится аудит систем безопасности, особенно в части ИИ-моделей. Профессионалам необходимо понимать алгоритмы машинного обучения и уметь выявлять уязвимости в ИИ-моделях. Аудит таких систем помогает защититься от как внешних, так и внутренних угроз. Востребованы также навыки в области data science для моделирования угроз и тестирования защитных мер [!].

Важный нюанс: В условиях роста угроз и сложности атак, кибербезопасность становится не только функцией ИТ-отдела, а стратегическим элементом бизнес-планирования.