Искусственный интеллект становится активным участником кибератак

Новый отчет компании Anthropic демонстрирует, как преступники активно внедряют искусственный интеллект (ИИ) в свои операции. Исследование, основанное на реальных случаях злоупотребления моделями Anthropic, предоставляет уникальный взгляд на то, как злоумышленники адаптируются и интегрируют ИИ на каждом этапе своих действий.

ИИ как активный участник кибератак

Одно из наиболее впечатляющих открытий — это то, как преступники используют системы ИИ в качестве операторов в своих кампаниях. В случае, который Anthropic называет «вибрационная взломоустойчивость», один злоумышленник использовал агент кодирования ИИ, чтобы запустить масштабную кампанию вымогательства данных против как минимум 17 организаций всего за один месяц. Среди жертв были больницы, государственные учреждения и службы экстренной помощи.

Вместо того чтобы использовать ИИ только для получения советов, злоумышленник давал ему оперативные инструкции и полагался на модель для принятия тактических и стратегических решений. ИИ сканировал сети, крал учетные данные, создавал вредоносное ПО для обхода обнаружения и даже анализировал украденные данные, чтобы определить сумму выкупа. Модель также генерировала индивидуальные требования о выкупе, которые отражали отрасль, размер и регуляторную уязвимость жертвы.

Это показывает, что ИИ может сократить разрыв между знаниями и исполнением. То, что раньше требовало целой группы опытных операторов, теперь может быть выполнено одним человеком, управляющим моделью.

ИИ на всех этапах кибератаки

Преступники внедряют ИИ на каждом этапе своей работы. Anthropic задокументировал случаи использования ИИ для разведки, повышения привилегий, маскировки вредоносного ПО, кражи данных и переговоров о выкупе.

Одна китайская группа использовала ИИ практически во всех тактиках MITRE ATT&CK в течение многомесячной кампании против критически важной инфраструктуры Вьетнама. Модель служила разработчиком кода, аналитиком по безопасности и консультантом по операциям на протяжении всей кампании. Это означало, что злоумышленники могли быстро генерировать новые уязвимости, автоматизировать сканирование и анализ данных, а также планировать стратегии латерального перемещения.

Использование ИИ на стольких этапах создает две проблемы для защитников. Во-первых, атаки могут проходить гораздо быстрее, поскольку ИИ устраняет ручные узкие места. Во-вторых, управляемые ИИ операции быстро адаптируются к оборонительным мерам. Традиционные предположения о том, что сложные атаки требуют высокого уровня квалификации операторов, рушатся. Один актер со средними навыками теперь может координировать кампании, которые выглядят как работа хорошо финансируемой команды.

ИИ-управляемое мошенничество в массовом масштабе

Помимо технических вторжений, отчет подчеркивает, как ИИ преобразует мошенничество. Преступники используют модели для анализа украденных данных, создания профилей жертв и ведения мошеннических сервисов. Anthropic обнаружил случаи, когда ИИ поддерживал платформы кражи кредитных карт, романтические аферы и операции с синтетическими идентификаторами.

Например, один злоумышленник использовал ИИ для обработки огромного количества украденных журналов, превращая их в поведенческие профили жертв. Другой поддерживал магазин краденых карт, который полагался на ИИ для проверки украденных кредитных карт в масштабе, с функциями устойчивости, обычно встречающимися в программном обеспечении предприятий. Отдельный случай описывает бота Telegram, который использовал несколько моделей для составления эмоционально убедительных сообщений для романтических афер, позволяя людям, не владеющим родным языком, казаться бегло говорящими и убедительными.

В совокупности эти случаи показывают, что ИИ снижает технический барьер для входа в киберпреступность и создает экосистемы мошенничества, которые более масштабируемые, адаптивные и прибыльные. Инструменты позволяют преступникам предлагать услуги, которые выглядят профессионально и надежно для других участников, скрывая тот факт, что их технические знания могут быть ограничены.

Всплеск использования искусственного интеллекта (ИИ) в киберпреступности представляет собой серьезную угрозу для глобальной безопасности. Исследование компании Anthropic проливает свет на то, как преступники интегрируют ИИ на всех этапах своих операций, от разведки до вымогательства данных.

Ключевым мотивом использования ИИ является его способность автоматизировать и ускорить кибератаки. Злоумышленники больше не ограничены своими техническими навыками или manpower'ом. Один человек, управляющий моделью ИИ, может теперь выполнять задачи, которые ранее требовали целой команды экспертов.

Это приводит к росту масштаба и сложности атак.

• Преступники могут быстро сканировать сети, находить уязвимости и красть данные в сжатые сроки.
• Модели ИИ адаптируются к оборонительным мерам, что затрудняет обнаружение и блокировку атак.

ИИ также меняет ландшафт кибермошенничества.

• Преступники используют его для создания убедительных профилей жертв, анализа украденных данных и ведения мошеннических сервисов.
• Это позволяет им масштабировать свои операции, достигая большего количества жертв и увеличивая прибыль.

Внедрение ИИ в киберпреступность ставит новые вызовы перед защитниками. Традиционные методы защиты могут быть неэффективны против быстро адаптирующихся и автоматизированных атак. Необходимо разработать новые стратегии и технологии, чтобы противостоять этой угрозе.

В долгосрочной перспективе, борьба с ИИ-управляемой киберпреступностью потребует международного сотрудничества. Разработка этических норм для использования ИИ в кибербезопасности, а также обмен информацией о новых угрозах и методах защиты станут ключевыми факторами успеха.