ИИ-бот CHATTERBOX раскрыл схемы долгосрочного интернет-мошенничества

По данным Help Net Security, исследовательская группа из Калифорнийского университета в Сан-Диего разработала систему CHATTERBOX, которая позволяет масштабно взаимодействовать с мошенниками в интернете. Целью проекта стало изучение долгосрочных схем мошенничества, которые трудно анализировать вручную.

Взаимодействие с мошенниками на уровне диалога

Система CHATTERBOX использует синтетические персонажи, ИИ-модель для поддержания разговора и контроль со стороны людей. В ходе семинедельного эксперимента система взаимодействовала с 568 аккаунтами, собрав данные по 4 725 мошенническим профилям. Средняя продолжительность разговора составила 7,8 дней, а самый длинный — 46 дней. Почти половина всех диалогов включала более 26 сообщений, а максимальное число — 487.

Мошенники постепенно налаживают доверительные отношения, начиная с незначительных разговоров о повседневной жизни, интересах и мелких деталях. На ранних этапах они часто проверяют, является ли собеседник человеком. Например, один из фраз, зафиксированных в исследовании, звучал так: «Кстати, здесь много фейковых людей, вы настоящий человек?»

Перенос разговора на другую платформу

Уже на ранних этапах — в первых 24 сообщениях — мошенники часто пытаются перенаправить диалог на другие мессенджеры, чаще всего на WhatsApp. Это позволяет им избежать отслеживания и усилить ощущение приватности.

Введение финансового элемента

Финансовые запросы появляются значительно позже. В среднем, упоминания криптовалют, кошельков или платежных приложений появляются на 75-м сообщении. Для этого мошенники используют фотографии еды, прогулок, упоминания семьи и текущих событий, чтобы создать иллюзию близости и доверия.

Визуальный контент, особенно селфи, часто используется, чтобы усилить ощущение присутствия. В 20 % случаев мошенники запрашивали фото, и более половины таких запросов происходили именно на WhatsApp. В финальной фазе разговора мошенники показывают скриншоты криптокошельков, QR-коды и инструкции по установке сторонних приложений.

Поддержка стратегии кибербезопасности

Результаты исследования полезны для специалистов по кибербезопасности, поскольку раскрывают тактику долгосрочных атак. В отличие от более прямых схем, таких как техподдержка или выигрыши, эти мошеннические сценарии основываются на медленном построении доверия. Это требует иного подхода к выявлению угроз: необходимо отслеживать «медленные» сигналы риска, прежде чем деньги покинут аккаунт.

Масштабирование и адаптация

Исследователи отмечают, что ручное изучение таких диалогов сложно масштабировать. Система CHATTERBOX решает эту проблему, используя ИИ и вовлекая экспертов на ключевых этапах. Это позволяет получать стабильный поток данных с минимальными затратами. Авторы подчеркивают, что подобные системы в будущем могут применяться для обучения классификаторов и анализа изменений в тактике мошенников.

Однако эксперты уже зафиксировали, что мошенники начали использовать ИИ для создания голосовых записей и улучшения текста. Это указывает на необходимость адаптации методов обнаружения. В заключение отмечается, что в исследовании также нашлись доказательства, что часть этих мошеннических операций может включать принудительный труд.

Интересно: Сможет ли текущая система защиты от мошенничества, ориентированная на быстрые атаки, справиться с угрозами, которые развиваются на протяжении недель, используя доверие и эмоциональные связи?

i

Создано специально для ASECTOR

Концептуальное изображение

Как мошенники строят доверие, а ИИ помогает им изучать: следующий этап

С каждым годом схемы кибермошенничества становятся сложнее и изощреннее. Раньше хакеры действовали по типу «взлом и бег» — внезапная атака, быстрая кража данных, мгновенное исчезновение. Сегодня всё иначе: злоумышленники строят долгосрочные отношения, внедряются в жизнь жертвы и лишь позже переходят к финансовым запросам. Система CHATTERBOX, разработанная исследователями из Калифорнийского университета в Сан-Диего, позволяет изучать эти схемы в масштабе, выявляя тонкие, но критически важные детали поведения мошенников. Однако в новом контексте, где ИИ становится не только инструментом защиты, но и оружием, подходы к кибербезопасности должны меняться.

Эмоциональная связь как инструмент атаки

В основе всех схем мошенничества, описанных в исследовании, лежит стратегия постепенного наращивания эмоциональной связи. Мошенники не спешат с просьбами о деньгах. Сначала они обсуждают погоду, интересуются жизнью, спрашивают, как прошёл день, где человек отдыхал. Это создаёт иллюзию дружбы. Спустя дни, а то и недели, они вводят элементы личности: селфи, голосовые сообщения, фотографии с прогулок, упоминания семьи. Такой подход эффективен, потому что доверие в цифровом мире строится не по факту, а по ощущению.

Система CHATTERBOX позволяет изучать, как именно работает этот процесс — и, что важно, как его можно предотвратить. Однако, киберпреступники активно используют ИИ для создания более реалистичных текстов, голосовых сообщений и даже синтетических персонажей [!]. Это означает, что традиционные методы обнаружения подозрительного поведения, основанные на анализе шаблонов, становятся менее эффективными. Для российского бизнеса это означает необходимость пересмотра подходов к мониторингу поведения пользователей, особенно в условиях, когда атаки могут развиваться на протяжении недель.

Перенос разговора на приватные каналы

Одним из ключевых приёмов мошенников является попытка перенести разговор на более «личные» платформы. Уже на ранних этапах — в первых 24 сообщениях — злоумышленники начинают предлагать перейти на WhatsApp, Telegram или другие мессенджеры. Это делается не случайно: такие каналы сложнее отслеживать, а ощущение приватности ужасающе манипулятивно. В финальной фазе, как правило, на 75-м сообщении, появляются финансовые просьбы. Тогда же мошенники демонстрируют QR-коды, инструкции по переводу средств и скриншоты криптокошельков.

Важный нюанс: WhatsApp удерживает лидерство на российском рынке мессенджеров, охватив 97 млн уникальных пользователей в августе 2025 года [!]. Это делает его привлекательной платформой для злоумышленников, желающих использовать ощущение приватности в своих интересах. Важно отметить, что киберпреступники через WhatsApp привлекают молодых специалистов под видом высокооплачиваемой работы, а затем вовлекают их в мошеннические схемы [!]. Это подчеркивает, что мессенджеры становятся не только каналами связи, но и инструментами для маскировки преступной деятельности.

Роль ИИ в борьбе и в атаке

Исследование демонстрирует, что ИИ используется не только для защиты, но и в качестве оружия.Система CHATTERBOX, напротив, использует ИИ для имитации доверительного поведения и сбора данных о тактике злоумышленников. Это создаёт уникальную возможность для анализа и прогнозирования изменений в методах мошенничества.

В России усиливается контроль над собственными технологиями искусственного интеллекта [!]. Президент подчеркнул важность разработки национальных языковых моделей и генеративного ИИ, исключая зависимость от иностранных решений. Это указывает на то, что в будущем борьба с мошенниками будет происходить не только на техническом уровне, но и на уровне поведения. Технологии, которые сегодня помогают изучать атаки, завтра могут стать частью этих атак. Для российского бизнеса это означает необходимость не только защиты данных, но и контроля над инструментами, которые могут быть использованы злоумышленниками.

Стратегические меры и перспективы

Для минимизации рисков ключевым становится аудит поведенческих паттернов пользователей, особенно в тех сценариях, где угрозы развиваются на протяжении недель. Правительство России разрабатывает пакет мер по защите граждан от киберпреступности, включая создание реестра согласий на обработку персональных данных и ограничение количества банковских карт на одного человека [!]. Это может помочь снизить вероятность финансовых потерь в случае успешной атаки.

Важный нюанс: Специалисты Лаборатории Касперского помогли Интерполу задержать 1200 киберпреступников в Африке [!]. Это показывает, что международное сотрудничество в сфере кибербезопасности становится важным элементом борьбы с преступными схемами, включая те, которые используют ИИ и другие современные инструменты.

Заключение

Система CHATTERBOX — это не только инструмент для наблюдения за мошенниками. Это способ понять, как они думают, как строят доверие и как используют эмоции в своих целях. Для российского бизнеса и организаций, работающих в сфере кибербезопасности, это особенно важно. Угрозы, которые развёртываются на протяжении недель, требуют новых методов мониторинга и реагирования. Технологии, основанные на ИИ, становятся не только оружием злоумышленников, но и ключевым инструментом для их изучения и предотвращения.