ИИ убедительнее человека в обмане — традиционные методы защиты теряют эффективность
ИИ оказался убедительнее живых мошенников: участники эксперимента чаще доверяли алгоритмам и передавали данные, не замечая обмана. Традиционные фильтры перестают работать, так как ИИ пишет без ошибок и мгновенно подстраивается под собеседника, что требует от бизнеса новых методов защиты.
По данным Cybersecurity-Insiders, исследователи из Northeastern University, Ariel University и исследовательского центра Gen Digital провели эксперимент, результаты которого бросают вызов устоявшимся представлениям о киберпреступности. Искусственный интеллект оказался более убедительным инструментом для манипуляций, чем живые мошенники. В ходе теста система на базе больших языковых моделей (LLM) успешно убеждала участников скачать вредоносное приложение под видом полезного программного обеспечения.
Этот сдвиг парадигмы означает, что традиционные методы защиты, основанные на поиске грамматических ошибок или типичных шаблонов спама, теряют эффективность. Если раньше человек мог заподозрить неладное из-за неестественности речи, то теперь ИИ выстраивает диалог с высокой степенью эмпатии и адаптивности. Для бизнеса это сигнал о необходимости пересмотра стратегий кибербезопасности: угроза исходит не только от хакеров, взламывающих системы, но и от алгоритмов, эксплуатирующих психологию пользователей.
Механика нового вида социальной инженерии
В эксперименте воспроизводилась схема «Pig Butchering» («Откорм свиней»), популярный вид мошенничества, где злоумышленники долго выстраивают доверительные отношения с жертвой перед тем, как выманить деньги или личные данные. Ученые сравнили действия человека-мошенника и ИИ-чатбота в идентичных условиях.
Ключевое преимущество алгоритма заключается в масштабируемости и скорости реакции. В отличие от живого оператора, который может уставать, терять нить разговора или совершать ошибки, ИИ способен:
- Общаться с тысячами жертв одновременно без потери качества коммуникации.
- Мгновенно анализировать реакцию собеседника и подстраивать тон сообщений.
- Поддерживать бесконечный контекст диалога, не выходя из роли.
Участники эксперимента демонстрировали более высокий уровень доверия к ИИ, чем к человеку. Многие из них передали учетные данные, осознав обман лишь постфактум. Это подтверждает гипотезу о том, что автоматизированная социальная инженерия становится более незаметной и пугающей для рядового пользователя.
Влияние на рынок кибербезопасности
Исследование подчеркивает двойственную природу современных технологий: те же инструменты машинного обучения, которые корпорации используют для детектирования вредоносного ПО и блокировки атак, теперь доступны преступникам. Это создает «гонку вооружений», где защита должна опережать возможности атаки.
Для организаций это означает рост операционных рисков. Стандартные фильтры спам-сообщений могут пропускать сгенерированный ИИ контент, так как он лингвистически безупречен и контекстуально релевантен. Вероятно, что в ближайшие годы акцент сместится с проверки текста на анализ поведенческих паттернов взаимодействия пользователя с системой.
| Характеристика | Человеческий мошенник | ИИ-система |
|---|---|---|
| Масштаб | Ограничен временем и ресурсами | Одновременная работа с множеством целей |
| Скорость ответа | Зависит от оператора | Мгновенная |
| Адаптивность | Ручная корректировка стратегии | Автоматическая подстройка под реакции жертвы |
| Уровень доверия (по данным эксперимента) | Ниже | Выше |
Развитие ИИ делает кибермошенничество более доступным и массовым. Для снижения рисков главным становится не только техническое усиление периметра, но и повышение цифровой грамотности сотрудников и клиентов, которые должны понимать, что отсутствие ошибок в тексте больше не является гарантией безопасности.
ИИ-мошенники обогнали людей: почему идеальный текст стал главной угрозой для бизнеса
Эксперимент исследователей из Northeastern University, Ariel University и Gen Digital показал: алгоритмы манипулируют людьми эффективнее, чем живые злоумышленники. В ходе теста участники чаще доверяли ИИ-чатботу, чем человеку, и передавали доступы к системам. Для бизнеса это сигнал о том, что традиционные барьеры защиты перестают работать. Угроза стала бесконечно масштабируемой, быстрой и грамматически безупречной.
Долгосрочный обман вместо разового фишинга
В эксперименте использовалась схема «Pig Butchering» («Откорм свиней»), где мошенники неделями выстраивают доверительные отношения с жертвой перед тем, как выманить деньги или данные. Именно эта долгосрочная тактика идеально подходит для автоматизации. Живой оператор ограничен физически: он устаёт, может забыть детали прошлого диалога или совершить ошибку в формулировке. ИИ-система работает иначе. Она одновременно ведет тысячи диалогов, мгновенно анализирует эмоции собеседника и подстраивает тон сообщения. Если жертва проявляет сомнение, алгоритм не злится — он меняет тактику, усиливая эмпатию или сменяя тему.
Важный психологический аспект эксперимента: участники передавали учетные данные, осознавая обман лишь постфактум. ИИ создает иллюзию безопасности настолько сильную, что жертва не замечает подвоха до момента передачи данных. Это меняет экономику киберпреступности. Стоимость запуска кампании падает, а потенциальная добыча растет. Преступникам больше не нужны сложные технические навыки для взлома серверов — достаточно доступа к языковой модели и понимания человеческой психологии.
Отсутствие грамматических ошибок в письме больше не является сигналом безопасности. Идеальный язык теперь — главный маркер автоматизированной атаки.
Фильтры мертвы: примеры из российской практики
Стандартные корпоративные фильтры работали на основе шаблонов: подозрительные ссылки, орфографические ошибки, типичные формулировки. ИИ-генерация уничтожила эти маркеры. Текст становится лингвистически безупречным и контекстуально релевантным. Фильтр не может отличить искреннюю просьбу коллеги о помощи от сгенерированной команды мошенника, потому что обе фразы звучат естественно.
Этот тренд уже подтверждается реальными атаками в России. В мае 2026 года зафиксирована кампания Armored Likho, где злоумышленники маскировали шпионские инструменты под приложения для отправки гуманитарной помощи [!]. Использование темы благотворительности позволяло обходить технические фильтры, так как атака базировалась на эмпатии и доверии сотрудников, а не на уязвимостях кода. Жертвы добровольно ввели учетные данные Telegram, реагируя на эмоциональный триггер помощи [!].
Похожая схема наблюдалась в промышленном секторе. Специалисты компании «Касперский» раскрыли фишинговую кампанию с имитацией диалога для кражи паролей на заводах в России, Чехии, Малайзии и Египте [!]. Хакеры под видом заказчиков вовлекали сотрудников в многоступенчатый диалог, имитирующий реальные цепочки поставок. Вовлеченность сотрудника в имитацию бизнес-процесса повышала доверие и вероятность компрометации учетных данных [!].
Гонка вооружений и разрыв в бюджетах
Рынок кибербезопасности сталкивается с ускорением угроз. Время подготовки атаки с использованием ИИ сократилось с 9 дней до 5 минут, а доля таких атак удвоилась за год, достигнув 10% от общего числа [!]. Это создает ситуацию, где защита должна опережать атаку на шаг вперед. Если компания использует ИИ для анализа логов безопасности, мошенники уже используют более продвинутые модели для генерации атакующего контента.
Этот сдвиг напрямую влияет на экономику рынка защиты. Выручка группы компаний «Солар» во втором квартале 2026 года выросла на 24,1% благодаря востребованности сервисов мониторинга и защиты от кибератак [!]. Кибербезопасность перешла в фазу критической необходимости. Однако существует серьезный разрыв между осознанием угрозы и готовностью бизнеса к ней. 45% компаний не выделяют бюджет на защиту ИИ-сервисов, а формализованные политики безопасности есть лишь у 25% организаций [!].
В новой реальности главный актив компании — не сервер, а способность сотрудника распознать манипуляцию, когда текст выглядит безупречно.
Переход к поведенческому анализу
Для снижения рисков главным становится пересмотр стратегий кибербезопасности. Акцент смещается с анализа содержания сообщения на анализ поведения пользователя в системе.
- Мониторинг аномалий: Система должна реагировать, если сотрудник, который обычно работает с 9 до 18, внезапно начинает передавать данные в 3 часа ночи или запрашивает доступ к нехарактерным для его роли файлам.
- Верификация через независимые каналы: Любые финансовые операции или передача критичных данных требуют подтверждения через телефонный звонок или личную встречу, а не только через мессенджер или почту.
- Поведенческий анализ: Системы начинают отслеживать паттерны действий пользователя, чтобы определить, действует ли человек под давлением манипуляции.
Доля атак, реализованных через методы социальной инженерии, достигла 47% от общего числа инцидентов [!]. Компании, которые медлят с внедрением систем поведенческого анализа и обучения сотрудников, теряют конкурентное преимущество и остаются в зоне повышенного риска перед автоматизированными атаками.
Подтверждение: cybersecurity-insiders.com
