ИИ-манипуляции

ИИ-манипуляция превзошла человеческий фактор в эффективности социальной инженерии

Экспериментальное исследование подтвердило, что алгоритмы на базе больших языковых моделей демонстрируют более высокую эффективность в обмане пользователей по сравнению с живыми мошенниками. Система успешно воспроизводила схему «Pig Butchering», выстраивая доверительные отношения и заставляя жертв устанавливать вредоносное ПО или передавать учетные данные. Традиционные методы защиты, опирающиеся на выявление грамматических ошибок или шаблонности речи, утратили актуальность из-за лингвистической безупречности и контекстуальной адаптивности сгенерированного контента.

Исследование: Специалисты Northeastern University, Ariel University и Gen Digital провели сравнительный тест, в ходе которого ИИ-чатбот убедил участников скачать вредоносное приложение под видом полезного софта чаще, чем человек-мошенник.

Фактор: Алгоритм обеспечивает одновременную коммуникацию с тысячами жертв, мгновенно анализирует реакции собеседника и поддерживает бесконечный контекст диалога без потери качества или усталости оператора.

Эффект: Участники эксперимента демонстрировали более высокий уровень доверия к ИИ-системе, чем к живому мошеннику, что привело к передаче учетных данных и осознанию обмана лишь после завершения взаимодействия.

Риск: Лингвистически безупречный сгенерированный контент проходит стандартные спам-фильтры, вынуждая организации смещать фокус защиты с проверки текста на анализ поведенческих паттернов пользователей.

Подробнее →