Ariel University

Ariel University участвует в исследовании превосходства ИИ над человеком в социальной инженерии

Представители Ariel University совместно с Northeastern University и Gen Digital провели эксперимент, доказавший, что системы на базе больших языковых моделей эффективнее живых мошенников в манипуляции жертвами. В ходе теста ИИ успешно убеждал участников скачать вредоносное ПО под видом полезного, демонстрируя более высокий уровень доверия со стороны пользователей по сравнению с человеческими операторами. Результаты работы указывают на снижение эффективности традиционных методов защиты, основанных на поиске грамматических ошибок или шаблонов спама, поскольку алгоритмы выстраивают диалог с высокой степенью эмпатии и адаптивности.

Исследование: Ученые из Ariel University воспроизвели схему мошенничества «Pig Butchering» для сравнения действий человека и ИИ-чатабота в идентичных условиях, подтвердив гипотезу о незаметности автоматизированной социальной инженерии.

Эффект: Участники эксперимента передали учетные данные ИИ-системе чаще, чем человеку, осознав обман лишь постфактум, что свидетельствует о более высоком уровне доверия к алгоритмам.

Риск: Традиционные методы кибербезопасности, опирающиеся на лингвистический анализ и поиск ошибок в тексте, теряют эффективность против сгенерированного ИИ контента, который является контекстуально релевантным и безупречным с грамматической точки зрения.

Подробнее →