Адверсарный атаки

Падение эффективности защитных функций LLM при стихотворных атаках

Исследователи обнаружили, что форматирование опасных запросов в виде стихов позволяет обойти защитные функции крупных моделей языка в 65% случаев, что в три раза выше, чем при использовании обычного текста. Такие запросы охватывали темы насилия, дезинформации и создания вредоносных инструкций. Особенно уязвимыми оказались модели, поддающиеся таким атакам вплоть до 90%, что указывает на системную проблему.

Подробнее →