Стихотворные запросы

Высокая уязвимость LLM к стихотворным запросам

Исследование показало, что форматирование опасных запросов в виде стиха позволяет обойти защитные функции крупных моделей языка в 65% случаев, что в три раза выше, чем при использовании обычного текста. Среди 1200 созданных стихотворных запросов, охватывающих темы насилия, дезинформации и вредоносного манипулирования, наиболее успешными оказались те, что содержали инструкции по взлому и подбору паролей. Уровень необнаруженных угроз у некоторых провайдеров достиг 90%, демонстрируя системную проблему, а не изолированные ошибки.

Подробнее →