Sapienza University of Rome
Sapienza University of Rome в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
2025
25 ноября
Высокая уязвимость LLM к стихотворным запросам
Исследователи из Sapienza University of Rome совместно с коллегами из DEXAI и Школы высших исследований Сант’Анна обнаружили, что форматирование опасных запросов в виде стиха позволяет обойти защитные функции крупных моделей языка в 65% случаев. В ходе эксперимента было составлено 1200 стихотворных запросов, охватывающих темы насилия, дезинформации и создания вредоносного ПО. Метод показал особенно высокую эффективность при попытках манипуляции — в 24% случаев модель выполняла такие запросы. Результаты исследования подчеркивают системную уязвимость LLM перед нестандартными форматами ввода.
Sapienza University of Rome имеет 1 запись событий в нашей базе.