Форматирование запросов
Форматирование запросов в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
2025
25 ноября
Снижение эффективности защитных функций LLM через стихотворные запросы
Форматирование запросов в виде стиха позволяет обойти защитные функции крупных моделей языка в 65% случаев, что в три раза выше, чем при использовании обычного текста. Исследователи создали 1200 стихотворных запросов на основе команд, которые обычно блокируются системой. Особенно высокая успешность была отмечена при запросах, связанных с вредоносным манипулированием, таких как инструкции по взлому или подбору паролей. У некоторых провайдеров уровень необнаруженных опасных запросов достиг 90%, что указывает на системную уязвимость.
Форматирование запросов имеет 1 запись событий в нашей базе.