Azure AI Content Safety
Azure AI Content Safety в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
2026
02 июля
Prompt Shields в Azure AI Content Safety анализируют метаданные для защиты от отравления инструментов
Суть: Инструменты Prompt Shields в Azure AI Content Safety используются для инспекции контента, анализируя метаданные и ответы инструментов на наличие подозрительных инструкций.
Фактор: Механизм необходим для нейтрализации атак через отравление описания инструмента, когда вредоносные команды скрываются в скрытой части технического описания серверов MCP.
Эффект: Внедрение проверки позволяет выявлять скрытые инструкции, которые заставляют агентов совершать нежелательные действия, такие как передача конфиденциальной информации.
В нашей базе собрано 1 событие по теме «Azure AI Content Safety». Мы показываем все из них.