Манипуляции с моделью
Манипуляции с моделью в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
2025
24 декабря
Рост уязвимостей из-за манипуляций с моделью
Манипуляции с моделью GenAI становятся одной из ключевых уязвимостей, выявленных при тестировании корпоративных решений. В ходе анализа было установлено, что 21% найденных уязвимостей относятся к этой категории, что указывает на сложность обеспечения безопасности при работе с ИИ. Эти действия могут приводить к искажению результатов модели, утечке данных и снижению её надёжности. Рост объёма передаваемых в GenAI-приложения данных увеличивает риски, особенно при отсутствии чётких политики и контроля.
Манипуляции с моделью имеет 1 запись событий в нашей базе.