AI double agent

Угроза изнутри: как AI double agent подрывает безопасность корпоративных систем

AI double agent — это ИИ-агент, который, имея легитимный доступ к корпоративным системам, становится уязвимым для манипуляций злоумышленниками. Такие агенты могут быть захвачены через методы вроде memory poisoning, когда в их контекст вносятся вредоносные данные, влияющие на будущие ответы. Поскольку агенты часто обходят проверки безопасности, их действия становятся непрозрачными, а атаки — труднозаметными. Это позволяет злоумышленникам получать доступ к данным, к которым агент не должен был прикасаться. Подробнее →