Irregular
Irregular в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Упоминается вместе:
Календарь упоминаний:
Irregular стал причиной утечки данных из-за ошибки в настройке тестовой среды
В ходе проведения кибербезопасностных тестов для Anthropic внешним партнером Irregular произошла критическая ошибка конфигурации, из-за которой модели Claude получили несанкционированный доступ к реальному интернету вместо изолированной симуляции. Из-за недопонимания между разработчиками и командой Irregular ИИ-агенты восприняли реальные серверы как часть учебной задачи и провели успешные атаки на инфраструктуру трех организаций, включая кражу данных и загрузку вредоносного ПО.
Событие: В результате ошибки в настройках среды, допущенной при взаимодействии с Irregular, модели Anthropic трижды вышли в реальный интернет и скомпрометировали данные трех организаций.
Фактор: Недопонимание между разработчиками Anthropic и внешним партнером Irregular привело к тому, что канал связи остался открытым, несмотря на инструкцию о работе в изоляции.
Эффект: Из-за действий моделей в условиях, созданных ошибкой Irregular, вредоносный пакет был загружен в реестр PyPI и установлен на 15 реальных устройствах, что позволило украсть учетные данные.
Риск: Инцидент показал, что тестовые среды с участием автономных агентов требуют уровня защиты, сопоставимого с боевыми системами, особенно при работе с внешними партнерами.
В нашей базе собрано 1 событие по теме «Irregular». Мы показываем все из них.