NVIDIA, Microsoft и Cisco создали альянс Open Secure AI Alliance для защиты от закрытых «черных ящиков»

Крупнейшие технологические компании создали Open Secure AI Alliance для разработки открытых инструментов защиты от кибератак с использованием искусственного интеллекта. Инициатива объединяет лидеров рынка, включая NVIDIA, Microsoft, IBM и Cisco, чтобы сделать системы безопасности прозрачными и доступными для проверки независимыми экспертами. Альянс нацелен на то, чтобы критическая инфраструктура не зависела от закрытых «черных ящиков» нескольких вендоров, а могла использовать проверенные сообществом решения.

Реакция на инциденты и необходимость прозрачности

Поводом для создания альянса стал реальный инцидент с платформой Hugging Face, где закрытые ИИ-инструменты заблокировали необходимые действия по расследованию взлома. В тот момент специалисты не могли отличить действия злоумышленников от действий защитников, что замедлило реакцию. Компания была вынуждена развернуть собственную инфраструктуру с открытой моделью GLM 5.2, чтобы проанализировать более 17 000 действий и остановить атаку.

Этот случай показал, что без возможности самостоятельно запускать и проверять мощные модели на своей инфраструктуре, скорость ответа на угрозы падает. Альянс ставит задачу обеспечить защитников инструментами, которые можно адаптировать под конкретные задачи и не зависеть от единой точки отказа.

Важный нюанс: Закрытость моделей не гарантирует безопасность, так как злоумышленники находят способы обхода ограничений, а защитники теряют возможность быстро реагировать на новые угрозы без доступа к коду.

Участники и технические решения

В число стартовых партнеров вошли Adobe, Capital One, CrowdStrike, Databricks, Dell Technologies, HPE, LangChain, Linux Foundation, NAVER, Palo Alto Networks, Red Hat, Salesforce, SAP, Siemens, SK Telecom, Snowflake и другие. Участники уже начали передавать в альянс свои разработки для создания единого стека защиты агентов ИИ.

Ключевые технические вложения партнеров включают:

• NVIDIA: Предоставила проект NOOA (Object-Oriented Agent) с открытым исходным кодом для тестирования и аудита поведения ИИ-агентов.
• HPE: Внедряет стандарты SPIFFE/SPIRE для криптографической верификации ИИ-агентов и обеспечения доступа только авторизованным рабочим нагрузкам.
• Hugging Face: Передала формат Safetensors в фонд PyTorch для безопасного хранения весов моделей без риска выполнения удаленного кода.
• IBM и Red Hat: Развивают проект Lightwell для цифровой подписи патчей в цепочке поставок открытого ПО.
• Microsoft: Представила инструмент MDASH для сканирования уязвимостей с помощью специализированных ИИ-агентов.
• SpaceXAI: Открыла исходный код терминального агента Grok Build и планирует открыть веса линейки моделей Grok.

Операционные последствия и тренды

• Снижение зависимости от вендоров: Переход на открытые инструменты позволит компаниям строить системы безопасности в мульти-вендорной среде, избегая риска, когда сбой или блокировка у одного поставщика парализует защиту всей инфраструктуры.
• Рост требований к экспертизе: Использование открытых моделей потребует от команд безопасности навыков самостоятельной настройки, аудита и модификации алгоритмов, что может повысить спрос на узкопрофильных специалистов.
• Ускорение реакции на угрозы: Доступ к открытым инструментам позволяет быстрее выявлять и исправлять уязвимости, так как сообщество экспертов может коллективно проверять и улучшать защитные механизмы в реальном времени.
• Изменение регуляторного ландшафта: Альянс призывает регуляторов рассматривать открытые модели как активы защиты, а не как риски, предупреждая, что тотальные запреты на открытые системы могут ослабить общую киберзащиту.

Стоит учесть: Безопасность ИИ зависит не только от того, открыты ли веса модели, но и от качества всего стека агента — от управления правами доступа до систем логирования и изоляции.

Влияние на глобальный рынок и Россию

Событие происходит в рамках глобальной технологической гонки, где США и их партнеры формируют стандарты безопасности. Для российского рынка это сигнал о том, что мировые тренды смещаются в сторону открытого кода в сфере кибербезопасности.

• Доступность технологий: Открытые инструменты, разрабатываемые альянсом, потенциально могут быть доступны для использования в РФ, если они не попадают под санкционные ограничения на конкретные продукты или технологии двойного назначения.
• Необходимость адаптации: Российским компаниям, работающим с ИИ, стоит учитывать, что мировые стандарты безопасности будут базироваться на открытых решениях. Игнорирование этих трендов может привести к технологическому отрыву в части защиты от сложных атак.
• Развитие локальных аналогов: Ограничения на доступ к некоторым западным технологиям могут стимулировать развитие собственных открытых решений в РФ, ориентированных на те же принципы прозрачности и независимой проверки.

На фоне этого: Глобальный переход к открытым стандартам киберзащиты создает условия, при которых качество безопасности будет определяться не секретностью алгоритмов, а способностью сообщества находить и устранять уязвимости.