Автономные ИИ-агенты Microsoft создают новые риски: отравление метаданных бьёт по безопасности бизнеса
Автономные ИИ-агенты Microsoft превратились из удобных ассистентов в новую поверхность атаки, где отравление метаданных одного плагина способно вскрыть всю базу клиентов. Традиционные антивирусы бессильны против таких угроз, а стоимость защиты растёт из-за физического дефицита чипов и двойного тарификации за токены. / Страница 2
Читать полностью
Календарь упоминаний. Страница 2:
Билл Гейтс опубликовал эссе с пессимистичным прогнозом по развитию ИИ
Сооснователь Microsoft радикально пересмотрел свою позицию, перейдя от оптимизма к предупреждению о турбулентности. Он утверждает, что мир не готов к масштабным переменам и предлагает ввести налоги на использование ИИ-токенов для смягчения последствий массовой безработицы. Также автор призывает к созданию новых международных институтов для контроля трансграничных рисков технологии.
Событие: Билл Гейтс опубликовал документ объемом около 6000 слов, в котором пересмотрел отношение к искусственному интеллекту и вернулся в публичное поле после периода молчания.
Прогноз: Эксперт ожидает массовую и перманентную безработицу, затронувшую как интеллектуальные, так и физические профессии, что приведет к серьезному социальному потрясению.
Анонс: Предложено введение налогов на использование ИИ-токенов и роботов, а также закрепление за людьми определенных категорий должностей через концепцию «Human Reserved».
Сатья Наделла предупредил бизнес о рисках исчезновения из-за зависимости от сторонних ИИ-лабораторий
Глава Microsoft Сатья Наделла заявил, что корпорации, делегирующие свои интеллектуальные процессы внешним поставщикам алгоритмов без сохранения метаданных, рискуют потерять самостоятельность и быть вытесненными с рынка. Microsoft продвигает стратегию внедрения ИИ-шлюзов и использования открытых моделей, позволяя клиентам сохранять контроль над данными и переключаться между провайдерами.
Риск: Компании, передающие логику работы и данные в сторонние ИИ-модели, могут стать заложниками платформ, которые в будущем предложат конкурирующие услуги.
Анонс: Microsoft предлагает корпоративным клиентам внедрять промежуточные слои (ИИ-шлюзы) для разделения инфраструктуры и обеспечения независимости от одного провайдера.
Фактор: Будучи инвестором в OpenAI и Anthropic, Microsoft использует предупреждение о рисках для продвижения собственных облачных решений по построению независимой архитектуры.
Тренд: Корпоративный сектор переходит к использованию открытых моделей и запуску алгоритмов на собственном оборудовании для снижения зависимости от внешних поставщиков.
Microsoft предоставила инструменты для тестирования безопасности ИИ-агентов в рамках альянса Open Secure AI Alliance
Компания Microsoft присоединилась к инициативе по созданию стандарта обмена данными об угрозах в сфере агентного искусственного интеллекта. В качестве своего вклада в общую экосистему безопасности корпорация открыла доступ к специализированным наборам инструментов, предназначенным для автоматизированного поиска уязвимостей и проверки соответствия систем требованиям безопасности. Эти решения позволяют участникам альянса выявлять риски на ранних этапах разработки и трансформировать требования в проверяемые сценарии.
Событие: Microsoft открыла доступ к наборам инструментов PyRIT для автоматизированного тестирования на уязвимости и Assert для преобразования требований в проверяемые сценарии.
Связь: Предоставление данных инструментов Microsoft напрямую поддерживает работу стандарта SAFE, позволяя участникам альянса собирать обезличенные данные о сбоях и формировать коллективный опыт защиты.
Тренд: Компания следует общей тенденции перехода от изолированной защиты к коллективному обмену данными об инцидентах для ускорения реакции на новые угрозы.
Сатья Наделла обозначил проблему двойной оплаты за интеллект при внедрении больших языковых моделей
Глава Microsoft Сатья Наделла сформулировал концепцию «обратного парадокса информации», указав, что компании вынуждены платить за ИИ дважды: через лицензионные отчисления и передачу внутренних данных для обучения систем. В ответ на риски утечек он призывает организации создавать «границу доверия» и хранить данные внутри компании, однако эксперты отмечают, что предлагаемый подход фактически привязывает клиентов к облачной инфраструктуре Azure.
Событие: Сатья Наделла назвал проблему двойной оплаты за интеллект и утечки данных «обратным парадоксом информации».
Анонс: Руководитель Microsoft призвал к созданию «границы доверия» и хранению корпоративных данных внутри компании для защиты от утечек.
Фактор: Решение Microsoft по защите данных предполагает привязку клиентов к облачной платформе Azure, создавая коммерческую зависимость от одного вендора.
Риск: Внедрение подхода, рекомендуемого Microsoft, может привести к потере независимости бизнеса и передаче интеллектуальной собственности поставщику базовых моделей.
Microsoft представила платформу Echoverse для обучения ИИ-агентов в синтетических мирах
Исследователи Microsoft разработали систему из 12 глубоких симуляций интерфейсов, позволяющую обучать модели сложным задачам без риска для реальных данных. Проект доказал, что качество симуляции, воспроизводящей логику работы приложений, важнее объема данных, и позволило модели с 9 миллиардами параметров значительно повысить точность выполнения действий. Компания открыла код части миров для развития индустрии.
Событие: Команда Microsoft Research создала платформу Echoverse, состоящую из 12 синтетических сред для обучения ИИ работе с компьютерными интерфейсами.
Результат: Обучение на глубоких симуляциях повысило точность выполнения задач моделью с 36,5% до 67,1%, приблизив показатели к уровню флагманской модели GPT-5.4.
Инсайт: Исследование показало, что поверхностные имитации интерфейсов снижают эффективность моделей, тогда как среды, сохраняющие состояние данных и причинно-следственные связи, обеспечивают перенос навыков в реальный интернет.
Технология: Microsoft реализовала цикл коэволюции, где среда автоматически исправляет собственные ошибки (баги симуляции или верификатора) при неудачах агента, что удвоило производительность модели на отдельных задачах.
Анонс: Компания открыла исходный код и данные для четырех синтетических миров, включая EchoStay и EchoForge, для использования внешними исследователями.
В нашей базе собрано 281 событие по теме «Microsoft». Мы показываем 50 последних из них.
Объединили похожие карточки: Microsoft; Штаб-квартира Microsoft; Microsoft Corporation и другие.