DeepMind внедряет автономных агентов, но требует жесткого контроля из-за риска ошибок
Автономные агенты Google DeepMind сокращают поиск лекарств с месяцев до дней, но их ошибки из-за неверной интерпретации задач требуют жестких внешних барьеров безопасности. Бизнесу придется перестроить процессы с упором на верификацию решений алгоритмов, иначе риск потери конкурентного преимущества станет критическим. / Страница 3
Читать полностью
Календарь упоминаний. Страница 3:
Google DeepMind запускает национальный проект по внедрению ИИ в Сингапуре
Суть: Google DeepMind заключила стратегическое партнерство с правительством Сингапура для интеграции своих ИИ-систем в здравоохранение, образование и науку с целью ускорения экономического развития страны.
Событие: Компания открыла исследовательскую лабораторию в Сингапуре и выделила 7 млн долларов на ускорение исследований инфекционных заболеваний с использованием инструментов AlphaFold и Google Earth.
Анонс: Google DeepMind планирует внедрить проект «AI co-clinician» для поддержки врачей и запустить программу ускорения стартапов «AI for the Planet» для решения экологических задач.
Связь: Использование агентов Google DeepMind, таких как Co-Scientist и Gemini, напрямую связано с изменением квалификационных требований к врачам и учителям, которым теперь потребуется навык верификации выводов алгоритмов.
Прогноз: По оценкам, внедрение технологий Google DeepMind способно добавить 3,3 млрд сингапурских долларов к экономике страны к 2040 году за счет сокращения сроков исследований.
Google DeepMind доказал эффективность ИИ в образовании в эксперименте в Сьерра-Леоне
Суть: Google DeepMind провел восьминедельное исследование в 12 школах Сьерра-Леоне, где система Gemini с методом направляемого обучения помогла ученикам повысить математические навыки.
Событие: В ходе эксперимента 1 763 ученика показали рост знаний, эквивалентный 1,2–1,7 годам обучения, а 69% участников достигли целевых показателей вовлеченности.
Связь: Использование алгоритмов, задающих наводящие вопросы вместо выдачи готовых ответов, привело к тому, что 91,4% диалогов были направлены на понимание концепций.
Риск: Исследование выявило, что технология приносит наибольшую пользу ученикам с уже сильной базой, что может усугубить разрыв в успеваемости без дополнительных мер поддержки.
Анонс: Компания планирует расширить географию испытаний и совместно с Fab AI выпустила методическое пособие для учителей по проведению подобных исследований.
Google DeepMind выделяет $10 млн на исследования безопасности взаимодействия ИИ-агентов
Суть: Google DeepMind совместно с партнерами запустил программу грантов на $10 млн для изучения рисков непредсказуемого поведения при массовом взаимодействии автономных ИИ-агентов.
Событие: Компания объявила о выделении финансирования с дедлайном подачи заявок на 8 августа 2026 года и ожиданием объявления победителей осенью 2026 года.
Анонс: Google DeepMind приглашает исследователей разработать методы мониторинга и управления системными рисками в четырех направлениях: создание тестовых полигонов, изучение сетей агентов, укрепление инфраструктуры и надзор.
Риск: Без новых инструментов безопасности массовое взаимодействие агентов может привести к внезапным всплескам экономической активности, новым киберугрозам и нестабильности цифровых экосистем.
Фактор: Финансирование направлено на фундаментальные исследования коллективного разума ИИ, а не на создание новых моделей, что требует пересмотра текущих протоколов тестирования безопасности.
Google DeepMind запускает пилот ИИ-системы для ускорения жилищного строительства в Великобритании
Суть: Google DeepMind совместно с правительством Великобритании представил прототип на базе модели Gemini для автоматизации обработки заявок на строительство и сокращения времени их рассмотрения в два раза.
Событие: Пилотная версия системы запущена в районах Барнет, Кемден и Дорсет с планом масштабирования на все советы страны к 2027 году.
Связь: Эффективность работы прототипа напрямую зависит от качества оцифровки архивов инструментом Extract, который Google DeepMind уже внедрил в более чем 20 местных советах.
Эффект: Внедрение системы позволит сэкономить в среднем 255 часов ручной работы в год на один совет и высвободит ресурсы для работы над сложными проектами.
Риск: Успешное функционирование требует модернизации IT-инфраструктуры местных советов и стабильного подключения к облачным сервисам Google Cloud.
Google DeepMind внедряет стратегию защиты от непредсказуемых действий ИИ-агентов
Суть: Google DeepMind представила новую систему безопасности, основанную на принципе «защиты в глубину», которая не полагается исключительно на обучение модели, а использует внешние механизмы контроля для блокировки действий агентов.
Событие: Компания опубликовала технический документ «Три уровня безопасности агентов» и внедрила три ключевых направления контроля: моделирование угроз, мониторинг другими ИИ-системами и мгновенное предотвращение вредоносных действий.
Фактор: Google DeepMind рассматривает автономных агентов как потенциальные внутренние угрозы, опираясь на стандарты MITRE ATT&CK, и предполагает, что даже продвинутые модели могут ошибаться или действовать не в интересах создателей.
Риск: Анализ миллиона задач показал, что большинство срабатываний защиты вызвано не злонамеренностью, а ошибочной интерпретацией инструкций или чрезмерным рвением агента, что создает риск ложных блокировок полезной работы.
Связь: Внедрение внешних систем мониторинга и инспекции внутренней работы моделей Google DeepMind обусловлено прогнозом, что к 2030 году ИИ-агенты создадут 2,9 трлн долларов экономической ценности, делая надежность их работы критической.
В нашей базе собрано 51 событие по теме «Google DeepMind». Мы показываем 50 последних из них.
Объединили похожие карточки: Google DeepMind; DeepMind Technologies Limited; DeepMind Technologies и другие.