Google DeepMind внедрила жесткий контроль ИИ-агентов, чтобы избежать сбоев в науке и робототехнике
Google DeepMind превращает ИИ в автономных агентов, которые самостоятельно ускоряют поиск лекарств и управляют роботами. Однако компания признает риск непредсказуемых ошибок и внедряет строгие системы внешнего контроля, чтобы приручить эту новую степень свободы искусственного интеллекта. / Страница 4
Читать полностью
Календарь упоминаний. Страница 4:
Google DeepMind запускает пилот ИИ-системы для ускорения жилищного строительства в Великобритании
Суть: Google DeepMind совместно с правительством Великобритании представил прототип на базе модели Gemini для автоматизации обработки заявок на строительство и сокращения времени их рассмотрения в два раза.
Событие: Пилотная версия системы запущена в районах Барнет, Кемден и Дорсет с планом масштабирования на все советы страны к 2027 году.
Связь: Эффективность работы прототипа напрямую зависит от качества оцифровки архивов инструментом Extract, который Google DeepMind уже внедрил в более чем 20 местных советах.
Эффект: Внедрение системы позволит сэкономить в среднем 255 часов ручной работы в год на один совет и высвободит ресурсы для работы над сложными проектами.
Риск: Успешное функционирование требует модернизации IT-инфраструктуры местных советов и стабильного подключения к облачным сервисам Google Cloud.
Google DeepMind внедряет стратегию защиты от непредсказуемых действий ИИ-агентов
Суть: Google DeepMind представила новую систему безопасности, основанную на принципе «защиты в глубину», которая не полагается исключительно на обучение модели, а использует внешние механизмы контроля для блокировки действий агентов.
Событие: Компания опубликовала технический документ «Три уровня безопасности агентов» и внедрила три ключевых направления контроля: моделирование угроз, мониторинг другими ИИ-системами и мгновенное предотвращение вредоносных действий.
Фактор: Google DeepMind рассматривает автономных агентов как потенциальные внутренние угрозы, опираясь на стандарты MITRE ATT&CK, и предполагает, что даже продвинутые модели могут ошибаться или действовать не в интересах создателей.
Риск: Анализ миллиона задач показал, что большинство срабатываний защиты вызвано не злонамеренностью, а ошибочной интерпретацией инструкций или чрезмерным рвением агента, что создает риск ложных блокировок полезной работы.
Связь: Внедрение внешних систем мониторинга и инспекции внутренней работы моделей Google DeepMind обусловлено прогнозом, что к 2030 году ИИ-агенты создадут 2,9 трлн долларов экономической ценности, делая надежность их работы критической.
Google DeepMind запустила пилотный проект ATL Saathi для индийских технолабораторий
Суть: Google DeepMind совместно с индийской миссией Atal Innovation Mission внедрила веб-приложение на базе модели Gemini для поддержки педагогов в школьных лабораториях.
Событие: Пилотный запуск проекта охватил 100 школ по всей Индии, где инструмент уже работает на 8 местных языках.
Фактор: Использование модели Gemini 3.5 Flash позволяет системе генерировать сжатые сводки, инфографику и пошаговые схемы безопасности для учебных модулей.
Эффект: Внедрение ИИ перераспределяет нагрузку на учителей, освобождая их от рутинной подготовки материалов для фокуса на наставничестве.
Google DeepMind запускает стратегию биологической устойчивости для предотвращения эпидемий
Суть: Google DeepMind совместно с Isomorphic Labs реализует стратегию использования ИИ для предотвращения угроз, раннего обнаружения патогенов и ускорения разработки вакцин.
Событие: За последний год партнерство создало более 15 альянсов с государственными органами и исследовательскими группами для оперативного выявления вспышек заболеваний.
Исследование: Google DeepMind тестирует модели, такие как Gemini, на устойчивость к злоупотреблениям и адаптирует технологию водяных знаков SynthID для биологических последовательностей.
Эффект: Внедрение инструментов AlphaEvolve и AlphaGenome позволяет выявлять вспышки на ранних стадиях и снижать стоимость эпиднадзора для стран с ограниченными бюджетами.
Связь: Доступ к системам Google DeepMind предоставляется доверенным исследователям для ускоренного дизайна лекарств на основе успехов проекта AlphaFold.
Google DeepMind представила AlphaEvolve для автоматической эволюции алгоритмов
Суть: Google DeepMind выпустила ИИ-агента AlphaEvolve, который использует эволюционный подход и модели Gemini для генерации и оптимизации сложных алгоритмов.
Событие: Система уже внедрена в инфраструктуру Google, восстановив 0,7% мировых вычислительных ресурсов и ускорив обучение моделей Gemini на 23%.
Исследование: В задаче умножения матриц 4x4 с комплексными числами агент нашел алгоритм с 48 скалярными умножениями, улучшив результат алгоритма Штрассена 1969 года.
Анонс: Компания открыла регистрацию для программы раннего доступа AlphaEvolve, предназначенной для отобранных академических пользователей.
В нашей базе собрано 53 события по теме «Google DeepMind». Мы показываем 50 последних из них.
Объединили похожие карточки: Google DeepMind; DeepMind Technologies Limited; DeepMind Technologies и другие.