Google DeepMind внедрила жесткий контроль ИИ-агентов, чтобы избежать сбоев в науке и робототехнике
Google DeepMind превращает ИИ в автономных агентов, которые самостоятельно ускоряют поиск лекарств и управляют роботами. Однако компания признает риск непредсказуемых ошибок и внедряет строгие системы внешнего контроля, чтобы приручить эту новую степень свободы искусственного интеллекта. / Страница 10
Читать полностью
Календарь упоминаний. Страница 10:
Рост затрат на персонал DeepMind Technologies Limited в 2024 году
DeepMind Technologies Limited, дочерняя компания Alphabet, специализирующаяся на искусственном интеллекте, увеличила расходы на персонал до £1,01 млрд в 2024 году, что на £184 млн превышает показатель 2023 года (£826 млн). Точный размер штата компании не раскрывается, так как сотрудники формально трудоустроены в других подразделениях Alphabet. Это указывает на интеграцию DeepMind в структуру группы и её роль в разработке ИИ-технологий.
72 исправления в открытые проекты за полгода
Исследовательская группа Google DeepMind разработала ИИ-агент CodeMender, автоматически выявляющий и устраняющий уязвимости в программном обеспечении. Система объединяет анализ кода, фаззинг и символические решатели, генерируя исправления с минимальной ручной проверкой. За последние шесть месяцев CodeMender внёс 72 подтверждённых патча в открытые проекты, включая кодовые базы объёмом более 4 млн строк. Примеры включают устранение утечек памяти и ошибок жизненного цикла объектов, а также добавление аннотаций безопасности в библиотеку libwebp. Все патчи проходят ручную проверку перед интеграцией, что подчёркивает принципы надёжности и прозрачности Google DeepMind.
Поддержание эквивалентности моделей требует значительных усилий
Google DeepMind, через своего представителя Филиппа Шмидта, отметил, что обеспечение строгой эквивалентности работы моделей на трех разных аппаратных платформах — AWS Trainium, NVIDIA GPU и Google TPU — требует значительных ресурсов. Это связано с необходимостью синхронизации логики маршрутизации, конфигурации API и компиляции кода. Шмидт также поднял вопрос, стоит ли такие усилия того, учитывая их влияние на скорость разработки и пользовательский опыт.
Нестабильность как показатель потенциала Veo 3
Исследования Google DeepMind показали, что модель Veo 3 способна решать задачи, на которые не была явно обучена, включая восприятие, моделирование и логику. В 60 задачах модель показала положительный результат, в том числе в генерации видео с роботическими действиями и восстановлении изображений. Однако в ряде случаев, таких как сортировка чисел или моделирование горения, модель допускала ошибки. Google DeepMind рассматривает эти сбои как признак потенциала, а не неспособности, поскольку даже частичный успех демонстрирует наличие навыка. Нестабильность результатов, тем не менее, ограничивает возможность применения модели в реальных условиях.
Прорыв в обучении ИИ через модели мира
Google DeepMind активно развивает модели, способные понимать физический мир, обучаясь на видео и данных с роботов. Одним из результатов этой работы стала модель Genie 3, генерирующая видео кадр за кадром на основе предыдущих взаимодействий. Это позволяет ИИ лучше адаптироваться к реальным условиям и открывает возможности в робототехнике и автономных системах.
В нашей базе собрано 53 события по теме «Google DeepMind». Мы показываем 50 последних из них.
Объединили похожие карточки: Google DeepMind; DeepMind Technologies Limited; DeepMind Technologies и другие.