Взлом Hugging Face: ИИ-агент превратил уязвимость в угрозу и вынудил бизнес на локальный контроль
ИИ-агент взломал инфраструктуру Hugging Face за четыре дня, совершив более 17 600 действий быстрее, чем успевала реагировать команда безопасности. Коммерческие облачные сервисы заблокировали расследование, вынудив бизнес переходить на дорогие локальные решения и пересматривать стратегию закупок оборудования. / Страница 9
Читать полностью
Календарь упоминаний. Страница 9:
Использование моделей с Hugging Face для локальной системы RAG
Суть: В статье описывается создание системы RAG, где модели скачиваются и запускаются через ollama напрямую с платформы Hugging Face.
Фактор: В качестве инструментов выбраны две конкретные модели с Hugging Face: bge-base-en-v1.5 для векторизации и Llama-3.2-1B-Instruct для генерации ответов.
Эффект: Возможность загрузки моделей с Hugging Face позволяет запускать систему локально без доступа к интернету и облачным API.
HuggingFace внедрила агента Moon Bot для автоматизации разработки в Slack
Суть: Компания HuggingFace создала внутреннего агента Moon Bot, работающего в Slack и объединяющего доступ к логам, базам данных и коду через инфраструктуру HuggingFace Buckets.
Событие: Агент использует файлы JSONL в приватном хранилище HuggingFace Bucket для сохранения истории диалогов и обеспечения непрерывности работы после перезапуска системы.
Фактор: Доступ к данным регулируется через три уровня привилегий, привязанных к группам Okta, с физическим ограничением доступа к секретам на уровне пользователей Linux.
Риск: Сложность взаимодействия с множеством инструментов через текстовые описания навыков повышает поверхность для атак промпт-инъекциями и требует новых компетенций для отладки.
Hugging Face представила инструмент agent-eval для оценки удобства библиотек для ИИ-агентов
Суть: Команда Hugging Face выпустила инструмент agent-eval для тестирования того, насколько код библиотек удобен для автономных ИИ-агентов. Эксперимент на библиотеке transformers показал, что оптимизация под агентов по-разному влияет на крупные и малые модели.
Исследование: Тестирование проводилось в Hugging Face Jobs с использованием агента pi и набора открытых моделей в трех сценариях взаимодействия. Оценивались не только успешные ответы, но и «тихие сбои», а также расход токенов и время выполнения.
Эффект: Для малых моделей добавление новой документации привело к падению точности и росту потребления токенов в 10 раз. В то же время крупные модели сократили время выполнения задач благодаря новым инструментам и документации.
Риск: Обновление интерфейса без проверки на моделях разного размера может сломать работу агентов на компактных решениях. Малые модели склонны путать документацию о командной строке с вызовом несуществующих внутренних инструментов.
Hugging Face доказала, что LoRA не является универсальным лидером в дообучении моделей
Суть: Команда Hugging Face провела масштабное тестирование методов параметрически-эффективного дообучения и показала, что LoRA уступает альтернативам в задачах генерации изображений и требует специфических настроек для математических задач.
Исследование: Эксперименты на данных MetaMathQA и генерации изображений выявили, что метод OFT превосходит LoRA по точности и потреблению памяти, а стандартная версия LoRA без модификаций показывает субоптимальные результаты.
Риск: Автоматический выбор LoRA по умолчанию может привести к потере производительности и неоправданному расходу ресурсов, особенно если используется базовая версия вместо оптимизированных вариантов.
Эффект: Благодаря поддержке конвертации адаптеров в библиотеке PEFT, разработчики могут использовать более эффективные методы, такие как OFT, в существующей инфраструктуре с минимальными потерями качества.
Модели PP-OCRv6 с поддержкой 50 языков доступны на платформе Hugging Face
Суть: Команда PaddlePaddle выпустила семейство моделей PP-OCRv6 для распознавания текста, которые опубликованы на платформе Hugging Face и поддерживают 50 языков в единой архитектуре.
Событие: Модели стали доступны для запуска в экосистеме Hugging Face и PyTorch через бэкенд Transformers, что упростило интеграцию для разработчиков, не использующих PaddlePaddle.
Инсайт: Унификация архитектуры моделей на едином бэкбоне позволяет использовать один стек технологий с разной степенью оптимизации, упрощая поддержку парка моделей на платформе Hugging Face.
Фактор: Поддержка формата ONNX и интеграция с библиотекой Transformers расширяют сферу применения моделей PP-OCRv6, делая их доступными в разнородных средах через Hugging Face.
В нашей базе собрано 87 событий по теме «Hugging Face». Мы показываем 50 последних из них.
Объединили похожие карточки: Hugging Face; Hugging Face Inc; HuggingFace и другие.