Trimming
Trimming в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
Trimming создал 5 526 оптимизированных моделей ИИ, сократив их параметры на 20–80% без потери качества
Команда Hugging Face представила метод Trimming, который позволяет упрощать архитектуру нейросетей путем обрезки словаря, работая исключительно на обычных процессорах. Техника удаляет неиспользуемые токены, оставляя трансформерные блоки нетронутыми, что делает модели быстрее и легче для развертывания. Исследование показало, что в ряде случаев удаление «шумных» элементов даже улучшает фокус модели, превзойдя исходные версии по точности.
Событие: Исследователи создали и разместили на платформе 5 526 новых моделей с обрезанным словарем, включая версии для 124 языков на базе mmBERT и 119 языков для multilingual-e5.
Эффект: Применение метода позволило сократить количество параметров в моделях встраивания до 83,84% (например, granite-embedding с 107M до 17,3M) при сохранении или улучшении производительности.
Фактор: Процесс обрезки выполняется за 8–22 минуты на обычном процессоре, что в сотни раз быстрее, чем альтернативные методы дистилляции, требующие дней работы на мощных видеокартах.
Риск: Метод не применим к архитектурам, где над слоем эмбеддингов расположены дополнительные плотные слои, так как в таких случаях наблюдается резкое падение эффективности модели.
Связь: Проведение быстрого дообучения после обрезки на небольшом наборе данных позволяет компенсировать незначительное падение качества и даже повысить его на 2,5–3,1 балла по сравнению с оригинальной моделью.
В нашей базе собрано 1 событие по теме «Trimming». Мы показываем все из них.