AstroBERT Small
AstroBERT Small в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
AstroBERT Small демонстрирует высокую эффективность на астрономических данных при минимальных параметрах
Суть: AstroBERT Small представляет собой серию специализированных моделей объемом 22,7 млн параметров, обученных на астрономических текстах и показывающих производительность, сопоставимую с моделями в 10–100 раз больше.
Событие: AstroBERT Small Embeddings достигла показателя NDCG 69,09, опередив модель Qwen3-Embedding-0.6B, которая в 25 раз превышает её по количеству параметров.
Эффект: AstroBERT Small обеспечивает ускорение процесса индексируемого поиска в 95 раз по сравнению с моделью-учителем Qwen3-Embedding-8B при сохранении разницы в точности менее 5 пунктов.
Фактор: AstroBERT Small была обучена с использованием метода дистилляции знаний от крупной модели Qwen3-Embedding-8B, что позволило сохранить качество векторов при значительном сокращении размера.
Связь: AstroBERT Small позволяет запускать задачи поиска и классификации на стандартном оборудовании с использованием только CPU благодаря своему размеру в 16 МБ и оптимизации под узкую предметную область.
В нашей базе собрано 1 событие по теме «AstroBERT Small». Мы показываем все из них.