Darwin-36B-Opus
Darwin-36B-Opus в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
POCKET-35B запускает новую эру локального ИИ на базе архитектуры Darwin-36B-Opus
Семейство моделей POCKET, созданное VIDRAFT_LAB, использует архитектуру Darwin-36B-Opus в качестве фундаментальной основы для реализации работы на стандартном оборудовании без мощных видеокарт. Благодаря применению методов обрезки экспертов и смешанного квантования к базе Darwin-36B-Opus, разработчикам удалось снизить требования к памяти и ускорить генерацию текста на процессорах. Это решение позволяет запускать модели с 35 млрд параметров на ноутбуках и смартфонах, где ключевым ресурсом становится объем оперативной памяти, а не вычислительная мощность GPU.
Событие: Компания VIDRAFT_LAB выпустила семейство моделей POCKET, архитектура которых базируется на базе Darwin-36B-Opus.
Эффект: Применение методов оптимизации к Darwin-36B-Opus позволило сократить объем данных, читаемых с памяти на каждый токен, в 5 раз по сравнению с плотными моделями.
Фактор: Высокая скорость генерации на CPU и GPU в новых версиях достигается за счет использования механизма «смеси экспертов» в базе Darwin-36B-Opus, активирующего лишь 3 млрд параметров.
Связь: Совместимость Darwin-36B-Opus со стандартными инструментами llama.cpp и LM Studio устраняет необходимость в модифицированном софте для запуска локального ИИ.
В нашей базе собрано 1 событие по теме «Darwin-36B-Opus». Мы показываем все из них.