Открытые языковые модели
Открытые языковые модели в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
Яндекс выложил в открытый доступ претрейн-версию Alice AI Foundation LLM под лицензией Apache 2.0
Компания сделала общедоступными веса модели с 80 млрд параметров, техническую документацию и новые бенчмарки для оценки русскоязычных знаний. Открытые языковые модели получили мощный инструмент для коммерческого использования и исследований, способный эффективно обрабатывать запросы благодаря архитектуре MoE, активирующей лишь 3 млрд параметров за раз.
Событие: Яндексу удалось опубликовать код и веса Alice AI Foundation LLM на платформе Hugging Face, разрешив их свободное использование в коммерческих целях по лицензии Apache 2.0.
Фактор: Архитектура MoE с активацией только 3 млрд из 80 млрд параметров обеспечивает высокую скорость генерации ответов и снижает требования к вычислительным ресурсам при инференсе.
Эффект: Открытая модель демонстрирует результаты в программировании, превосходя NVIDIA Nemotron-3-Super-120B-Base, и сопоставима с более крупной закрытой Alice AI LLM по качеству русскоязычных фактологических ответов.
Инсайт: Разработка собственных бенчмарков WikiWebFacts и HardMultiQA на базе реальных запросов к Алисе AI позволяет объективно оценивать качество открытых моделей в узких доменах, где англоязычные тесты не работают.
Открытые языковые модели как платформа для агентных ИИ-систем
NVIDIA представила новую версию открытых языковых моделей Nemotron 3, позиционируя их как базу для агентных ИИ-систем. Модель не только отвечает на вопросы, но и выполняет сложные задачи с помощью внешних инструментов. В отличие от закрытых решений, Nemotron 3 делает доступными веса, данные и рецепты обучения, что расширяет возможности их применения. В будущем планируется выпуск версии Nemotron 3 Ultra с 500 миллиардами параметров, которая войдёт в число крупнейших открытых моделей в мире.
Снижение вычислительных затрат через оптимизацию внимания
Открытые языковые модели, такие как DeepSeek-V3.2-Exp, применяют новую архитектуру «DeepSeek Sparse Attention», которая позволяет сократить вычислительную нагрузку при обработке длинных текстов. Вместо полного анализа всех связей между словами модель фокусируется только на наиболее важных, используя для этого компоненту «lightning indexer». Это позволяет уменьшить количество необходимых вычислений без потери качества понимания текста. Модель доступна под лицензией MIT, что способствует её применению в исследовательских и коммерческих целях.
В нашей базе собрано 3 события по теме «Открытые языковые модели». Мы показываем все из них.
Объединили похожие карточки: Открытые языковые модели; Модели искусственного языкового интеллекта с открытым доступом; Открытые модели обработки естественного языка и другие.