Назад к дайджесту
Reddit

NVIDIA AI представила Star Elastic: единый чекпоинт с моделями рассуждений 30B, 23B и 12B

NVIDIA AI выпустила архитектуру Star Elastic, позволяющую извлекать модели рассуждений разного размера из единого чекпоинта без дообучения. Система использует обучаемый роутер для динамического переключения между конфигурациями, оптимизируя инференс за счёт разделения фаз мышления и генерации. Это решение позволяет запускать локально модели разного уровня сложности в одном файле, экономя ресурсы.

score 100r/LocalLLaMA