Reddit
Модель принятия решений Mica v0.5: 4B параметров обгоняет 395M-энкодер по скорости
Представлена модель Mica v0.5 на базе Qwen3.5-4B с LoRA, предназначенная для задач принятия решений без генерации текста. В тестах на RTX 6000 Ada она показала время отклика около 14 мс, что в 2,2 раза быстрее модели Laya (395M параметров) и в 10 раз быстрее аналогичной 4B-модели PPLX Decider.
score 40r/LocalLLaMA