Reddit
Выход Splash 1.1.0: поддержка GGUF, импорт MLX и другие улучшения
Выпущена версия 1.1.0 фреймворка Splash, объединяющего оптимизированные ядра, спекулятивное декодирование и кэширование префиксов для локального инференса на Apple Silicon. Обновление добавило нативную поддержку квантованных моделей GGUF и импорт из MLX, что позволяет эффективно запускать крупные модели, такие как Qwen3.8 27B, с высокой скоростью на чипах M-серии.
score 55r/LocalLLaMA