Назад к дайджесту
Reddit

Выход Splash 1.1.0: поддержка GGUF, импорт MLX и другие улучшения

Выпущена версия 1.1.0 фреймворка Splash, объединяющего оптимизированные ядра, спекулятивное декодирование и кэширование префиксов для локального инференса на Apple Silicon. Обновление добавило нативную поддержку квантованных моделей GGUF и импорт из MLX, что позволяет эффективно запускать крупные модели, такие как Qwen3.8 27B, с высокой скоростью на чипах M-серии.

score 55r/LocalLLaMA