MTP в llama.cpp теперь декодирует быстрее, чем ds4, благодаря GLM 5.3 Flash

Разработчик отмечает, что метод множественного токенизационного прогнозирования (MTP) в библиотеке llama.cpp на чипах Apple Silicon начал показывать производительность, превосходящую алгоритм ds4. Это достижение стало возможным благодаря использованию GLM 5.3 Flash, что делает MTP наконец полезным инструментом для ускорения генерации текста в данной среде.