Назад к дайджесту
GitHub

Визуализация внутренних процессов LLM: сравнение квантований и сэмплеров в браузере

Проект позволяет заглянуть внутрь моделей в формате GGUF, запуская их прямо в браузере с использованием llama.cpp. Инструмент наглядно демонстрирует различия между квантованиями и работу различных алгоритмов сэмплирования токенов.

755 forksTypeScriptscore 83.4
llama-cppinterpretabilitycppquantizationgguflocal-llmsveltellmlogit-lensthreejs