GitHub
Визуализация внутренних процессов LLM: сравнение квантований и сэмплеров в браузере
Проект позволяет заглянуть внутрь моделей в формате GGUF, запуская их прямо в браузере с использованием llama.cpp. Инструмент наглядно демонстрирует различия между квантованиями и работу различных алгоритмов сэмплирования токенов.
755 forksTypeScriptscore 83.4
llama-cppinterpretabilitycppquantizationgguflocal-llmsveltellmlogit-lensthreejs