GitHub
Quitetall/tritium
Библиотека для инференса и обучения ternary-моделей (веса -1, 0, 1) с поддержкой CUDA и CPU, использующая ядра BitNet/TQ.
252 forksRustscore 69
inference-enginequantizationggufrustbitnetcudallmmachine-learningternaryllm-inference