Назад к дайджесту
GitHub

Quitetall/tritium

Библиотека для инференса и обучения ternary-моделей (веса -1, 0, 1) с поддержкой CUDA и CPU, использующая ядра BitNet/TQ.

252 forksRustscore 69
inference-enginequantizationggufrustbitnetcudallmmachine-learningternaryllm-inference