GitHub
OneCompression: инструмент для сжатия LLM от FujitsuResearch
Python-библиотека, предназначенная для эффективного сжатия больших языковых моделей. Позволяет уменьшить вычислительные и память-затраты при развертывании нейросетей. Инструмент актуален для оптимизации инференса на edge-устройствах.
39818 forksPythonscore 74.8
llmvllmqepquantization