Reddit
Boole-1.7B: 1-битная модель на базе Qwen3-1.7B, превосходящая Bonsai-1.7B
Компания Precision Numerics выпустила 1-битную версию модели Qwen3-1.7B под названием Boole-1.7B. Вес модели составляет всего 247 МБ, что в 13,9 раза меньше оригинала в формате BF16, при этом она демонстрирует 85,9% от средней оценки оригинала и превосходит аналогичную модель Bonsai-1.7B.
score 40r/LocalLLaMA