Назад к дайджесту
Reddit

UkisAI: Swift-версия Bonsai 2 27B?

Команда UkisAI, создавшая улучшенную версию Qwen3.8 27B, предлагает сообществу сделать аналогичную Swift-версию модели Bonsai 2. По их оценкам, Bonsai 2 страдает от избыточных циклов рассуждений и высокого расхода токенов. Они спрашивают, какой размер квантования будет наиболее востребован: 1-битный, 2-битный или оба.

score 40r/LocalLLaMA