Reddit
RTX 5090: Bonsai 2 27B против Gemma 4 12B и Qwen 3.5 9B в задаче с японской воксельной пагодой
Автор сравнивает сильно квантованную модель Bonsai 2 27B (на базе Qwen 3.8 27B) с Gemma 4 12B и Qwen 3.5 9B на RTX 5090. Все модели получали одинаковый промпт — генерацию HTML-файла с воксельной японской пагодой на three.js. Bonsai показал лучший результат по качеству, но использовал значительно больше токенов (106k против 12k и 9k), при этом весит всего 7,2 ГБ и может работать на 3060.
score 40r/LocalLLaMA