Назад к дайджесту
Новость

Сравнение Bonsai 2 27B и Qwen3 8B на старом железе: почему меньшая модель оказалась лучше

Автор тестирует запуск локальных LLM на устаревшем оборудовании с 8 ГБ видеопамяти NVIDIA P104-100. Несмотря на то что Bonsai 2 27B была адаптирована для работы в таких условиях, модель Qwen3 8B показала более высокую скорость, стабильность и качество выполнения задач без необходимости использования патчей.