BeeLlama.cpp: опыт использования и агентский код на 8 ГБ VRAM

Пользователи обсуждают форк BeeLlama.cpp с оптимизациями DFlash и TurboQuant для ускорения локальных LLM. В теме ищут отзывы о запуске агентов для кодинга с моделями Qwen и Gemma на оборудовании с 8 ГБ видеопамяти.