Reddit
Пользователь с одной RTX 3090 и Qwen 27B размышляет о покупке 128 ГБ ОЗУ из-за хайпа
Автор поста рассматривает апгрейд системы до 128 ГБ оперативной памяти и процессора Ryzen 9700X ради возможности запуска квантованных версий больших языковых моделей, таких как Qwen 27B, с использованием технологии Strata. Он интересуется мнением сообщества о влиянии большого объема памяти на точность генерации и качество кода по сравнению со стандартными настройками.
score 40r/LocalLLaMA