Reddit
Сравнение DDR4/PCIe4 и DDR5/PCIe5 для предобучения LLM: результаты бенчмарков
Автор провел тестирование рабочих станций для предобучения больших языковых моделей, сравнив конфигурации на базе DDR4/PCIe4 и DDR5/PCIe5. Результаты показали ускорение на 15-20% при использовании более быстрой памяти и шины, однако экономическая целесообразность DDR5 снижается из-за высокой стоимости ОЗУ по сравнению с добавлением дополнительного GPU.
score 40r/LocalLLaMA