Назад к дайджесту
Reddit

Сравнение DDR4/PCIe4 и DDR5/PCIe5 для предобучения LLM: результаты бенчмарков

Автор провел тестирование рабочих станций для предобучения больших языковых моделей, сравнив конфигурации на базе DDR4/PCIe4 и DDR5/PCIe5. Результаты показали ускорение на 15-20% при использовании более быстрой памяти и шины, однако экономическая целесообразность DDR5 снижается из-за высокой стоимости ОЗУ по сравнению с добавлением дополнительного GPU.

score 40r/LocalLLaMA