Назад к дайджесту
Reddit

Обсуждение оптимизации RTX 3090 для LLM

Пользователь Reddit обсуждает недавнее предупреждение о повышенном спросе на видеокарты RTX 3090, связывая его с возможными программными фиксами, которые ранее ограничивали производительность для майнинга, но теперь могут быть полезны для локального запуска больших языковых моделей. Автор выражает интерес к тому, подтверждают ли другие участники сообщества улучшение производительности 3090 в задачах ИИ.

score 40r/LocalLLaMA