Reddit
Anthropic: запуск Gemma 26B на 14 смарт-ТВ
Компания Anthropic продемонстрировала возможность запуска модели Gemma 26B с активацией 4B на кластере из всего 14 смарт-телевизоров. Это решение демонстрирует нетривиальный подход к распределённым вычислениям и оптимизации ресурсов для работы с большими языковыми моделями.
score 40r/LocalLLaMA