DS4 от создателя Redis: запуск DeepSeek с 1M контекстом на Mac Metal

Разработчик Redis Сальваторе Санфиллиппо выпустил проект DS4, позволяющий запускать модель DeepSeek V4 Flash с контекстным окном в 1 миллион токенов на оборудовании Mac Metal. Проект демонстрирует новые техники оптимизации инференса, включая работу на DGX и потенциальную поддержку AMD.