Запуск FlashNext на переработанном майнинговом железе: Strata обгоняет llama.cpp

Автор тестирует работу модели FlashNext на сборке из трех видеокарт RTX 3060 12GB, используя фреймворк Strata. Результаты показывают производительность 38-40 токенов в секунду, что значительно превосходит показатели llama.cpp (13.2 t/s) на том же оборудовании.