Reddit
Выход Ternary Bonsai 2: модели 2B, 4B и 9B с поддержкой локального запуска в браузере
Команда Prism ML выпустила новую серию моделей Ternary Bonsai 2 объемом 2, 4 и 9 миллиардов параметров. Модель на 2B параметров способна работать полностью локально в браузере с помощью WebGPU, достигая скорости до 500 токенов в секунду на чипе M4 Max.
score 55r/LocalLLaMA