Reddit
Модель Bonsai 1.7B решает простые физические задачи на 12-ваттном Intel N97 со скоростью ~9,1 ток/с
Компактная языковая модель Bonsai 1.7B продемонстрировала способность решать простые задачи по физике, работая на маломощном процессоре Intel N97 с энергопотреблением 12 Вт. Скорость генерации составила около 9,1 токена в секунду, что подчеркивает эффективность модели при ограниченных вычислительных ресурсах.
score 40r/LocalLLaMA