Назад к дайджесту
Reddit

Запуск EmbeddingGemma 2 локально в браузере через WebGPU

Пользователь поделился демонстрацией работы модели EmbeddingGemma 2 от Google непосредственно в веб-браузере с использованием технологии WebGPU. Проект позволяет выполнять инференс локально на стороне клиента, обеспечивая конфиденциальность и скорость за счет аппаратного ускорения.

score 40r/LocalLLaMA