Reddit
Запуск EmbeddingGemma 2 локально в браузере через WebGPU
Пользователь поделился демонстрацией работы модели EmbeddingGemma 2 от Google непосредственно в веб-браузере с использованием технологии WebGPU. Проект позволяет выполнять инференс локально на стороне клиента, обеспечивая конфиденциальность и скорость за счет аппаратного ускорения.
score 40r/LocalLLaMA