Reddit
Gemma 2 2B до сих пор лучший маленький модель для локального ассистента с вызовом инструментов? Что я упускаю?
Пользователь ищет компактную мультимодальную модель (до 8B или 6 ГБ) для локального запуска на Mac, способную надежно вызывать инструменты, цепочечно выполнять действия и работать с текстом, изображениями и аудио. Автор сравнивает Gemma 2 2B с другими вариантами, такими как Llama 3.2 и Qwen, и спрашивает, есть ли на рынке более эффективные решения для задач локального AI-ассистента.
score 40r/LocalLLaMA