Назад к дайджесту
Reddit

llama.cpp теперь поддерживает модели Cohere

Команда Cohere официально добавила поддержку своих моделей в библиотеку llama.cpp, включая архитектуру визуального энкодера North Micro Vision. Это завершает интеграцию всех актуальных архитектур компании, ранее уже поддерживавшихся через LLM-компоненты. Дополнительно упоминается доступность модели Transcribe для дообучения в Unsloth.

score 55r/LocalLLaMA