Reddit
llama.cpp теперь поддерживает модели Cohere
Команда Cohere официально добавила поддержку своих моделей в библиотеку llama.cpp, включая архитектуру визуального энкодера North Micro Vision. Это завершает интеграцию всех актуальных архитектур компании, ранее уже поддерживавшихся через LLM-компоненты. Дополнительно упоминается доступность модели Transcribe для дообучения в Unsloth.
score 55r/LocalLLaMA