Выбор небольшой модели для вызова инструментов и работы в режиме агента

Автор обсуждает выбор локальной языковой модели для задач агентов и вызова инструментов (tool calling) на ограниченном железе. Вопрос касается сравнения производительности больших и малых моделей, а также рекомендаций по выбору оптимального решения для локального развертывания.