Reddit
Нужна маленькая и быстрая модель исключительно для вызова инструментов
Пользователь строит голосового ИИ-агента на базе gpt 5.6 luna и сталкивается с проблемой задержек из-за множественных вызовов инструментов между LLM и harness. Он ищет компактную и быструю модель для предварительного определения вызовов инструментов, чтобы сократить количество хопов. Протестированные варианты (jev и fine-tuned GLiNER 2.5) показали недостаточное качество tool calling.
score 40r/AI_Agents