26-миллионный роутер инструментов: вызов функций стоит разделить с процессом рассуждений

Cactus-Compute выпустили модель Needle на 26 миллионов параметров, заточенную исключительно под вызов инструментов. Исследователи утверждают, что роутинг функций — это структурированное предсказание, а не логическое рассуждение, поэтому использовать большие LLM неэффективно. Модель работает на архитектуре без FFN, весит 14 МБ и обеспечивает высокую скорость обработки.