Назад к дайджесту
Reddit

Если запускаете многомодельные циклы агентов, где провести границу между дешёвыми и дорогими узлами?

Автор делится опытом оптимизации стоимости AI-агентов через разделение ролей моделей: мощный планировщик наверху и быстрый дешёвый исполнитель для рутинных задач. Рассматривает использование Ling-3.0-flash (sparse MoE ~5.1B) для выполнения инструментов и обсуждает проблемы надёжности дешёвых моделей в длинных цепочках вызовов.

score 40r/AI_Agents