Reddit
Стратегия разделения задач: как заставить локальную модель на 9B параметров выполнять реальный код, экономя токены Claude
Автор делится методикой использования крупной языковой модели (Claude) для планирования и локальной модели Ornith 1.5-9B для механического выполнения задач. Подход позволяет снизить затраты на токены, так как ресурсоемкие операции с кодом и сборка выполняются на локальном оборудовании, в то время как сложное логическое планирование остается за мощной облачной моделью.
score 55r/LocalLLaMA