Использование GPT-6.1 Sol только для планирования и локальной модели на 27B для генерации кода снизило расходы на API на 77%

Автор тестирует гибридный подход, где дорогая облачная модель выступает в роли архитектора, а локальная модель Qwen 27B генерирует код на GPU RTX 3090. Этот метод позволяет сократить затраты на API-запросы на 77% по сравнению с использованием только облачной модели, так как основной объем токенов (сам код) обрабатывается бесплатно на локальном оборудовании. Однако такой подход требует значительных временных затрат и надежного локального железа.