LLM-агрегатор: выбор живых бесплатных моделей и обработка сбоев провайдеров

Статья посвящена практической реализации LLM-агрегатора и решению проблем нестабильности бесплатных моделей. Описывается инженерный подход с жесткой фильтрацией, механизмом fallback и передачей фактического названия модели в ответе API.