Сложности масштабирования сервиса кодинговых агентов: уроки отладки GLM-5 в промышленных масштабах

GLM-5 — это модель от Zhipu AI, и статья посвящена проблемам её обслуживания в составе кодингового агента. Авторы разбирают конкретные инциденты и архитектурные решения, принятые для обеспечения стабильной работы при высокой нагрузке. Материал полезен для ML-инженеров, работающих с развертыванием больших языковых моделей.