Как выявить скрытый сбой или деградацию LLM API и сколько времени это занимает?

Разработчики обсуждают методы мониторинга LLM API при скрытых сбоях или деградации качества ответов. Обсуждаются проблемы с задержками (TTFT), ошибками и галлюцинациями моделей OpenAI, Claude и Gemini. Автор опрашивает сообщество о времени обнаружения проблем и стратегиях реагирования.