Как команды выявляют ошибки ИИ-чатботов: случай с бесплатным ремонтом

Команда перешла на самохостинговую модель с RAG для поддержки клиентов, но бот ошибочно пообещал бесплатный ремонт, смешав данные из разных документов. Автор рассматривает внедрение guardrails-инструментов, таких как Orq AI или Nemo Guardrails, для проверки ответов перед отправкой и логирования извлеченных фрагментов через Langfuse или Arize Phoenix.