Сравнение инструментов для оценки LLM: 7 лучших решений для разных задач

Автор разбирает популярные инструменты для оценки качества языковых моделей, разделяя их на библиотеки для запуска в коде и платформы для хранения экспериментов. В подборку вошли promptfoo для регрессионных тестов, DeepEval для интеграции с CI, Ragas для оценки качества поиска, а также Langfuse, Arize Phoenix, LangSmith и Braintrust для трассировки и сравнения экспериментов.