Почему KLD — не идеальная метрика для оценки качества моделей

Автор разбирает заблуждение о том, что минимизация расхождения Кульбака-Лейблера (KLD) гарантирует лучшее качество модели. Показывается, что на этапах дообучения (SFT, RL) KLD может ухудшаться, в то время как способность модели решать задачи растет. Делается вывод, что единой универсальной метрики или функции потерь, полностью отражающей полезность модели, не существует.