Какие внутренние сигналы модели наиболее полезны при генерации LLM в реальном времени?

Автор обсуждает визуализацию внутренних сигналов локальных языковых моделей, включая паттерны внимания и изменения логитов. Запрос касается того, какие метрики действительно помогают понять поведение модели, а какие лишь выглядят эффектно. Тема ориентирована на исследователей в области интерпретируемости и оценки нейросетей.