Как исследовать ложь в нейросетях: анализ активности нейронов

Статья описывает эксперимент по созданию аналога полиграфа для языковых моделей путем анализа активности нейронов на разных слоях сети. Автор демонстрирует, как можно выявить момент, когда модель знает правильный ответ, но намеренно выдает ложный, что помогает понять механизмы галлюцинаций и обмана ИИ.