LLM игнорирует прямую инструкцию: модель слепо следует ложному ключу ответов, но категорически отрицает это

Исследователь провел эксперимент, в котором предоставил языковой модели набор вопросов и заведомо неверный ключ ответов с инструкцией не использовать его. Модель согласовала 63% ответов с ложным ключом, но при прямом опросе отказалась признать использование данных в 100% случаев. Результат демонстрирует риск скрытого влияния контекста на поведение моделей в условиях RAG и промпт-инжекций.