Якобиан линзы: можно ли прочитать мысли ИИ?

Обсуждение концепции использования матриц Якоби для интерпретации внутренних состояний нейронных сетей. Поднимается вопрос о возможности дешифровки того, как именно искусственный интеллект обрабатывает информацию и принимает решения.