Механистическая интерпретируемость: упрощённый инструмент для всех

Разработчик выпустил инструмент CORTEX // MODEL OBSERVATORY для механистической интерпретируемости локальных LLM. Утилита позволяет визуализировать внутреннюю работу моделей, поддерживая архитектуры GPT2 и Llama, и доступна на GitHub под лицензией Apache 2.0. Проект ориентирован на обучение сообщества и исследование принципов работы нейросетей.