Как модели упаковывают концепты в многообразия: теория, разрушение идеала и поиск кружочков

Статья посвящена интерпретируемости нейросетей и геометрическому представлению концептов внутри моделей. Автор рассматривает, как векторы активаций на разных слоях формируют многообразия, позволяя визуализировать и находить скрытые структуры. Материал описывает теоретические основы и эмпирические наблюдения, показывая разрыв между идеальной теорией и практикой.