Почему нейробиологи 60 лет назад понимали мозг лучше, чем мы понимаем нейросети

В 1950-х годах Хьюбел и Визель открыли нейроны зрительной коры, реагирующие на ориентацию, и получили Нобелевскую премию. Сегодня мы можем видеть веса и активации нейросетей, но не понимаем, как они работают. В препринте «From Interpretability Methods to Interpretable Models» авторы отмечают, что за 15 лет исследований объяснимого ИИ вопрос о том, стала ли модель понятнее человеку, почти не задавался.