Назад к дайджесту
GitHub

Rose: Оптимизатор PyTorch с уравновешиванием диапазонов срезов

Новый инструмент для фреймворка PyTorch, реализующий метод Range-Of-Slice Equilibration. Оптимизатор работает без сохранения состояния, используя нормализованные обновления градиентов на основе диапазонов. Предназначен для улучшения процесса обучения нейронных сетей.

504 forksPythonscore 83.4
gradient-descentdeep-learningaillmoptimizerspytorchdiffusion-modelsmachine-learningadam-optimizerfine-tuning