Назад к дайджесту
Новость

Прунинг LLM как физик: удаление блоков как задача оптимизации Изинга

Предложен новый подход к сокращению больших языковых моделей, основанный на формулировке задачи удаления блоков как оптимизации по модели Изинга из статистической физики. Метод позволяет эффективно уменьшать размер модели, сохраняя её производительность.