Сдвиг вычислительных затрат: от предобучения к пост-обучению за последние два года

Анализ показывает, что доля вычислительных ресурсов, затрачиваемых на этапы после предобучения (такие как дообучение и тонкая настройка), значительно выросла по сравнению с затратами на само предобучение моделей. Это отражает эволюцию подходов к разработке ИИ, где оптимизация и адаптация моделей становятся не менее важными, чем их первоначальное обучение.