От 100 КБ до 2,5 ТБ: полная карта спектра ИИ-моделей и стоимость их запуска

Автор анализирует спектр современных ИИ-моделей, доказывая, что большинство задач не требуют гигантских дата-центров. Описаны три ключевых сегмента: TinyML для микроконтроллеров, локальные модели на 7–35 млрд параметров для потребительского железа и огромные MoE-архитектуры, требующие серверных кластеров. Статья содержит расчеты потребления VRAM и выбор оптимального оборудования для разных сценариев.