Назад к дайджесту
Reddit

Пост-обучение модели AliceAI-Foundation-80B-A3B: от базовой версии к instruct на домашних V100

Автор в прямом эфире демонстрирует процесс пост-обучения (post-training) большой языковой модели AliceAI-Foundation-80B-A3B на локальном оборудовании с использованием видеокарт NVIDIA V100. Проект включает создание собственного датасета методом дистилляции через Qwen 3.8 27b, подготовку инструктивных и агентных данных, а также применение QLoRA-адаптеров для эффективной дообучения модели без изменения базовых весов.

score 40r/LocalLLaMA