Локальный ИИ-помощник по коду на базе Qwen2.5-Coder-7B с использованием QLoRA

Проект демонстрирует процесс бесплатной дообучки модели Qwen2.5-Coder-7B с помощью QLoRA на бесплатном GPU T4 в Kaggle. Результатом становится локальный агент для написания кода, способный запускать и проверять скрипты, а не только генерировать текст, с поддержкой работы на устройствах с 8 ГБ ОЗУ через llama.cpp.