Как я ужал русский эмбеддер до 24 млн параметров — и чуть не испортил его одной цифрой

Автор оптимизировал русскую модель эмбеддинга для локального RAG на ограниченном iGPU, сократив размер до 24 млн параметров. Сравнение с BGE-M3 показало значительный прирост пропускной способности в конвейере поиска, хотя точность могла пострадать. Статья описывает процесс дистилляции и выбор слоёв модели для баланса скорости и качества.