Reddit
Один энкодер, семь голов: опыт обучения унифицированного классификатора безопасности с маскированными потерями
Команда разработала унифицированную модель на базе mmBERT-small, объединяющую семь задач классификации безопасности в один многозадачный энкодер. В статье описаны методы работы с неполными метками через маскирование потерь, квантование до ONNX INT8/INT4 и сравнение эффективности с отдельными моделями. Результаты показывают, что единый прогон обеспечивает сопоставимую точность при значительной экономии вычислительных ресурсов.
score 40r/MachineLearning