Как модель EmbeddingGemma-2 (577M) заняла 1-е место в MAEB без дообучения с помощью PCA-головы

Автор улучшил результаты модели EmbeddingGemma-2 на аудио-бенчмарке MAEB, добавив 2.4 МБ замороженных матриц PCA в нуль-пространство векторов. Это позволило модели обойти 9-миллиардные аналоги, сохранив при этом компактность для работы на edge-устройствах без изменения исходных весов.