Плагин vLLM для получения эмбеддингов из уже загруженной LLM

Разработан плагин для vLLM, позволяющий извлекать векторные представления (эмбеддинги) из скрытых состояний уже загруженной мультимодальной языковой модели без необходимости загрузки отдельных моделей. Метод основан на использовании последнего скрытого состояния декодера, что позволяет применять существующие LLM для локального RAG, семантического поиска и кластеризации данных.