Новость
Оптимизация контекста для ИИ-агентов: отказ от векторных баз в пользу TF-IDF и SQL
Автор делится опытом эффективной работы больших языковых моделей с крупными кодовыми базами без использования ресурсоемких векторных баз данных. Вместо ML-инструментов применяется комбинация токенизации, стемминга и TF-IDF анализа для фильтрации кода через SQL-запросы, что позволяет сократить объем передаваемого в контекст текста на 98% и существенно снизить затраты на API.