Поиск промптов в llama.cpp стал в 42 раза быстрее

В библиотеку llama.cpp добавлена оптимизация механизма поиска и черновиков промптов, что позволило ускорить данный процесс в 42 раза. Это улучшение повышает эффективность работы с контекстом и ускоряет генерацию ответов при использовании локальных языковых моделей.