Reddit
Библиотека для чанкинга на Rust в 20 раз быстрее аналогов
Разработчик представил библиотеку Chunkr на Rust, оптимизированную для быстрой обработки текстовых данных без потери точности. Инструмент поддерживает различные стратегии разбиения (рекурсивное, по маркдаун-заголовкам, иерархическое) и включает нативный загрузчик PDF, демонстрируя производительность до 20x выше по сравнению с популярными Python-решениями.
score 40r/MachineLearning