GitHub
YOLOW92/pagesift: высокопроизводительный веб-скрапер на Rust для RAG и AI-агентов
Библиотека pagesift написана на Rust и оптимизирована для извлечения контента и адаптивного парсинга веб-страниц. Она предоставляет инструменты для генерации чистого Markdown, структурированных данных и парсинга PDF/RSS, а также поддерживает рендеринг браузеров и API, совместимые с Firecrawl, что делает её полезной для подготовки данных в системах RAG.
9414 forksRustscore 82.2
web-crawlerhtml-to-markdowndata-extractionrustmarkdownai-agentsfirecrawlragmcpweb-scraping