Офлайн-LLM от jegly

Приватное Android-приложение для чата, работающее с большими языковыми моделями полностью на устройстве без интернета. Проект использует llama.cpp с оптимизацией под ARM NEON/SVE для инференса.