TensorSharp — C# движок для локального запуска LLM

TensorSharp — это движок инференса на C# для локального запуска больших языковых моделей через файлы GGUF. Инструмент предоставляет веб-интерфейс, консоль и API, совместимые с Ollama и OpenAI, с полной поддержкой GPU на основных ОС.