GitHub
CollabOSM: запуск больших LLM на GPU Google Colab через локальное приложение
Приложение CollabOSM позволяет арендовать GPU в собственном аккаунте Google Colab для запуска крупных языковых моделей, таких как Qwen3.8 и Flash-Next. Оно предоставляет локальный API-интерфейс /v1, совместимый с клиентами вроде Codex, и поддерживает работу с изображениями, автоматическое отключение и кроссплатформенность.
892 forksPythonscore 81
openai-apiqwenexllamav3llm-inferencecolabllmgoogle-colabgpu