Модель Inkling-Small от thinkingmachines

Компания thinkingmachines выпустила модель Inkling-Small с архитектурой MoE: 276 млрд параметров, 12 млрд активных и контекст 1 млн токенов. Модель доступна в форматах NVFP4 и GGUF, а также поддерживается в llama.cpp для инференса на CUDA и CPU.