Назад к дайджесту
Reddit

GUI-обвязка для LLM [видео]

Исследовательский проект: автономная программа, которая позволяет пользователю или языковой модели строить сложные приложения с помощью простых векторных примитивов. Всё упаковано в один exe-файл, включая код-интерпретатор, llama.cpp и whisper.cpp. LLM генерирует код, который исполняется и выводит векторные компоненты; также есть система отката изменений. Тестируются модели gemma-31b, Qwen-27b и DeepSeek-V4-flash.

score 40r/LocalLLaMA