Reddit
Минимальный размер LLM для осмысленного диалога
Автор ищет минимально возможное количество параметров для языковой модели, способной генерировать грамматически корректный и контекстно связный текст на английском языке. Приведен пример неудачного вывода модели размером 1M параметров, который оказался хуже шаблонного, и задан вопрос о пороговом значении параметров для микро-LLM.
score 40r/LocalLLaMA