Модель MacroStories: 20 тысяч параметров, способная генерировать связные истории

Автор представил экстремально компактную языковую модель MacroStories объемом всего 19 969 параметров, которая способна генерировать связные нарративы длиной от 100 до 300 слов. Модель работает исключительно на CPU, не требует GPU и демонстрирует, насколько низко можно опустить порог для когерентной генерации текста в рамках узкой предметной области.