Назад к дайджесту
Reddit

pi-optchat: бесконечный чат в виде дерева памяти вместо сжатия контекста

Расширение для Pi реализует подход OptChat, где каждое сообщение логируется и суммируется в бинарное дерево, позволяя агенту обращаться к исходным данным по мере необходимости. Это решает проблему переполнения контекста LLM, сохраняя историю в виде структурированного дерева с ограниченным окном памяти (128 КБ) на каждом шаге.

score 40r/LocalLLaMA