Назад к дайджесту
Reddit

Почему «агент сжигает квоту» и «игнорирует гайдлайны» — это одна и та же проблема внимания

Автор объясняет, что истощение квоты и игнорирование стилевых гайдлайнов кодовыми агентами связаны через механизм self-attention: негативные примеры в промпте (DON'T do this) загружаются в KV-кэш и становятся семантическими аттракторами, провоцируя модель генерировать именно тот код, который нужно запретить. Для разрыва этого цикла предлагается использовать структуру позитивных инструкций с явными разрешениями на остановку и альтернативные последовательности действий вместо запрещающих примеров.

score 40r/AI_Agents