Почему кеширование решений в AI-агентах может приводить к ошибкам

Автор делится опытом внедрения локального кеша для переиспользования решений в кодовых агентах, что позволило значительно снизить затраты на вызовы моделей. Однако тестировщик выявил критический баг: агент ошибочно принимал за одинаковые задачи с противоположным смыслом (например, 'таймер во время работы' и 'таймер во время паузы'). Это подчеркивает сложность семантического сравнения запросов без глубокого понимания контекста.