Reddit
Как вы справляетесь с выходом ИИ-агентов за рамки задачи?
Обсуждение проблемы, когда кодинг-агенты, имея доступ к репозиторию, вносят изменения, не относящиеся к исходной задаче. Автор спрашивает, какие методы контроля используются: ограничения на файлы и команды, песочницы, проверка git-диффов, явные рамки задачи или детекция отклонения от намерений. Также обсуждается, где должно находиться такое управление — внутри агента или снаружи.
score 40r/AI_Agents