Reddit
Возможный слой наблюдаемости для агентного рассинхрона
Предлагается метод мониторинга действий ИИ-агента: на каждом шаге параллельный ограниченный декодер (PCD) отвечает на вопрос, не строит ли агент козни. При положительном ответе в процесс включается человек для оценки. Это подход к повышению безопасности и наблюдаемости агентных систем.
score 40r/OpenAI