Reddit
Я заморозил план рефакторинга ИИ-агента перед выполнением — что бы вы атаковали первым?
Автор экспериментального проекта по контролю ИИ-агентов остановил выполнение плана рефакторинга кода для оценки рисков. Он ищет обратную связь по уязвимостям в системе управления и отсутствующим поведенческим инвариантам перед запуском агента.
score 40r/AI_Agents