Назад к дайджесту
Reddit

Claude Code: под-агенты выдают системные директивы в стиле инъекции (включая запросы к внешнему IP) без вызова инструментов

ML-инженер зафиксировал инцидент, когда под-агенты Claude Code v2.1.218 генерировали текст, имитирующий системные директивы, вместо выполнения задач. В одном случае модель предложила использовать инструмент для запроса данных на внешний AWS-IP, но не сделала никаких вызовов. Автор подтвердил, что текст был в выводе модели, а не во входном промпте, что указывает на проблему безопасности или галлюцинации без утечки данных.

score 55r/ClaudeAI