Agent-sec: Теги происхождения и «Смертельная тройка» в безопасности AI-агентов

Автор делится проблемами безопасности при разработке AI-библиотеки, фокусируясь на непрямой инъекции промптов через недоверенный контент и нарушениях потока информации между действиями агента. Обсуждаются подходы к защите: от жестко заданных правил и фильтров вывода до использования готовых решений-гаурдрейлов, которые агент может выбирать самостоятельно.