Назад к дайджесту
Новость

Инъекции промптов не чинятся фильтрами. Разбираем архитектуру для изоляции недоверенного текста

Материал посвящён проблеме безопасности LLM: смешивание доверенных данных и внешнего текста в контексте открывает векторы атак. Автор предлагает архитектурный подход к изоляции недоверенного ввода, утверждая, что стандартные фильтры не решают проблему инъекций промптов.