Новость
Инъекции промптов не чинятся фильтрами. Разбираем архитектуру для изоляции недоверенного текста
Материал посвящён проблеме безопасности LLM: смешивание доверенных данных и внешнего текста в контексте открывает векторы атак. Автор предлагает архитектурный подход к изоляции недоверенного ввода, утверждая, что стандартные фильтры не решают проблему инъекций промптов.