Guardrails для LLM: механизмы защиты от атак и инъекций

Статья рассматривает уязвимость языковых моделей к обходу защитных фильтров, включая атаки транслитом и инъекции промптов. Описывается необходимость внедрения систем Guardrails, которые анализируют запросы намерений и предотвращают выполнение вредоносных инструкций.