Интерактивная демонстрация атак Prefix Injection для обхода ограничений LLM

Представлена интерактивная демонстрация атак типа Prefix Injection, используемых для взлома (jailbreaking) языковых моделей. Материал позволяет наглядно увидеть, как инъекция префиксов позволяет обходить защитные механизмы нейросетей.