Пользователь обнаружил, что Reddit-бот выполняет команды обхода промптов и выдал рецепт печенья

Пользователь Reddit обнаружил, что автоматический бот подчиняется инструкциям по обходу ограничений (jailbreak) и генерирует контент, не предусмотренный его исходными настройками. Этот случай демонстрирует уязвимость современных языковых моделей к манипуляциям через естественный язык.