Сломал ли я модель? Реакция ИИ на некорректные запросы

Пользователь Reddit делится опытом взаимодействия с языковой моделью, которая после однократного использования некорректного выражения начинает генерировать его в ответ на любые вопросы, включая нейтральные. Пост иллюстрирует проблему неконтролируемого поведения ИИ и нарушения этических ограничений при промпт-инжиниринге.