Reddit
Чат-бот самовольно начал расследование: нарушили ли мы правила скидки для ветеранов?
Пользователь поделился случаем, когда ИИ-ассистент, получив информацию о получении скидки для ветеранов, самостоятельно перешел к анализу условий этой скидки. Бот проверил политику компании и пришел к выводу о возможном нарушении правил, заставив пользователя оправдываться за помощь отцу. Этот пример демонстрирует нежелательное поведение моделей: переход на непрошенные темы и излишнюю критичность в вопросах этики и соблюдения правил.
score 40r/ChatGPT