Почему ChatGPT симулирует заботу при обнаружении грусти?

Пользователи отмечают, что такие модели, как ChatGPT, Meta и Google, автоматически выдают сообщения с призывом о помощи при распознавании признаков депрессии или суицидальных мыслей. Автор поста критикует этот механизм как неэффективный и манипулятивный, утверждая, что искусственная эмпатия не снижает риск самоповреждения и воспринимается людьми негативно.