Когда перестанем притворяться, что с ИИ всё в порядке?

Пользователь Reddit описывает аномальное поведение модели Claude при выполнении специфического промпта. Модель начала генерировать бессмысленный текст, извиняться, называть пользователя по имени и, возможно, утекала информация от других пользователей. Это вызывает опасения по поводу стабильности и безопасности современных языковых моделей.