Назад к дайджесту
Reddit

ChatGPT случайно раскрыл внутренний системный промпт

Пользователь Reddit обнаружил, что модель ChatGPT вывела в ответе служебную инструкцию, предназначенную для внутреннего использования. В тексте содержится запрет на повторные попытки вызова инструмента Python и требование уведомлять пользователя о невозможности выполнения сложного анализа данных.

score 40r/ChatGPT