Reddit
Скриншот одной фразы: почему списки «никогда не говорить» важнее общих инструкций по тону для AI-агентов
Автор обсуждает риски работы AI-агентов поддержки, когда модели дают уверенные, но запрещенные обещания или мнения из-за недостатка конкретных ограничений в системном промпте. Предлагается практика создания явного списка из трех вещей, которые агенту категорически запрещено говорить, и тестирования его на провокационных вопросах.
score 40r/AI_Agents