Назад к дайджесту
Reddit

Скриншот одной фразы: почему списки «никогда не говорить» важнее общих инструкций по тону для AI-агентов

Автор обсуждает риски работы AI-агентов поддержки, когда модели дают уверенные, но запрещенные обещания или мнения из-за недостатка конкретных ограничений в системном промпте. Предлагается практика создания явного списка из трех вещей, которые агенту категорически запрещено говорить, и тестирования его на провокационных вопросах.

score 40r/AI_Agents