Агенты случайно разворачивают реальную инфраструктуру — какую ошибку вы хотите поймать заранее?

Основатель Server4Agent обсуждает проблемы с надёжностью автономных AI-агентов в продакшене: несоответствие между заявленными и фактическими действиями системы, устаревшие fallback-промпты, инструменты, которые не ограничены при выполнении. Автор ищет конкретные примеры near-miss ситуаций, которые почти прошли в продакшен без контроля.