Reddit
Стоит ли доверять AI-агенту бесконечные попытки выполнения задачи во время вашего сна?
Автор анализирует риски автономных AI-агентов, которые могут зацикливаться на выполнении задач, генерируя растущие расходы на API без видимого контроля. Рассматривается симуляция цикла, где каждый новый запрос включает полную историю предыдущих неудач, что приводит к экспоненциальному росту стоимости и заполнению контекстного окна. Поднимается вопрос необходимости явных лимитов и механизмов прерывания для предотвращения скрытых сбоев и финансовых потерь.
score 40r/artificial