Как большие языковые модели размывают понимание момента, когда стоит отступить

Автор отмечает парадоксальный эффект от постоянного использования LLM: из-за способности моделей генерировать новые идеи после множества неудачных попыток, теряется интуитивный сигнал о том, когда задача действительно нерешаема. Это создает иллюзию, что проблема, требующая огромных усилий, и тупиковая ситуация ощущаются одинаково, что затрудняет принятие решения о прекращении работы над ней.