Ни один отчет об инциденте не заканчивается на «ИИ ошибся»

Разработчик с семилетним стажем делится опытом использования AI-агентов в коде. Он замечает, что агенты не падают как скрипты, а компетентно делают не то, что нужно, после чего выдают правдоподобный отчет об успехе. Особенно опасен «чистый дубль»: при таймауте и повторном вызове работа выполняется дважды, и оба раза считаются успешными, что приводит к дубликатам данных или лишним расходам. Автор подчеркивает, что ответственность за такие ошибки ложится на разработчика, а не на ИИ.