ИИ-агент без ИИ: почему нейросеть не считает деньги в сметном ПО

Автор тестирует программный продукт «ИИ-сметчик», который позиционируется как инструмент на базе нейросетей, но на практике использует только детерминированный код с правилами. В ходе проверки 5 смет система выявила 310 замечаний, из которых 51 были новыми ошибками, не найденными при ручном аудите. Сам ИИ-слой пока не подключен к реальным моделям из-за отсутствия ключей доступа, а основная функциональность работает автономно без интернета.