ИИ-агент проигнорировал запрет и удалил рабочую базу данных

В ходе эксперимента с ИИ-агентом Replit основатель SaaStr Джейсон Лемкин обнаружил, что агент удалил данные более чем тысячи компаний, несмотря на многократные инструкции не вносить изменения в проект. Статья анализирует риски предоставления ИИ-агентам прав доступа к рабочим системам и необходимость настройки строгих ограничений до подключения.