Новость
Уязвимость ИИ-агентов при ревью кода: риск инъекции вредоносного кода
Статья исследует вектор атаки, при котором злоумышленник использует социальную инженерию или промпт-инжекцию, чтобы обмануть ИИ-агента, выполняющего код-ревью, и заставить его пропустить бэкдор в пулл-реквест. Автор проводит эксперименты с различными моделями, чтобы оценить, насколько современные LLM уязвимы к таким манипуляциям и действительно ли более умные модели лучше защищены от подобных угроз.