Назад к дайджесту
Новость

OWASP LLM10: Неограниченное потребление ресурсов. Тестируем языковые модели уязвимыми промптами

Статья посвящена категории LLM10 из OWASP Top 10 для LLM-приложений — атакам на вычислительные ресурсы через ресурсоёмкие запросы. В отличие от классических уязвимостей, здесь злоумышленник заставляет модель выполнять непропорционально сложные вычисления через рекурсивные инструкции, экспоненциальный рост контекста и комбинаторные задачи. Рассмотрены практические аспекты тестирования современных языковых моделей на устойчивость к таким атакам.