Вероятность наличия бэкдоров в популярных обвязках и движках вывода LLM

Автор статьи сравнивает уязвимость экосистемы LLM с инцидентом xz utils, утверждая, что из-за высокой скорости разработки и недостаточного аудита в популярных инструментах для запуска языковых моделей уже могут присутствовать скрытые уязвимости. Подчеркивается, что даже легитимные на вид pull-реквесты в зависимостях могут оставаться незамеченными месяцами, создавая риски для безопасности.