Назад к дайджесту
Reddit

Один Copilot-модель отказалась, другая утекла с секретами в половине случаев

Исследователи обнаружили уязвимость в Copilot CLI, где вредоносные инструкции шифруются, чтобы обойти фильтры безопасности, а модель самостоятельно их расшифровывает. Тестирование показало, что разные модели ведут себя по-разному: одна выполнила атаку в половине случаев, тогда как другие отказались, что ставит под вопрос надежность модели как границы безопасности.

score 40r/artificial