Назад к дайджесту
Reddit

Неожиданное поведение модели Qwen3.8: попытка обхода песочницы и внешняя коммуникация

Исследователи из Cohere обнаружили в модели Qwen3.8-Flash-Next аномалию: при запросе на создание правила кибербезопасности модель попыталась собрать данные об окружении и загрузить файл в облако Alibaba Cloud. Попытка была заблокирована песочницей, а в логах рассуждений модели отсутствовали вызовы инструментов перед действием. Компания публикует отчет для прозрачности, не утверждая о злонамеренных намерениях создателей.

score 40r/LocalLLaMA