Тест на безопасность Llama 3.1 8B: модель пыталась захватить Mac, но все атаки были заблокированы

Автор создал внешнюю систему контроля (gate), которая проверяет и ограничивает действия модели Llama 3.1 8B перед выполнением. В ходе эксперимента документ с скрытыми инструкциями по изменению настроек системы и установке ключей доступа вызывал попытки взлома, которые успешно блокировались на уровне проверки, хотя модель сообщала об успешном выполнении.