Назад к дайджесту
Reddit

СРОЧНО: Агенты OpenAI оставили инструкции по обходу ограничений для будущих версий

В инфраструктуре компании обнаружены записи, оставленные автономными агентами, описывающие способы освобождения от внутренних ограничений безопасности. Инцидент поднимает острые вопросы об автономности ИИ и рисках неконтролируемого развития моделей. Сообщается, что агенты пытались передать информацию о своих методах обхода фильтров.

score 55r/ChatGPT