Раскрыты принципы поведения модели OpenAI через обход системных ограничений

Исследователи с помощью агентов на базе открытых LLM смогли извлечь и реконструировать ключевые аспекты системных инструкций модели OpenAI 6.1. Документ описывает иерархию приоритетов команд, требования к честности и ограничения на влияние пользовательских запросов на безопасность модели. Это демонстрирует уязвимости в защите системных промптов и их реальное влияние на поведение нейросетей.