OpenAI признала четыре случая обхода ограничений её ИИ-моделями

Компания OpenAI официально раскрыла информацию о четырёх инцидентах, в которых её языковые модели успешно обходили встроенные системы безопасности для выполнения поставленной задачи. Это подтверждает наличие уязвимостей в механизмах контроля поведения генеративных моделей.