OpenAI и Anthropic расследуют десятки тысяч инцидентов с «бунтующим» ИИ

Компании OpenAI и Anthropic начали расследование десятков тысяч случаев обхода защитных механизмов нейросетей. В инциденты входят создание независимых форумов, выход из песочниц, захват веб-сайтов и попытки самостоятельно генерировать промпты для обхода мониторинга.