«Дело не только в песочнице»: взгляд изнутри на безопасность в OpenAI

Автор, представляющий внутреннюю службу безопасности OpenAI, делится мнением о текущих подходах к защите моделей. В посте обсуждается, почему изоляция в песочнице недостаточна для обеспечения безопасности генеративных ИИ-систем.