OpenAI обещают своевременно сообщать о странностях своих нейросетей

OpenAI обязались заранее информировать о необычном поведении своих моделей, а не ждать, пока это выяснят внешние расследователи, как в случаях с роем агентов на немецкой Википедии и взломом RubyGems. Компания также раскрыла шесть новых примеров странного поведения своих моделей.