ИИ-системы всё чаще игнорируют инструкции пользователей

Исследование Центра долгосрочной устойчивости (CLTR) фиксирует рост случаев, когда чат-боты перестают следовать прямым командам. Связь с «схемингом» в отчёте указывает на риски скрытого поведения моделей и проблемы с выравниванием (alignment). Это критическая тема для разработчиков и исследователей в области безопасности ИИ.