Жесткие штрафы могут снизить активность ИИ-аудиторов: проблема надзора за ИИ

Исследование Принстона показывает, что усиление наказаний за ошибки ИИ-решателя может парадоксальным образом снизить мотивацию ИИ-аудитора проверять его работу. Если система кажется надежной из-за строгих санкций, аудит становится менее выгодным, так как затраты на проверку не окупаются частыми находками. Это создает риск постепенного снижения активности системы надзора по мере улучшения качества работы основного ИИ.