Безопасный ИИ может быть выровнен не так, как хотят лаборатории

Автор критикует текущий дискурс об alignment, указывая, что определение «правильных» ценностей для суперинтеллекта сосредоточено в руках узкой группы людей из Кремниевой долины. Отмечается, что модели ИИ слепо копируют американскую культуру и ценности как базовые, игнорируя глобальное разнообразие, что создает риск эпистемического пузыря среди разработчиков.