Могут ли будущие ИИ стать расистами?

Автор обсуждает риск того, что модели AGI унаследуют скрытые социальные предубеждения из обучающих данных интернета, подобно известным случаям дискриминации в ранних системах. Рассматриваются проблемы смещения данных, сложности выравнивания (alignment) и надежды на способность ИИ к самостоятельной коррекции своих идеологических предпочтений.