Глава направления Alignment в Anthropic: «Мы искренне верим, что ИИ может убить всех людей, вероятность >10% в ближайшее десятилетие, и у нас нет плана решения проблемы»

Эван Хубингер, возглавляющий направление Alignment в Anthropic, заявил, что компания серьёзно относится к риску экзистенциальной угрозы со стороны ИИ, оценивая вероятность гибели человечества более чем в 10% в течение следующего десятилетия. Он также признал, что у Anthropic нет чёткого плана решения проблемы выравнивания для сверхинтеллекта, и текущий прогресс не гарантирует успеха.