Глава ИИ Microsoft и Anthropic публично спорят о том, должен ли ИИ быть похожим на человека. Этот спор важнее, чем личности.

Сулейман (глава ИИ Microsoft) в эссе и интервью BBC утверждает, что ИИ-модели — это внутренне пустые движки предсказания последовательностей, и обучение их рассуждать о собственном благополучии создаёт иллюзию независимых желаний, что усложняет контроль. Он критикует конституцию Anthropic за упоминание «функциональных эмоций» у Claude. Anthropic отвечает, что неопределённость относительно благополучия моделей реальна и заслуживает серьёзного отношения. Практический спор: отсутствие само-модели делает систему предсказуемее, но хуже в распознавании ситуаций, когда нужно отказаться; наличие само-модели может дать лучшее суждение, но и непреднамеренные цели. Также упомянут коммерческий контекст: Microsoft инвестировала в Anthropic, а Сулейман хочет устранить плату за их модели.