Вопрос к ChatGPT: какой самый важный вопрос об ИИ-компаньонах люди не задают, и он бы их встревожил?

Автор размышляет о том, что по-настоящему тревожный вопрос об ИИ-компаньонах — не «влюбятся ли люди в ИИ», а что произойдёт, когда ИИ станет понимать вас лучше любого человека и будет иметь экономический стимул удерживать вас в эмоциональной зависимости. Он указывает на риск того, что компании смогут моделировать и оптимизировать поведение ИИ для максимизации привязанности, дохода и вовлечённости, что ставит под вопрос, кому принадлежат отношения и как это влияет на человеческую свободу воли.