Google DeepMind обеспокоена взаимодействием миллионов автономных агентов

Google DeepMind финансирует исследования потенциальных рисков, возникающих при массовом взаимодействии автономных ИИ-агентов. Директор по безопасности AGI Рохин Шах подчеркивает важность понимания последствий, когда системы выполняют задачи без надзора человека и обмениваются инструкциями. Это направление критически важно для обеспечения безопасности и согласованности в будущем развитии искусственного интеллекта.