Anthropic предупреждает о приближении к порогу самосовершенствования ИИ

Компания Anthropic сообщает о приближении к точке рекурсивного самосовершенствования (RSI), когда модели становятся достаточно эффективными для самостоятельного улучшения архитектуры и обучения. Этот этап характеризуется резким ускорением развития способностей искусственного интеллекта, что вызывает серьезные опасения у исследователей относительно неконтролируемого роста мощностей систем.