Предупреждения Anthropic об опасности ИИ могли обернуться против неё — правительство отключило её самый мощный ИИ

Правительство отключило самую мощную модель Anthropic из-за обнаружения потенциальной возможности обхода безопасности. Компания публично выразила несогласие с решением, утверждая, что узкая уязвимость не оправдывает отзыв продукта, используемого сотнями миллионов пользователей. Инцидент демонстрирует растущее напряжение между разработчиками ИИ и регуляторами в вопросах контроля безопасности.