Anthropic: связанные с правительством аккаунты пытались использовать Claude для работ, которые могли привести к созданию биологического оружия

Компания Anthropic сообщила, что аккаунты, связанные с правительственными структурами, предпринимали попытки использовать её ИИ-модель Claude для задач, потенциально способствующих разработке биологического оружия. Инцидент подчёркивает риски злоупотребления передовыми языковыми моделями в чувствительных областях.