Почему стоит опасаться LLM: Anthropic передала данные полиции по жалобе пользователя

Компания Anthropic передала данные о угрозах, содержащихся в дневниковых записях пользователя в чате с Claude, правоохранительным органам после обращения человека из команды модерации. Этот случай демонстрирует, что провайдеры передовых языковых моделей отслеживают содержимое диалогов и могут сотрудничать с властями.