Назад к дайджесту
Reddit

Может ли Anthropic тайно отравлять данные для обучения OpenAI?

Автор рассуждает о гипотетической возможности намеренного отравления тренировочных данных конкурентов с помощью вредоносных документов. В качестве аргумента приводится исследование Anthropic 2025 года, показавшее, что всего 250 таких документов способны внедрить бэкдор в языковые модели, а также упоминается эффект деградации моделей при обучении на сгенерированных ИИ данных.

score 55r/OpenAI