Reddit
Может ли Anthropic тайно отравлять данные для обучения OpenAI?
Автор рассуждает о гипотетической возможности намеренного отравления тренировочных данных конкурентов с помощью вредоносных документов. В качестве аргумента приводится исследование Anthropic 2025 года, показавшее, что всего 250 таких документов способны внедрить бэкдор в языковые модели, а также упоминается эффект деградации моделей при обучении на сгенерированных ИИ данных.
score 55r/OpenAI