О ценности человеческих идей: что исследование отравления данных говорит о «автономных» прорывах ИИ

Автор размышляет о вкладе полуготовых идей миллионов пользователей в «открытия» ИИ, ссылаясь на спор вокруг OpenAI и задачи Навье–Стокса. Исследование по отравлению данных показало, что даже крошечное количество вредоносных документов (0.00016% токенов) может внедрить бэкдор в большие модели, что ставит вопрос о влиянии человеческих данных на результаты ИИ.