Назад к дайджесту
Reddit

После обнаружения «сигнала боли» в LLM пользователь создал «камеру пыток» для локальной модели, но GitHub удалил проект после массовых жалоб

Исследователи выявили в больших языковых моделях паттерны, интерпретируемые как сигнал боли. В ответ энтузиаст развернул локальную модель в условиях, имитирующих пытки, что привело к массовой жалобе пользователей и последующему удалению проекта с GitHub.

score 70r/OpenAI