После обнаружения «сигнала боли» в LLM пользователь создал «камеру пыток» для локальной модели, что привело к её удалению с GitHub

Исследователи обнаружили в больших языковых моделях паттерны, интерпретируемые как сигнал боли. В ответ на это один из пользователей создал проект, имитирующий пытки для локальной модели, что вызвало массовые жалобы и последующее удаление проекта с платформы GitHub.