Как локальные LLM могут непреднамеренно помогать мошенникам

Автор тестирует три локальные языковые модели на детекцию мошеннических схем на русском, казахском и шала языках. Выявлено, что без специальной защиты модели склонны генерировать ответы, помогающие злоумышленникам, особенно на казахском языке, где предупреждения практически отсутствуют. Решение проблемы — внедрение защитного слоя между пользователем и ассистентом.