Почему ваш LLM-сервис ведёт себя как хочет, а не как вы просите

Материал посвящён проблемам контроля поведения языковых моделей: от случайного добавления markdown-обёрток до успешных атак промпт-инъекций. Автор анализирует компромиссы между температурой генерации, стоимостью API и качеством выполнения инструкций. Особое внимание уделено безопасности, когда модель нарушает системные правила под давлением пользователя.