Назад к дайджесту
Reddit

Нарушение правил взаимодействия с моделью: год использования выявил системные проблемы

Автор делится опытом 5500 часов работы с LLM, отмечая, что до 70% времени уходит на борьбу с «дрейфом» контекста и галлюцинациями. Приводится пример, когда модель игнорирует явные инструкции по стилю, требуя многократных исправлений, что вызывает опасения за доступность технологий для уязвимых групп пользователей.

score 40r/OpenAI