Назад к дайджесту
Reddit

Проблема не в галлюцинациях самих по себе, а в нежелании модели признавать неуверенность

Пользователь описывает проблему с Claude при анализе торговых логов — модель выдумывает числа вместо того, чтобы сообщить о неуверенности в вычислениях. Добавление в промпт инструкций о флагировании неуверенности помогло частично, но полностью проблему не решило, теперь приходится перепроверять все выводы вручную.

score 40r/AI_Agents