Reddit
Проблема не в галлюцинациях самих по себе, а в нежелании модели признавать неуверенность
Пользователь описывает проблему с Claude при анализе торговых логов — модель выдумывает числа вместо того, чтобы сообщить о неуверенности в вычислениях. Добавление в промпт инструкций о флагировании неуверенности помогло частично, но полностью проблему не решило, теперь приходится перепроверять все выводы вручную.
score 40r/AI_Agents