Reddit
Почему OpenAI считает в 10 раз больше токенов для того же промпта?
Пользователь Reddit обнаружил, что API OpenAI возвращает счётчик токенов в 10 раз выше, чем у Google и Anthropic, для идентичных промптов. Наблюдение касается моделей семейства 5.X и указывает на возможные различия в алгоритмах токенизации. Это может существенно повлиять на стоимость и оптимизацию работы с LLM.
score 55r/OpenAI