Перейти к содержанию
100% локально

Токен LLM и калькулятор стоимости

Оцените, сколько токенов стоит вставленный текст в популярных API-интерфейсах LLM.

Входные данные
Выходные данные

Токен LLM и калькулятор стоимости

Вставьте приглашение, документ или стенограмму чата, и этот инструмент оценит, сколько токенов он будет использовать, а затем преобразует это в приблизительную долларовую стоимость для нескольких популярных моделей — GPT-4o, GPT-4o mini, Claude Sonnet, Claude Haiku и Claude Opus. Он создан для быстрой проверки работоспособности перед отправкой большого пакета запросов через API, а не для замены точных показателей использования, которые впоследствии сообщает информационная панель провайдера.

Подсчет токенов здесь является эвристическим, а не точным подсчетом. Настоящие токенизаторы используют кодирование пар байтов, обученное на огромных корпусах, и воспроизведение на одной стороне клиента означало бы доставку мегабайтов таблиц слияния для одной функции. Вместо этого этот инструмент применяет эмпирическое правило, цитируемое большинством документов API — примерно четыре символа или три четверти слова на токен для английского и других языков с латинским алфавитом — и переключается на более плотное соотношение для текста CJK (китайский, японский, корейский), где символ обычно сопоставляется примерно с одним токеном вместо четверти. Смешанный текст классифицируется посимвольно, поэтому при переключении абзаца между английским и японским языками оценка будет смешанной.

Справочные цены жестко запрограммированы на уровне, указанном каждым поставщиком при создании этого инструмента, и указаны за миллион токенов. Переключите параметр «Цена как выходные токены», чтобы вместо этого оценивать одинаковое количество при скорости вывода каждой модели — выходная цена постоянно оценивается выше, чем входная, что важно при оценке завершения, а не подсказки. Таблица обновляется по мере ввода, поэтому обрезка подсказки отражается на каждой модели одновременно.

Все работает локально: вставляемый вами текст никогда никуда не загружается, поэтому его можно безопасно использовать в приглашении, содержащем конфиденциальный материал. Поскольку количество токенов является приблизительным, рассматривайте эти цифры как помощь при планировании — для точного выставления счетов проверьте фактическое использование, о котором сообщает ваш провайдер API.

FAQ

Насколько точна оценка токена?
Это эвристика, обычно в пределах 10-20% от реального значения для обычной прозы. Настоящие токенизаторы BPE можно точно воспроизвести только путем доставки собственного словаря провайдера, чего этот инструмент намеренно избегает, чтобы оставаться легкой оценкой на стороне клиента.
Почему один и тот же текст оценивается по-разному для языков CJK?
Текст на китайском, японском и корейском языках токенизируется гораздо плотнее, чем текст на латинице — часто около одного токена на символ, а не одного токена на четыре символа. Инструмент обнаруживает эти сценарии и применяет отдельный коэффициент, поэтому оценка остается приемлемой и для текста на разных языках.
Цены живые?
Нет. Это жестко запрограммированные справочные цены, установленные при создании этого инструмента, а не полученные из какого-либо API. Поставщики периодически меняют цены, поэтому перед принятием решения о бюджете проверьте текущую страницу цен поставщика модели.
Что меняет «Цена как выходные токены»?
Он переключает каждую модель на скорость выходных токенов вместо скорости входных токенов. Выходные токены оплачиваются по более высокой ставке, чем входные токены для каждой модели в таблице, поэтому этот переключатель полезен, когда вы оцениваете стоимость сгенерированного ответа, а не отправляемого приглашения.
Мой текст где-нибудь загружен?
Нет. Оценка токена и расчет стоимости полностью выполняются в вашем браузере — ничего, что вы здесь вставляете, не отправляется в OpenAI, Anthropic или любую другую службу.