Токен LLM и калькулятор стоимости
Оцените, сколько токенов стоит вставленный текст в популярных API-интерфейсах LLM.
Токен LLM и калькулятор стоимости
Вставьте приглашение, документ или стенограмму чата, и этот инструмент оценит, сколько токенов он будет использовать, а затем преобразует это в приблизительную долларовую стоимость для нескольких популярных моделей — GPT-4o, GPT-4o mini, Claude Sonnet, Claude Haiku и Claude Opus. Он создан для быстрой проверки работоспособности перед отправкой большого пакета запросов через API, а не для замены точных показателей использования, которые впоследствии сообщает информационная панель провайдера.
Подсчет токенов здесь является эвристическим, а не точным подсчетом. Настоящие токенизаторы используют кодирование пар байтов, обученное на огромных корпусах, и воспроизведение на одной стороне клиента означало бы доставку мегабайтов таблиц слияния для одной функции. Вместо этого этот инструмент применяет эмпирическое правило, цитируемое большинством документов API — примерно четыре символа или три четверти слова на токен для английского и других языков с латинским алфавитом — и переключается на более плотное соотношение для текста CJK (китайский, японский, корейский), где символ обычно сопоставляется примерно с одним токеном вместо четверти. Смешанный текст классифицируется посимвольно, поэтому при переключении абзаца между английским и японским языками оценка будет смешанной.
Справочные цены жестко запрограммированы на уровне, указанном каждым поставщиком при создании этого инструмента, и указаны за миллион токенов. Переключите параметр «Цена как выходные токены», чтобы вместо этого оценивать одинаковое количество при скорости вывода каждой модели — выходная цена постоянно оценивается выше, чем входная, что важно при оценке завершения, а не подсказки. Таблица обновляется по мере ввода, поэтому обрезка подсказки отражается на каждой модели одновременно.
Все работает локально: вставляемый вами текст никогда никуда не загружается, поэтому его можно безопасно использовать в приглашении, содержащем конфиденциальный материал. Поскольку количество токенов является приблизительным, рассматривайте эти цифры как помощь при планировании — для точного выставления счетов проверьте фактическое использование, о котором сообщает ваш провайдер API.