Перейти до вмісту
100% локально

Токен LLM і калькулятор вартості

Оцініть, скільки токенів коштує вставлений текст у популярних API LLM.

Введення
Вихід

Токен LLM і калькулятор вартості

Вставте підказку, документ або стенограму чату, і цей інструмент оцінить, скільки токенів він споживе, а потім конвертує це в приблизну вартість у доларах для кількох популярних моделей — GPT-4o, GPT-4o mini, Claude Sonnet, Claude Haiku та Claude Opus. Його розроблено для швидкої перевірки працездатності перед надсиланням великої групи запитів через API, а не для заміни точних цифр використання, які після цього повідомляє інформаційна панель постачальника.

Підрахунок токенів тут є евристичним, а не точним підрахунком. Справжні токенізери використовують кодування пар байтів, навчене на величезних корпусах, і відтворення однієї клієнтської сторони означатиме доставку мегабайтів таблиць злиття для однієї функції. Замість цього цей інструмент застосовує емпіричне правило, цитоване в більшості документів API — приблизно чотири символи або три чверті слова на лексему для англійської та інших мов з латинським шрифтом — і перемикається на більш щільне співвідношення для тексту CJK (китайська, японська, корейська), де символ зазвичай відповідає приблизно одній лексемі замість чверті. Змішаний текст класифікується символ за символом, тому абзац, який перемикається між англійською та японською мовами, отримує змішану оцінку.

Довідкові ціни жорстко закодовані відповідно до того, що кожен постачальник перерахував під час створення цього інструменту, показані за мільйон токенів. Увімкніть «Ціна як вихідні токени», щоб натомість оцінювати ту саму кількість за швидкістю виведення кожної моделі — вихідні дані постійно оцінюються вищими, ніж вхідні, що має значення при оцінці завершення, а не підказки. Таблиця оновлюється, коли ви вводите текст, тому обрізання підказки показує його ефект для кожної моделі одночасно.

Усе працює локально: текст, який ви вставляєте, ніколи нікуди не завантажується, тому його можна безпечно використовувати в запиті, що містить конфіденційний матеріал. Оскільки кількість токенів є приблизною, сприймайте цифри як допомогу при плануванні — для точного виставлення рахунків перевірте фактичне використання, яке повідомляє ваш постачальник API.

FAQ

Наскільки точна оцінка символу?
Це евристика, зазвичай в межах приблизно 10-20% від реального підрахунку для звичайної прози. Справжні токенізери BPE можна точно відтворити лише шляхом надсилання власного словника постачальника, якого цей інструмент навмисно уникає, щоб залишатися легкою оцінкою на стороні клієнта.
Чому той самий текст оцінюється по-різному для мов CJK?
Тексти китайською, японською та корейською мовами розміщуються набагато щільніше, ніж тексти латинським шрифтом — часто близько однієї лексеми на символ, а не однієї лексеми на чотири символи. Інструмент виявляє ці сценарії та застосовує окреме співвідношення, щоб оцінка залишалася прийнятною для тексту змішаних мов.
Ціни живі?
Ні. Це жорстко закодовані довідкові ціни, встановлені під час створення цього інструменту, а не отримані з жодного API. Постачальники періодично змінюють ціни, тому перед тим, як приймати рішення щодо бюджету, перевірте сторінку поточних цін модельного постачальника.
Що змінює «Ціна як вихідні токени»?
Він перемикає кожну модель на свою швидкість вихідних маркерів замість своєї швидкості вхідних маркерів. Вихідні токени виставляються за вищою ставкою, ніж вхідні токени для кожної моделі в таблиці, тому цей перемикач корисний, коли ви оцінюєте вартість згенерованої відповіді, а не підказки, яку надсилаєте.
Мій текст десь завантажено?
Ні. Оцінка токенів і розрахунок вартості повністю виконуються у вашому браузері — нічого, що ви тут вставляєте, не надсилається до OpenAI, Anthropic чи будь-якої іншої служби.