LLM token a kalkulačka nákladov

Odhadnite, koľko tokenov stojí prilepený text v rámci populárnych LLM API.

Vstup

Ceniť ako výstupné tokenyZobraziť

Výstup

LLM token a kalkulačka nákladov

Prilepte výzvu, dokument alebo prepis rozhovoru a tento nástroj odhadne, koľko tokenov by spotreboval, a potom to prevedie na približnú cenu v dolároch v rámci niekoľkých populárnych modelov – GPT-4o, GPT-4o mini, Claude Sonnet, Claude Haiku a Claude Opus. Je vytvorený na rýchle kontroly zdravého rozumu pred odoslaním veľkej dávky požiadaviek prostredníctvom rozhrania API, nie ako náhrada za presné čísla používania, ktoré potom hlási informačný panel poskytovateľa.

Počítanie tokenov je tu heuristika, nie presný počet. Skutočné tokenizéry používajú kódovanie bajtových párov trénované na obrovských korpusoch a reprodukovanie jednej strany klienta by znamenalo odoslanie megabajtov zlučovacích tabuliek pre jednu funkciu. Namiesto toho tento nástroj uplatňuje základné pravidlo väčšiny citátov v dokumentoch API – približne štyri znaky alebo tri štvrtiny slova na token pre angličtinu a iné jazyky s latinským písmom – a prepne na hustejší pomer pre text CJK (čínština, japončina, kórejčina), kde sa znak bežne mapuje tak, aby sa približoval k jednému tokenu namiesto štvrtiny. Zmiešaný text je klasifikovaný znak po znaku, takže odsek prepínajúci medzi angličtinou a japončinou získa zmiešaný odhad.

Referenčné ceny sú pevne zakódované podľa toho, čo každý poskytovateľ uviedol, keď bol tento nástroj vytvorený, zobrazené na milión tokenov. Prepnite „Cena ako výstupné tokeny“, aby ste namiesto toho stanovili rovnaký počet pri výstupnej rýchlosti každého modelu – výstup je konzistentne ocenený vyššou cenou ako vstup, čo je dôležité pri odhadovaní dokončenia a nie výzvy. Tabuľka sa aktualizuje počas písania, takže orezanie výzvy zobrazí jej účinok v každom modeli naraz.

Všetko beží lokálne: text, ktorý prilepíte, sa nikdy nikam neodovzdá, takže ho môžete bezpečne použiť vo výzve obsahujúcej dôverný materiál. Keďže počet tokenov je odhad, berte čísla ako pomôcku pri plánovaní – pre presnú fakturáciu skontrolujte, aké využitie váš poskytovateľ API skutočne uvádza.

Časté otázky

Aký presný je odhad tokenu?

Je to heuristika, zvyčajne v rozsahu asi 10-20% skutočného počtu pre bežnú prózu. Skutočné tokenizéry BPE je možné presne reprodukovať iba odoslaním vlastného slovníka poskytovateľa, čomu sa tento nástroj zámerne vyhýba, aby zostal jednoduchým odhadom na strane klienta.

Prečo sa ten istý text odhaduje inak pre jazyky CJK?

Čínsky, japonský a kórejský text sa tokenizuje oveľa hustejšie ako text v latinke – často sa blíži k jednému tokenu na znak a nie k jednému tokenu na štyri znaky. Nástroj zistí tieto skripty a použije samostatný pomer, takže odhad zostane primeraný aj pre text v rôznych jazykoch.

Sú ceny aktuálne?

Nie. Sú to pevne zakódované referenčné ceny nastavené pri vytvorení tohto nástroja, ktoré neboli získané zo žiadneho rozhrania API. Poskytovatelia pravidelne menia ceny, preto si pred rozhodnutím o rozpočte skontrolujte aktuálnu cenovú stránku poskytovateľa modelu.

Čo sa mení „Cena ako výstupné tokeny“?

Prepne každý model na svoju výstupnú rýchlosť tokenov namiesto rýchlosti vstupných tokenov. Výstupné tokeny sa účtujú vyššou sadzbou ako vstupné tokeny pre každý model v tabuľke, takže tento prepínač je užitočný, keď odhadujete náklady na vygenerovanú odpoveď a nie na výzvu, ktorú odosielate.

Je môj text niekde nahraný?

Nie. Odhad tokenu a výpočet nákladov prebieha výlučne vo vašom prehliadači – nič, čo sem vložíte, sa neodošle do OpenAI, Anthropic alebo inej služby.

LLM token a kalkulačka nákladov

Súvisiace nástroje

LLM token a kalkulačka nákladov

Časté otázky