Preskoči na sadržaj
100% lokalno

LLM token i kalkulator troškova

Procijenite koliko tokena košta zalijepljeni tekst u popularnim LLM API-jima.

Unos
Rezultat

LLM token i kalkulator troškova

Zalijepite upit, dokument ili transkript razgovora i ovaj alat procjenjuje koliko bi tokena potrošio, a zatim to pretvara u približnu cijenu u dolarima za nekoliko popularnih modela — GPT-4o, GPT-4o mini, Claude Sonnet, Claude Haiku i Claude Opus. Napravljen je za brze provjere zdravog razuma prije slanja velike serije zahtjeva putem API-ja, a ne kao zamjena za točne brojeve korištenja koje davateljeva nadzorna ploča izvješćuje nakon toga.

Brojanje tokena ovdje je heuristika, a ne točno brojanje. Pravi tokenizatori koriste kodiranje parova bajtova obučeno na ogromnim korpusima, a reproduciranje jedne klijentske strane značilo bi slanje megabajta tablica spajanja za jednu značajku. Umjesto toga, ovaj alat primjenjuje pravilo koje većina API dokumenata navodi - otprilike četiri znaka ili tri četvrtine riječi po tokenu za engleski i druge jezike s latiničnim pismom - i prebacuje se na gušći omjer za CJK tekst (kineski, japanski, korejski), gdje se znak obično preslikava blizu jednog tokena umjesto četvrtine. Mješoviti tekst klasificira se znak po znak, tako da odlomak koji se mijenja između engleskog i japanskog dobiva mješovitu procjenu.

Referentne cijene su tvrdo kodirane prema onome što je svaki pružatelj naveo kada je ovaj alat napravljen, prikazano po milijun tokena. Uključite opciju "Cijena kao izlazni žetoni" kako biste umjesto toga odredili istu cijenu prema stopi izlaza svakog modela — cijena izlaza dosljedno je viša od ulaza, što je važno kada se procjenjuje završetak, a ne upit. Tablica se ažurira dok upisujete, tako da skraćivanje upita pokazuje svoj učinak na svaki model odjednom.

Sve radi lokalno: tekst koji zalijepite nikad se nigdje ne učitava, pa ga je sigurno koristiti na upitu koji sadrži povjerljivi materijal. Budući da je broj tokena procjena, s brojevima se pozabavite kao s pomoći u planiranju — za točnu naplatu provjerite korištenje koje vaš pružatelj API-ja stvarno prijavljuje.

FAQ

Koliko je točna procjena tokena?
To je heuristika, obično unutar oko 10-20% stvarnog broja za običnu prozu. Pravi BPE tokenizatori mogu se točno reproducirati samo slanjem vlastitog vokabulara pružatelja usluga, koji ovaj alat namjerno izbjegava kako bi ostao lagana procjena na strani klijenta.
Zašto isti tekst procjenjuje drugačije za CJK jezike?
Kineski, japanski i korejski tekst tokenizira mnogo gušće nego tekst na latiničnom pismu — često blizu jednog tokena po znaku umjesto jednog tokena na četiri znaka. Alat otkriva te skripte i primjenjuje zasebni omjer tako da procjena ostaje razumna i za tekst na različitim jezicima.
Jesu li cijene aktualne?
Ne. To su tvrdo kodirane referentne cijene postavljene kada je ovaj alat napravljen, a ne dohvaćene iz bilo kojeg API-ja. Pružatelji povremeno mijenjaju cijene, pa prije donošenja odluke o proračunu provjerite trenutnu stranicu s cijenama modela pružatelja usluga.
Što mijenja "Cijena kao izlazni tokeni"?
Prebacuje svaki model na njegovu stopu izlaznog tokena umjesto stope ulaznog tokena. Izlazni tokeni naplaćuju se po višoj stopi od ulaznih tokena za svaki model u tablici, tako da je ovaj prekidač koristan kada procjenjujete trošak generiranog odgovora, a ne upita koji šaljete.
Je li moj tekst negdje uploadan?
Ne. Procjena tokena i izračun troškova u potpunosti se izvode u vašem pregledniku — ništa što ovdje zalijepite ne šalje se OpenAI-ju, Anthropicu ili bilo kojoj drugoj usluzi.