LLM token i kalkulator troškova
Procijenite koliko tokena košta zalijepljeni tekst u popularnim LLM API-jima.
LLM token i kalkulator troškova
Zalijepite upit, dokument ili transkript razgovora i ovaj alat procjenjuje koliko bi tokena potrošio, a zatim to pretvara u približnu cijenu u dolarima za nekoliko popularnih modela — GPT-4o, GPT-4o mini, Claude Sonnet, Claude Haiku i Claude Opus. Napravljen je za brze provjere zdravog razuma prije slanja velike serije zahtjeva putem API-ja, a ne kao zamjena za točne brojeve korištenja koje davateljeva nadzorna ploča izvješćuje nakon toga.
Brojanje tokena ovdje je heuristika, a ne točno brojanje. Pravi tokenizatori koriste kodiranje parova bajtova obučeno na ogromnim korpusima, a reproduciranje jedne klijentske strane značilo bi slanje megabajta tablica spajanja za jednu značajku. Umjesto toga, ovaj alat primjenjuje pravilo koje većina API dokumenata navodi - otprilike četiri znaka ili tri četvrtine riječi po tokenu za engleski i druge jezike s latiničnim pismom - i prebacuje se na gušći omjer za CJK tekst (kineski, japanski, korejski), gdje se znak obično preslikava blizu jednog tokena umjesto četvrtine. Mješoviti tekst klasificira se znak po znak, tako da odlomak koji se mijenja između engleskog i japanskog dobiva mješovitu procjenu.
Referentne cijene su tvrdo kodirane prema onome što je svaki pružatelj naveo kada je ovaj alat napravljen, prikazano po milijun tokena. Uključite opciju "Cijena kao izlazni žetoni" kako biste umjesto toga odredili istu cijenu prema stopi izlaza svakog modela — cijena izlaza dosljedno je viša od ulaza, što je važno kada se procjenjuje završetak, a ne upit. Tablica se ažurira dok upisujete, tako da skraćivanje upita pokazuje svoj učinak na svaki model odjednom.
Sve radi lokalno: tekst koji zalijepite nikad se nigdje ne učitava, pa ga je sigurno koristiti na upitu koji sadrži povjerljivi materijal. Budući da je broj tokena procjena, s brojevima se pozabavite kao s pomoći u planiranju — za točnu naplatu provjerite korištenje koje vaš pružatelj API-ja stvarno prijavljuje.