Kalkulator tokenów i kosztów LLM
Oszacuj, ile tokenów kosztuje wklejony tekst w popularnych interfejsach API LLM.
Kalkulator tokenów i kosztów LLM
Wklej monit, dokument lub transkrypcję czatu, a narzędzie oszacuje, ile tokenów zużyje, a następnie przeliczy tę kwotę na przybliżony koszt w dolarach dla kilku popularnych modeli — GPT-4o, GPT-4o mini, Claude Sonnet, Claude Haiku i Claude Opus. Został stworzony z myślą o szybkiej kontroli poprawności przed wysłaniem dużej partii żądań za pośrednictwem interfejsu API, a nie jako substytut dokładnych numerów użycia, które raportuje później panel dostawcy.
Liczenie tokenów jest tutaj heurystyką, a nie dokładnym zliczaniem. Prawdziwe tokenizatory używają kodowania par bajtów trenowanego na ogromnych korpusach, a odtwarzanie jednej strony klienta oznaczałoby wysyłanie megabajtów tabel scalania dla jednej funkcji. Zamiast tego narzędzie to stosuje praktyczną zasadę cytatów z większości dokumentów API — mniej więcej cztery znaki lub trzy czwarte słowa na token w przypadku języka angielskiego i innych języków z alfabetem łacińskim — i przełącza na gęstszy współczynnik dla tekstu CJK (chiński, japoński, koreański), gdzie znak zwykle jest mapowany na prawie jeden token zamiast na ćwiartkę. Tekst mieszany jest klasyfikowany znak po znaku, więc akapit przełączający się między angielskim i japońskim otrzymuje szacunkową ocenę mieszaną.
Ceny referencyjne są ustalone na stałe i odpowiadają wartościom podanym przez każdego dostawcę podczas tworzenia tego narzędzia, w przeliczeniu na milion tokenów. Przełącz opcję „Cena jako żetony wyjściowe”, aby zamiast tego wyceniać tę samą liczbę przy współczynniku wyjściowym każdego modelu — dane wyjściowe są stale wyceniane wyżej niż dane wejściowe, co ma znaczenie przy szacowaniu ukończenia, a nie podpowiedzi. Tabela jest aktualizowana w miarę pisania, więc przycięcie monitu pokazuje jego wpływ na każdy model jednocześnie.
Wszystko działa lokalnie: wklejany tekst nigdy nie jest nigdzie przesyłany, więc można go bezpiecznie używać w podpowiedziach zawierających poufne materiały. Ponieważ liczba tokenów jest szacunkowa, traktuj je jako pomoc w planowaniu — aby uzyskać dokładne rozliczenia, sprawdź faktyczne wykorzystanie raportowane przez dostawcę interfejsu API.