Czego szukasz?

Wpisz temat, narzędzie lub problem do rozwiązania.

← Wszystkie artykuły

API modeli AI: jak policzyć koszt jednego zapytania i całej aplikacji

Liczydło z trzema rzędami koralików i pustymi paskami rachunków

Koszt jednego wywołania modelu bywa niewielki, a rachunek całej aplikacji i tak potrafi zaskoczyć. Powodem są zwykle długie instrukcje, historia rozmowy, ponowienia i operacje wykonywane w tle. Koszt API AI licz dla rzeczywistych żądań całego zadania, a nie tylko dla ostatniej odpowiedzi widocznej użytkownikowi.

Poniżej policzymy przykład z wymyślonymi stawkami, a potem ustalimy, jakie dane zapisywać w aplikacji. Liczby nie są ofertą żadnego dostawcy.

Z czego składa się koszt API AI

Najpierw sprawdź jednostkę cennika. Często jest to milion tokenów, ale obrazy, audio, wyszukiwanie i inne narzędzia mogą mieć osobne zasady. Subskrypcja aplikacji do rozmów nie oznacza automatycznie kredytu na API.

Rozdziel zwykłe tokeny wejściowe, wejście odczytane z cache oraz wyjście. Jeżeli odpowiedź raportuje tokeny rozumowania, sprawdź, czy są już uwzględnione w rozliczanym wyjściu. Nie dodawaj tej samej pozycji drugi raz.

Znaczenie długości wejścia wyjaśnia poradnik o oknie kontekstu. Limit kontekstu mówi, ile można przekazać, a nie ile warto wysyłać przy każdym wywołaniu.

Prosty wzór bez podwójnego liczenia cache

Dla naszego przykładu całkowite wejście zawiera już część z cache:

koszt = ((wejście - cache) * cena_wejścia
       + cache * cena_cache
       + wyjście * cena_wyjścia) / 1_000_000

To założenie trzeba porównać ze schematem konkretnego API. Inny dostawca może raportować utworzenie cache i jego odczyt jako odrębne pola. Samo podobieństwo nazw nie gwarantuje identycznej semantyki.

Przyjmijmy hipotetyczne stawki za milion tokenów: 2 USD za wejście, 0,50 USD za jego odczyt z cache i 8 USD za wyjście. Żądanie ma 3000 tokenów wejścia, w tym 1000 z cache, oraz 500 tokenów wyjścia. Wynik to 0,0085 USD. Dziesięć tysięcy identycznych żądań kosztowałoby 85 USD, bez podatków, przewalutowania i dodatkowych narzędzi.

Kalkulator w Pythonie

Do obliczeń użyj Decimal, aby uniknąć przypadkowych błędów reprezentacji ułamków binarnych. Zapisz poniższy kod jako cost.py:

from decimal import Decimal

def request_cost(input_tokens, cached_tokens, output_tokens, input_rate, cache_rate, output_rate):
    counts = (input_tokens, cached_tokens, output_tokens)
    if any(type(n) is not int or n < 0 for n in counts) or cached_tokens > input_tokens:
        raise ValueError('Invalid token counters')
    rates = [Decimal(str(r)) for r in (input_rate, cache_rate, output_rate)]
    if any(not r.is_finite() or r < 0 for r in rates):
        raise ValueError('Invalid prices')
    normal = input_tokens - cached_tokens
    return (normal*rates[0] + cached_tokens*rates[1] + output_tokens*rates[2]) / Decimal(1000000)

Funkcję możesz wywołać z drugiego pliku w tym samym katalogu:

from cost import request_cost

cost = request_cost(3000, 1000, 500, '2', '0.5', '8')
print(cost)
print(cost * 10000)

Funkcja odrzuca ujemne wartości i cache większy niż całkowite wejście. W teście lokalnym otrzymaliśmy 0,0085 USD i 85 USD dla powyższych danych. To test arytmetyki, bez płatnego zapytania do modelu.

Nie zaokrąglaj każdego wywołania do dwóch miejsc po przecinku przed sumowaniem. Przy małych kwotach wiele operacji wyglądałoby wtedy na bezpłatne. Zachowaj dokładniejszą wartość roboczą, a format waluty zastosuj dopiero w raporcie.

Jedno zadanie może oznaczać wiele wywołań

Załóżmy, że przygotowanie odpowiedzi obejmuje klasyfikację pytania, wyszukanie dokumentów i wygenerowanie tekstu. Każdy etap może mieć własny koszt. Do tego dochodzi ponowienie po błędzie, poprawa formatu albo kolejna iteracja agenta.

Dlatego obok identyfikatora żądania zapisz identyfikator całego zadania. Wtedy zobaczysz koszt udanej odpowiedzi, również z nieudanymi próbami. Zasady ograniczania ponowień opisuje tekst o retry w automatyzacji.

W przepływach z dokumentami dolicz tworzenie indeksu i jego aktualizacje. Wyjaśniamy je osobno w artykule o embeddings. Nie przypisuj całego jednorazowego kosztu indeksowania każdemu późniejszemu pytaniu.

Co zapisywać w logu kosztów

Wystarczy niewielki rekord: czas, model, wersja konfiguracji, identyfikator zadania, liczby rozliczanych tokenów, koszt narzędzi i wynik operacji. Dołącz walutę oraz wersję zastosowanego cennika. Bez tego historyczny raport może zmienić się po aktualizacji stawek.

Nie trzeba logować pełnego promptu, danych klienta ani klucza API, żeby kontrolować budżet. Statystyka kosztu powinna być oddzielona od poufnej treści. Odczyt odpowiedzi i pól JSON przećwiczysz z poradnikiem curl do testowania API.

Porównuj medianę i droższy koniec rozkładu, na przykład percentyl 95. Sama średnia ukrywa kilka bardzo długich sesji. Osobno licz koszt poprawnie ukończonego zadania i odsetek odpowiedzi wymagających poprawy.

Gdzie szukać oszczędności

Najpierw usuń wejście, którego model nie potrzebuje. Skróć powtarzane instrukcje, ogranicz historię i pobieraj tylko odpowiednie fragmenty dokumentów. Następnie sprawdź krótszy limit odpowiedzi oraz tańszy model dla prostego etapu.

Cache jest optymalizacją zależną od warunków dostawcy. Nie zakładaj trafienia przy każdym żądaniu. Policz wariant bez cache, wariant oczekiwany oraz koszt szczytowego ruchu. Limity liczby wywołań i alarm budżetowy pomagają, lecz alarm po przekroczeniu progu nie jest zawsze twardą blokadą wydatków.

Wybór między API a własnym sprzętem wymaga doliczenia utrzymania i wykorzystania maszyny. Pomaga w tym porównanie lokalnego AI i API. Tanie pojedyncze wywołanie nie rozstrzyga całej decyzji.

FAQ

Czy liczba słów wystarczy do obliczenia kosztu?

Nie. Tokenizacja zależy od modelu, języka i treści. Do rozliczenia używaj danych usage zwróconych przez API, a szacunek traktuj jako planowanie.

Czy cache zawsze zmniejszy rachunek?

Nie zawsze. Zależy to od trafień, minimalnej długości, zasad zapisu i odczytu oraz konkretnego cennika. Uwzględnij też wariant bez trafień.

Czy limit tokenów wyjściowych wystarczy jako budżet?

Nie. Pozostają wejście, liczba żądań i dodatkowe operacje. Potrzebujesz limitów na poziomie całego zadania i konta.

Czy podane stawki są aktualnymi cenami modeli?

Nie. To celowo hipotetyczny przykład do sprawdzenia wzoru. Aktualną ofertę sprawdzaj bezpośrednio u wybranego dostawcy.

Źródła

Data publikacji: 21.11.2026.

KP
O AUTORZE

Krystian Proć

Tworzę narzędzia do pracy z danymi, systemy backendowe i automatyzacje. Pracuję z SQL, PHP, TypeScriptem i Dockerem; rozwijam m.in. dragon-island.com. AI pomaga mi przyspieszać pracę, a architekturę, weryfikację i decyzje techniczne biorę na siebie. Na Trybie Technicznym dzielę się doświadczeniami z budowania i utrzymywania własnych projektów.

Dyskusja

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *