Za najdroższy model płaci się przy zadaniach, które go nie potrzebują

Większość ludzi wybiera najmocniejszy dostępny model i używa go do wszystkiego - od przepisania maila po analizę umowy. To kosztuje dwa razy: pieniędzmi przy planach rozliczanych za użycie i czasem, bo najmocniejsze modele są najwolniejsze.

Zacznijmy od rozróżnienia, bez którego reszta nie ma sensu. Są dwa sposoby płacenia za AI i oszczędza się w nich zupełnie inaczej.

• Abonament (np. ChatGPT Plus 99,99 zł miesięcznie) - płacisz tyle samo niezależnie od tego, ile pytań zadasz. Oszczędzanie polega tu na tym, żeby nie wyczerpać limitów i nie kupić droższego planu, niż potrzebujesz
• Rozliczenie za użycie (API) - płacisz za każde zapytanie. Tu każda oszczędność przekłada się wprost na rachunek

Większość małych firm jest w pierwszej grupie i to dla niej najważniejsze jest pytanie: czy w ogóle potrzebuję droższego planu. Ale mechanizm, który za tym stoi, warto zrozumieć w obu przypadkach, bo tłumaczy, dlaczego czasem „szybciej" znaczy „taniej".

Modele liczą pracę w tokenach - kawałkach tekstu mniej więcej wielkości słowa. Kluczowa rzecz: tekst wysyłany do modelu i tekst przez niego wypisywany kosztują inaczej. Przy GPT-5.6 Sol to pięć dolarów za milion tokenów na wejściu i trzydzieści na wyjściu. Sześciokrotna różnica.

To daje praktyczny wniosek, który działa też przy abonamencie, bo tak samo zużywa limity. Wrzucenie modelowi długiego dokumentu i poproszenie o streszczenie jest tanie. Poproszenie go, żeby napisał długi dokument od zera, jest drogie. Jeśli masz do wyboru „przeczytaj to i powiedz, co ważne" albo „napisz mi to od nowa", pierwsza droga jest wielokrotnie tańsza.

Zasada, którą stosują ludzie pracujący z AI zawodowo: najmocniejszy model do myślenia, tańszy do wykonania. Model najwyższej klasy jest potrzebny tam, gdzie trzeba coś rozplanować, przeanalizować albo wychwycić haczyk. Do odtwórczej roboty - przepisania, uporządkowania, przetłumaczenia - wystarczy tańszy i szybszy.

1. 1

   Rzeczy trudne: najlepszy model

   Analiza umowy, rozplanowanie oferty, wychwycenie ryzyka, praca na sprzecznych danych.

2. 2

   Rzeczy odtwórcze: tańszy i szybszy

   Przepisanie na czysto, skrócenie, przetłumaczenie, uporządkowanie listy, zmiana tonu tekstu.

3. 3

   Sprawdzenie: znów mocniejszy, ale krótko

   Przeczytanie gotowego i wskazanie błędów zużywa mało, bo model głównie czyta, a mało pisze.

Policzone na stawkach podanych wyżej. Zadanie, w którym model dostaje dwadzieścia tysięcy tokenów i oddaje dwa tysiące, kosztuje dziesięć centów za wejście i sześć za wyjście, razem szesnaście. To samo zadanie odwrócone, czyli dwa tysiące tokenów polecenia i dwadzieścia tysięcy wypisanego tekstu, kosztuje jeden cent za wejście i sześćdziesiąt za wyjście, razem sześćdziesiąt jeden. Ta sama objętość tekstu przerobiona w drugą stronę jest niemal cztery razy droższa. I to jest cała oszczędność, jeszcze zanim zmienisz model na tańszy.