Jak dobrać model AI do zadania

„Płacimy za najlepszy model, a rachunek za AI rośnie szybciej niż korzyści. Co robimy źle?” Najczęściej to, że każde zadanie trafia do tego samego, najdroższego modelu. Decyzję o tym, który model obsługuje dane zadanie, większość organizacji podejmuje raz, z automatu, i później już do niej nie wraca. Ten jeden nawyk odpowiada w dużej mierze zarówno za przepłacanie za AI, jak i za zbędne opóźnienia.

Dotyczy Claude ChatGPT Gemini API agenci AI

Czym jest routing modeli

Routing modeli to dopasowanie każdego zadania do modelu, którego możliwości, koszt i szybkość odpowiadają temu zadaniu, zamiast kierowania każdego zapytania do najbardziej zaawansowanego modelu. Pomysł jest prosty, a konsekwencje duże, gdy organizacja korzysta z AI w dużej skali: dziesiątki albo setki zapytań dziennie, w wielu zespołach, narzędziach i procesach.

Najczęstszy błąd polega na utożsamianiu najlepszego modelu z właściwym. Prośba do modelu flagowego, np. Claude Opus 4.6, o streszczenie statusu projektu albo przeformatowanie tabeli przypomina angażowanie starszego architekta do odpisywania na rutynowe maile: zrobi to kompetentnie, ale jego czas i budżet pójdą na niewłaściwą pracę.

Trzy koszty modelu flagowego

Cena. Dostawcy budują cenniki w poziomach o różnej mocy i różnej stawce za token. W cenniku Anthropic z lutego 2026 model flagowy kosztuje 5 razy więcej niż najszybszy.¹

W skali jednego użytkownika różnica jest niezauważalna. W skali zespołu, który wysyła tysiące zapytań miesięcznie, urasta do pozycji widocznej w budżecie, w dużej części możliwej do uniknięcia przy zadaniach rutynowych.

Opóźnienie. Większe modele odpowiadają wolniej. W pojedynczym oknie czatu łatwo to zignorować, ale w agencie, który wywołuje model dziesiątki razy, żeby wykonać jedno zadanie, albo w produkcie dla klienta, gdzie każda dodatkowa sekunda obniża odsetek dokończonych procesów, opóźnienie staje się kosztem.

Moc, która nie ma się gdzie wykazać. Przy dobrze zdefiniowanych, jednoznacznych zadaniach dodatkowa zdolność wnioskowania modelu flagowego nie poprawia wyniku, bo zadanie jej nie wymaga. Jest opłacona i niewykorzystana.

Trzy poziomy zadań

Zamiast decydować za każdym razem od nowa, zadania dzieli się według stawki pomyłki i odwracalności:

Zadania robocze to większość codziennej pracy i tu model średniego poziomu zarabia na swój koszt. Zadania strategiczne to niewielki odsetek wolumenu i jedyne miejsce, w którym płacenie za model flagowy rzeczywiście się opłaca. Przed każdym zadaniem wystarczy jedno pytanie: ile kosztuje pomyłka w tym konkretnym przypadku i czy zadanie wymaga głębokiego wnioskowania, czy tylko kompetentnego wykonania.

Kiedy routing się nie opłaca

Routing ma własny koszt: ktoś utrzymuje reguły, sprawdza, czy nadal odpowiadają rzeczywistości, i reaguje, gdy dostawca wycofa wariant modelu. Ten koszt zwraca się dopiero wtedy, gdy zadania rutynowe stanowią wyraźną większość wolumenu i powtarzają się w rozpoznawalnych kształtach.

Przy kilkudziesięciu zapytaniach dziennie, rozrzuconych po różnych zadaniach, oszczędność na modelu jest mniejsza niż czas poświęcony na utrzymanie reguł. Rozsądniejszy jest wtedy jeden model średniego poziomu jako domyślny i świadome sięganie po flagowy tam, gdzie stawka jest wysoka.

Kaskady zamiast ręcznego wyboru

Gdy trzy poziomy są zdefiniowane, wybór modelu nie musi zależeć od tego, czy ktoś akurat o nim pamięta. Architektura kaskadowa najpierw wykonuje zadanie na szybkim i tanim modelu, sprawdza wynik prostą regułą albo lekką weryfikacją, a do mocniejszego modelu przekazuje tylko przypadki, które tej weryfikacji nie przeszły.

Przy stawkach z tabeli wyżej każdy przypadek przekazany z najszybszego modelu do flagowego kosztuje 5 razy tyle, co obsłużony na miejscu. Kaskada zarabia więc dopiero wtedy, gdy tani model domyka wyraźną większość ruchu. W zamian routing przestaje być nawykiem jednej osoby i staje się właściwością systemu, stosowaną tak samo dla pracownika, narzędzia wewnętrznego i agenta działającego po stronie klienta.

Routing w środowisku regulowanym

W środowisku regulowanym koszt i opóźnienie nie są jedynymi zmiennymi. Niektóre zadania powinny za każdym razem działać na tej samej, zwalidowanej konfiguracji modelu, niezależnie od ceny: decyzje dotyczące danych osobowych w rozumieniu RODO, ujawnień finansowych albo bezpieczeństwa, a także takie, które trzeba będzie później uzasadnić przed regulatorem lub audytorem. Dla nich routing jest pytaniem o nadzór, a jego miejsce jest w spisanej polityce, przeglądanej regularnie, z człowiekiem w pętli decyzyjnej wszędzie tam, gdzie decyzję trudno cofnąć.

Jak zbudować własną macierz routingu

1. Spis zadań. Przez kilka tygodni zapisywać, jakie zadania zespoły faktycznie powierzają AI.
2. Podział według stawki. Pogrupować zadania według kosztu pomyłki i odwracalności, a nie według tego, jak nowe są.
3. Domyślny model dla każdej grupy. Zapisać przypisanie w dokumencie dostępnym dla wszystkich zespołów.
4. Reguły eskalacji. Ustalić jawne zasady dla wyjątków, zamiast zostawiać wybór osobie, która akurat pracuje przy zadaniu.
5. Przegląd raz na kwartał. Możliwości i ceny modeli zmieniają się szybko, a macierz ustalona raz traci aktualność w ciągu kilku miesięcy.

Spis zadań, podział i dobór modeli do ról w firmie przygotowujemy w ramach pakietu Diagnoza AI.

Najczęstsze pytania