Zużycie tokenów: co je zwiększa
Płacisz stałą kwotę za plan, ale subskrypcja AI, na której działa Twój agent, ma budżet wykorzystania. Najszybciej zużywają go te trzy rzeczy.
1. Długie łańcuchy pracy
Każdy krok długiego zadania ponownie czyta wszystko, co było wcześniej. Zadanie z dwudziestu kroków kosztuje znacznie więcej niż dwadzieścia osobnych krótkich pytań.
2. Dużo materiału
Czytanie długiego dokumentu, dużej historii czatu albo wielu stron internetowych to najdroższa rzecz, jaką robi agent. Wskaż mu konkretny plik lub stronę zamiast "wszystkiego w folderze".
3. Bardzo długie zasady
Instrukcje, które dajesz agentowi, są czytane od nowa przy każdym kroku. Za stronę zasad płaci się raz za razem. Trzymaj je krótkie i dotyczące zachowania ("zawsze potwierdzaj, zanim napiszesz do klienta"), zamiast pisać długie listy pojedynczych przypadków.
Co nie pomaga
Restart agenta niczego nie oszczędza, a wręcz kosztuje, bo agent musi ponownie wczytać swój kontekst. Usuwanie historii też nie pomaga: to trwała pamięć czyni agenta użytecznym, a przeszukiwanie jej jest tanie.
Gdzie zobaczę liczby?
Panel pokazuje zużycie dla każdego agenta i każdego czatu, z wyborem okresu. Jeśli jeden czat jest stale drogi, to właśnie jego trzeba zmienić, zwykle dzieląc długie zadanie na osobne tematy.