Consumo di token: cosa lo fa crescere

Paghi un piano a prezzo fisso, ma l'abbonamento IA dietro il tuo agente ha un budget di utilizzo. Queste tre cose lo consumano più in fretta.

1. Lunghe catene di lavoro

Ogni passo di un compito lungo rilegge tutto ciò che è venuto prima. Un lavoro di venti passi costa molto di più di venti domande brevi separate.

2. Materiale voluminoso

Leggere un documento lungo, una grande cronologia di chat o molte pagine web è in assoluto la cosa più costosa che un agente faccia. Indicagli il file o la pagina precisa invece di "tutto quello che c'è nella cartella".

3. Regole molto lunghe

Le istruzioni che dai all'agente vengono rilette a ogni singolo passo. Una pagina di regole si paga ancora e ancora. Tienile brevi e sul comportamento ("conferma sempre prima di scrivere a un cliente"), invece di lunghi elenchi di casi singoli.

Cosa non aiuta

Riavviare l'agente non fa risparmiare nulla, anzi costa, perché l'agente deve ricaricare il suo contesto. Nemmeno cancellare la cronologia aiuta: la memoria permanente è ciò che rende utile l'agente, e cercarci dentro costa poco.

Dove vedo i numeri?

La dashboard mostra il consumo per agente e per chat, con un selettore del periodo. Se una chat è sempre costosa, è quella da cambiare, di solito dividendo un compito di lunga durata in argomenti separati.