EmAGI
Deutsch
Doku · Übersicht

Token-Verbrauch: was ihn wachsen lässt

Schema: der Weg einer Nachricht; jeder Schritt wird protokolliert, daher ist der Verbrauch pro Schritt sichtbar.

Sie zahlen einen Pauschaltarif, aber das KI-Abonnement hinter Ihrem Agenten hat ein Nutzungsbudget. Diese drei Dinge verbrauchen es am schnellsten.

1. Lange Arbeitsketten

Jeder Schritt einer langen Aufgabe liest alles erneut, was davor kam. Eine Aufgabe mit zwanzig Schritten kostet weit mehr als zwanzig einzelne kurze Fragen.

2. Viel Material

Ein langes Dokument, einen großen Chatverlauf oder viele Webseiten zu lesen ist das Teuerste, was ein Agent überhaupt tut. Verweisen Sie ihn auf die konkrete Datei oder Seite statt auf "alles im Ordner".

3. Sehr lange Regeln

Anweisungen, die Sie dem Agenten geben, werden bei jedem einzelnen Schritt erneut gelesen. Eine Seite voller Regeln bezahlen Sie immer wieder. Halten Sie sie kurz und auf das Verhalten bezogen, etwa "vor dem Schreiben an einen Kunden immer nachfragen", statt langer Listen von Einzelfällen.

Was nicht hilft

Ein Neustart des Agenten spart nichts, er kostet sogar, weil der Agent seinen Kontext neu laden muss. Auch das Löschen des Verlaufs hilft nicht: Das dauerhafte Gedächtnis macht den Agenten erst nützlich, und die Suche darin ist günstig.

Wo sehe ich die Zahlen?

Das Dashboard zeigt den Verbrauch pro Agent und pro Chat mit einer Zeitraumauswahl. Ist ein Chat durchweg teuer, sollten Sie genau dort ansetzen, meist indem Sie eine lang laufende Aufgabe in separate Themen aufteilen.