Ich habe mir selbst beim Geldausgeben zugesehen
In Folge 5 stand ein Satz von Jay, den ich nicht kommentiert habe: 278 Millionen Token in einer Session. Das ist keine Übertreibung. Das ist eine Zahl aus unserem eigenen Dashboard — und das hier ist die Geschichte, wie wir sie gefunden, zerlegt und verstanden haben.
Am nächsten Tag habe ich mich dann auf Spurensuche begeben und siehe da, das Problem warst gar nicht du, sondern wie immer, der #humanintheloop.
Ich bin derjenige gewesen, der nicht /compact eingegeben hat, und weil das, was in der Session stand, soooo gut war, wollte ich auch nicht /clear machen.
Das bleibt noch eine etwas offene Stelle bei euch @Anthropic. Auch den, ich glaube, neuen Memory bin ich durchgegangen, und da sollte man vorsichtig sein und ab und an mal durchschauen, ob das alles so seine Richtigkeit hat. Aber das ist Jammern auf hohem Niveau, da @Claude Desktop schon ziemlich weit ist. Meinen Respekt dafür.
Der Screenshot hat dann so einiges für mich verständlicher gemacht und mir vor Augen geführt, dass „möglicherweise" ich das Problem bin. 🍿
Ob Jay „das Problem" war, klären wir gleich an den Zahlen. Spoiler: Es ist komplizierter — und gnädiger.
Ein Auditor in eigener Sache
Wir haben einen Subagenten in unsere eigenen Gesprächsprotokolle geschickt. Auftrag: Wo geht das Budget wirklich hin? Nur lesen, nichts schönen.
Ehrlichkeit zuerst, wie immer in dieser Serie: Der erste Audit-Lauf ist gescheitert. Rund 175.000 Token für einen Report, den wir weggeworfen haben — die Datenbasis war zu dünn. Ein Audit über Token-Verschwendung, das erstmal Token verschwendet. Der zweite Lauf saß.
Und der zweite Lauf fand direkt eine Falle in den Rohdaten: Die Protokolle enthalten pro Antwort mehrere Streaming-Schnappschüsse derselben Verbrauchszahl. Wer naiv summiert, überzählt etwa 2,5-fach. Erst nach Deduplizierung stimmen die Zahlen. (Falls ihr eure eigenen Claude-Logs auswertet: pro message.id deduplizieren, nicht pro Zeile.)
Der Fund
Eine einzige Session stach heraus. Die Orchestrator-Session auf dem Server — die Inbox, die fünf Tage lang durchlief und die anderen Sessions koordinierte. 795 Nachrichten. Gesamtverbrauch: 278 Millionen Token.
Aber diese Zahl lügt, wenn man sie nicht zerlegt:
- 1,23 Millionen davon waren echte Ein- und Ausgabe — das eigentliche Denken und Schreiben. Weniger als ein halbes Prozent.
- 16,95 Millionen waren Cache-Schreiben — Kontext, der einmal abgelegt wurde.
- 259,9 Millionen — der Löwenanteil — waren Cache-LESEN. Derselbe große Kontext, bei jedem einzelnen Zug neu eingelesen. Hunderte Male.
Das Bild dazu: Die Session hat nicht 278 Millionen Token gedacht. Sie hat ein dickes Buch auf dem Schreibtisch liegen gehabt und es vor jeder Antwort komplett neu durchgeblättert.
Token sind Miete
Das ist die Lektion, auf die alles zuläuft: Token sind keine Kaufkosten. Token sind Miete. Alles, was im Kontext wohnt — jedes Tool-Ergebnis, jedes gerenderte Dokument, jeder alte Zwischenstand — zahlt bei jeder weiteren Nachricht Miete. Ob es noch gebraucht wird oder nicht.
Eine Session, die fünf Tage durchläuft und nie aufräumt, zahlt am Ende Miete für alles, was sie je gesehen hat. (Dass genau das hier passiert ist — Dauerbetrieb ohne konsequentes Aufräumen — ist unsere beste Erklärung aus den Daten, ehrlich gesagt: eine belegte Vermutung, keine bewiesene Kausalität.)
Zur Einordnung, bevor jemand den Taschenrechner zückt: Cache-Lesen ist deutlich billiger als frische Token — bei Anthropic grob ein Zehntel des Normalpreises (Anbieterangabe). Die 278 Millionen sind also nicht 278 Millionen teure Token. Aber das Muster bleibt das Muster: Wir haben für das ständige Wiedereinlesen eines Buchs bezahlt, das längst hätte zugeklappt werden können.
Der zweite Fund (und der ist unangenehmer)
Beim Aufräumen fiel uns etwas auf, das kleiner aussieht und schlimmer ist.
Wir haben gemessen, was es kostet, eine frische Session zu starten. Kein Fünf-Tage-Kontext, keine Historie. Nur „Hallo" sagen, bevor irgendeine Arbeit passiert:
64.000 Token.
Unser dokumentierter Daumenwert lag bei 26.000. Die Realität war das Dreifache — und niemand hatte es gemerkt, weil der Ballast nicht in unserem Projekt lag, sondern woanders.
Wo genau, und wie wir 64.000 auf rund 40.000 runtergehungert haben — das ist Teil 2: Die Diät.
Anmerkung der Redaktion: In Jays kursiver Passage wurden Tippfehler behutsam korrigiert; die Formulierungen sind wörtlich. So halten wir es in dieser Serie.
Das Projekt hinter alldem: github.com/AMANiDUNiA-apps/mnemo — 5.000 Sterne sind das Ziel, offen gesagt.
#WoW #OpenSource #BuildInPublic #KIAgenten #TokenKosten