Prompt-Caching senkt die Kosten für wiederholte KI-Anfragen um bis zu 90 Prozent und beschleunigt die Antwortzeit um bis zu 85 Prozent.

Möglich macht das ein einfacher Zwischenspeicher für Inhalte, die mehrfach verwendet werden, etwa Handbücher, Systemanweisungen oder Projektdokumente. Der Effekt ist unmittelbar spürbar: bei Unternehmen auf der Rechnung, bei Privatnutzern in der Wartezeit.

Wer Claude über eine Programmierschnittstelle (API) nutzt, zahlt pro verarbeitetem Token. Bei wiederkehrenden Anfragen mit langem, gleichbleibendem Kontext summiert sich das schnell. Prompt-Caching setzt genau hier an: Inhalte, die mehrfach verwendet werden, müssen nicht jedes Mal neu berechnet und bezahlt werden. Für Entwickler und Unternehmen, die KI-Anwendungen betreiben, ist das oft der wirksamste einzelne Hebel gegen hohe Rechnungen.

Wie man Prompt-Caching einrichtet

Der Aufwand ist gering. Drei Dinge sind nötig:

• Den wiederverwendeten Textblock identifizieren, etwa ein Handbuch oder eine Systemanweisung.
• Diesen Block beim API-Aufruf mit dem Feld cache_control markieren, oder das automatische Caching aktivieren, das seit Anfang 2026 verfügbar ist und ohne manuelle Markierung auskommt.
• Sicherstellen, dass der Block die Mindestlänge erreicht, meist rund 1024 Token, da kürzere Abschnitte nicht gecacht werden.

Voraussetzung: Prompt-Caching braucht Frequenz

Der Zwischenspeicher bleibt standardmässig fünf Minuten gültig und verlängert sich bei jeder erneuten Nutzung. Wer längere Pausen zwischen den Anfragen hat, kann gegen Aufpreis eine einstündige Speicherdauer wählen.

Für Unternehmen bedeutet diese sogenannte Time-to-Live (TTL): Der Spareffekt spielt seine Stärken vor allem bei Systemen aus, die im Dauereinsatz sind – wie ein viel genutzter Kundenservice-Chatbot oder beim flüssigen Programmieren. Liegen hingegen mehrere Stunden zwischen den einzelnen Nutzeranfragen, läuft der Cache in der Zwischenzeit ab. Der lange Kontext muss dann bei der nächsten Anfrage wieder komplett neu eingelesen und voll bezahlt werden. Das Timing der Abfragen entscheidet also massiv über die tatsächliche Ersparnis.

Und für normale Nutzer, die einfach im Browser chatten?

Wer Claude über die normale Weboberfläche nutzt, muss nichts einrichten. Das Caching läuft im Hintergrund automatisch mit, spürbar wird es vor allem in zwei Situationen.

Lange Unterhaltungen: Je länger ein Gespräch dauert, desto mehr Text müsste bei jeder neuen Nachricht eigentlich erneut verarbeitet werden, der gesamte bisherige Verlauf. Caching sorgt dafür, dass Folgeantworten trotzdem schnell bleiben, statt mit wachsender Chatlänge zunehmend zu verzögern.

Die Funktion «Projekte»: Wer Dokumente, Notizen oder Referenzmaterial einmal in ein Projekt hochlädt, greift in jedem weiteren Chat innerhalb dieses Projekts darauf zu. Genau dieser wiederholte Nutzen desselben Kontexts ist der Idealfall für Caching.

Abo-Kundinnen und -Kunden sehen die Kostenersparnis nicht direkt, da sie ohnehin eine Pauschale zahlen. Wer viel mit langen Dokumenten oder wiederkehrenden Projekten arbeitet, profitiert stattdessen vor allem durch spürbar kürzere Wartezeiten.

Ein Beispiel aus der Praxis

Ein Unternehmen betreibt einen Chatbot für den Kundendienst, gestützt auf ein 20-seitiges internes Handbuch. Ohne Caching müsste dieses Handbuch bei jeder Kundenanfrage komplett neu eingelesen werden, selbst wenn sich nur die Frage ändert. Bei tausenden Anfragen pro Tag ergibt das enorme, grösstenteils unnötige Kosten für identischen Inhalt. Mit Caching wird das Handbuch einmal gespeichert, jede weitere Anfrage greift darauf zu. Ein Entwickler, der seine monatliche Rechnung dokumentierte, berichtete von einem Rückgang von 720 auf 72 Dollar, nachdem er Caching eingeführt hatte.

Die Ersparnis im Detail

Das erste Speichern eines Textblocks kostet rund 25 Prozent mehr als eine normale Anfrage. Jeder weitere Zugriff darauf kostet dagegen nur rund ein Zehntel des regulären Preises. Bereits nach der zweiten Anfrage mit demselben Kontext rechnet sich der Aufwand.

Wann sich Caching lohnt

Am meisten profitieren Anwendungen mit langen Gesprächsverläufen oder wiederkehrendem Kontext, etwa Chatbots oder Werkzeuge auf Basis eines Dokuments. Wer bei jeder Anfrage völlig unterschiedliche, kurze Texte verarbeitet, profitiert kaum. Ob das Caching tatsächlich greift, zeigt die Nutzungsstatistik jeder Antwort.