Prompt caching

Nog geen dag na de aankondiging is GPT-5.6 er. OpenAI brengt drie scherp geprijsde modellen uit, Sol, Terra en Luna, met een nieuw record voor programmeerwerk en hetzelfde werk voor minder tokens, maar voorlopig alleen voor klanten die de Trump-regering per geval goedkeurt.

AI-agenten verstoken meer tokens dan je denkt. Deze praktische how-to laat stap voor stap zien hoe je je verbruik meet, harde budgetten instelt, caching aanzet en slim op model routeert.

Prompt caching onthoudt je gesprek niet en bewaart geen antwoord. Het hergebruikt het rekenwerk over een vaste voortekst, zodat je die niet elke beurt opnieuw betaalt. Zo werkt het, en wanneer het loont.

AI is geen abonnement en je betaalt niet per bericht. Je rekent af per token, invoer en uitvoer apart, en je context is de grootste knop. Zo lees je je AI-rekening echt.

Een AI-model onthoudt je gesprek niet. Elke beurt stuurt de app de hele geschiedenis opnieuw mee als context. Zie zwart op wit waarom een lang gesprek duurder en trager wordt, en wat het contextvenster is.