Uitgelegd6 min
10 jul 13:23
Prompt caching: betaal de voortekst niet elke keer opnieuw
Prompt caching onthoudt je gesprek niet en bewaart geen antwoord. Het hergebruikt het rekenwerk over een vaste voortekst, zodat je die niet elke beurt opnieuw betaalt. Zo werkt het, en wanneer het loont.