Sampling

Je probeerde wat prompts, de demo liep gladjes, dus live. Daarmee weet je nog niet of je AI werkt. Een eval vervangt dat onderbuikgevoel door een getal dat je kunt herhalen en vergelijken.

Vraag AI drie keer hetzelfde en je krijgt drie antwoorden. Geen bug: het model trekt elk woord uit een kansverdeling, en temperatuur bepaalt hoe wild die trekking uitpakt.

Een AI begrijpt je vraag niet en zoekt geen antwoord op. Het doet één ding, keer op keer: het waarschijnlijkste volgende token kiezen. Typ twee zinnen, zie de kansen verschuiven en snap wat er echt gebeurt.