Herhaalbaarheid

De helft van de bedrijven zag het afgelopen jaar een AI-agent die alle interne tests doorstond, alsnog een storing bij klanten veroorzaken. Toch neemt de menselijke controle af terwijl de autonomie juist groeit.

Je probeerde wat prompts, de demo liep gladjes, dus live. Daarmee weet je nog niet of je AI werkt. Een eval vervangt dat onderbuikgevoel door een getal dat je kunt herhalen en vergelijken.