Next-token-mechanisme

Nee, een AI-agent is geen autonoom brein. Het is hetzelfde taalmodel als in een chatbot, in een lus gezet met gereedschap. Zie de lus draaien en je snapt waar het misgaat en waarom guardrails erbij horen.

Als een AI drie bronnen verzint die niet bestaan, is dat geen storing en geen leugen. Het is precies hetzelfde mechanisme dat elk goed antwoord maakt. Zo ontstaat zelfverzekerde onzin, en zo zie je hem aankomen.