Broncontrole

GPTZero vond in vier rapporten van PwC Middle East verzonnen bronnen, een verzonnen product en vier overheden die het nooit gebruikten. Daarmee zijn alle vier de grote adviesbureaus binnen een jaar geraakt.

Als een AI drie bronnen verzint die niet bestaan, is dat geen storing en geen leugen. Het is precies hetzelfde mechanisme dat elk goed antwoord maakt. Zo ontstaat zelfverzekerde onzin, en zo zie je hem aankomen.