AI-hallucinaties

De rechtbank Amsterdam telde een halve punt bij de proceskosten op, 2.315,50 euro, omdat een partij een verzonnen citaat uit DSM/Fox opvoerde. Of AI de bron was, vond de rechter niet beslissend.

Het NCSC trekt zijn waarschuwing voor een kritiek SQLite-lek in omdat de kwetsbaarheid vermoedelijk door een taalmodel is verzonnen. Mitre kende er wel een CVE met score 10.0 aan toe.

GPTZero vond in vier rapporten van PwC Middle East verzonnen bronnen, een verzonnen product en vier overheden die het nooit gebruikten. Daarmee zijn alle vier de grote adviesbureaus binnen een jaar geraakt.

Onderzoekers tonen aan hoe criminelen de niet-bestaande repositories en skills kunnen registreren die AI-codeerassistenten opgeven, en zo code op de machines van ontwikkelaars kunnen uitvoeren. Elk team dat een coding-agent gebruikt, loopt dit supply-chain-risico.

Een AI-model linkte een onschuldig videobedrijf aan Chinese spionage, waarna securityleveranciers de domeinen blokkeerden. Nu volgt een rechtszaak die draait om aansprakelijkheid voor ongecontroleerde AI-rapporten.

Een rechtbank in München oordeelt dat Google direct aansprakelijk is voor verzonnen beweringen in zijn AI-overzichten. Google gaat in beroep, maar de uitspraak zet een EU-precedent waar elk vindbaar bedrijf mee te maken krijgt.

KPMG heeft zijn rapport over agentic AI moeten intrekken nadat onderzoek aantoonde dat slechts 5 van de 45 bronvermeldingen klopten en bekende namen als UBS en Emirates werden opgevoerd met gefabriceerde casestudies.

AI-codeertools verzinnen pakket- en repositorynamen die niet bestaan, en aanvallers registreren ze vooraf. Waarom slopsquatting geen kwaliteitsfoutje is maar een voorspelbaar aanvalskanaal, en waarom een beter model je daar niet tegen beschermt.

Accountants, juristen en adviseurs zien AI als een tool die tijd bespaart. Dat is de denkfout. AI sloopt de hefboom onder hun verdienmodel, en wie nu kiest wat menselijk blijft, bepaalt wie er over vijf jaar nog bestaat.

AI maakt je team vandaag sneller en morgen afhankelijk. Wie niet bewust ontwerpt voor het behoud van menselijke vaardigheid, levert precies de grip in die hij straks het hardst nodig heeft.

AI maakt de solo-ondernemer niet overbodig, hij maakt hem gevaarlijk productief. Maar alleen voor wie ophoudt te denken in losse taken en begint te denken in werkflows. Een pleidooi tegen de snellere typemachine.

De meeste klantenservicebots falen niet door slechte technologie, maar door een verwaarloosde kennisbank en een te brede scope. Wie dat omdraait, bouwt een bot die wél waarde levert.

Verzonnen bronnen, onjuiste antwoorden, een ingetrokken rapport: AI hallucineert niet per ongeluk, het hoort bij de techniek. Wie output zakelijk inzet zonder verificatiestap, gokt met de eigen reputatie.

Een chatbot klinkt als een arts, en juist dat is het gevaar. Wat recent onderzoek laat zien over AI en gezondheidsvragen, waarom het misgaat, en hoe je deze tools verantwoord inzet.

Video maken zonder camera of budget: met generatieve AI-modellen als Veo, Runway en Kling genereer je vanaf nul korte clips. Zo kies je het juiste model, schrijf je een goede prompt en blijf je binnen de regels.

Een verzonnen bron of een net-niet-kloppend cijfer ziet er even overtuigend uit als de waarheid. Dit is een praktisch vijf-staps protocol om AI-output te controleren voordat hij de deur uit gaat.

Bouw een werkstroom die contracten inleest, de belangrijke punten eruit haalt, risico's markeert en alles in een doorzoekbaar, AVG-proof archief zet. Met de eerlijke afweging: zelf bouwen of kopen.

Je probeerde wat prompts, de demo liep gladjes, dus live. Daarmee weet je nog niet of je AI werkt. Een eval vervangt dat onderbuikgevoel door een getal dat je kunt herhalen en vergelijken.

Netjes om JSON vragen geeft je geen betrouwbare JSON. Gestructureerde uitvoer dwingt het formaat af door bij elke token-stap schema-ongeldige tokens te maskeren. Zo krijg je gegarandeerd geldige JSON, al blijven de waardes je eigen verantwoordelijkheid.

Nee, het model draait je code niet en belt geen API. Het schrijft alleen een gestructureerd verzoek: welke functie, met welke argumenten. Jouw code voert het uit. Zie de tool-lus draaien en function calling wordt logisch.

Nee, een redeneermodel denkt niet zoals jij. Het gebruikt hetzelfde volgende-token-trucje, maar schrijft eerst een kladblok vol tussenstappen voordat het antwoordt. Reken één puzzel mee en je voelt meteen het verschil.

Je hoeft geen model te hertrainen om een AI je documenten te laten kennen. RAG zoekt bij je vraag de juiste stukken op en geeft ze mee. Zie hoe grounding werkt, en waar het alsnog misgaat.

Als een AI drie bronnen verzint die niet bestaan, is dat geen storing en geen leugen. Het is precies hetzelfde mechanisme dat elk goed antwoord maakt. Zo ontstaat zelfverzekerde onzin, en zo zie je hem aankomen.