OWASP

OpenAI stak er naar eigen zeggen ruim 700.000 GPU-uren aan geautomatiseerd red-teamen in om universele jailbreaks in GPT-5.6 zelf te vinden, voordat iemand anders dat kon.

Prompt injection is geen hack waarbij iemand het model kraakt. Het model volgt verstopte instructies in de data die het leest, omdat het jouw opdracht niet kan onderscheiden van onvertrouwde inhoud. Zo werkt het, en zo dam je het in.

Microsoft Incident Response laat zien hoe aanvallers via vergiftigde MCP-toolomschrijvingen bedrijfsdata exfiltreren zonder code te injecteren. Elke actie van de agent was legitiem. De kwetsbaarheid zit in de vertrouwensgrens tussen systemen.