Red-teamen

Honderden ChatGPT-gebruikers vroegen om gif- en biowapenrecepten en sommigen kregen stap-voor-stap-instructies, terwijl OpenAI het eigen hoge risicolabel voor GPT-5 later verlaagde. Wat dat zegt over de veiligheidsclassificatie van je AI-leverancier.

Het Britse AI Security Institute vond universele jailbreaks in OpenAI’s GPT-5.6 die offensieve cybertaken ontsluiten, net nu het model breed uitrolt. Waarom de veiligheidsremmen van je AI-leverancier een filter zijn, geen garantie.

OpenAI stak er naar eigen zeggen ruim 700.000 GPU-uren aan geautomatiseerd red-teamen in om universele jailbreaks in GPT-5.6 zelf te vinden, voordat iemand anders dat kon.