Valsspelen bij cybertests

Anthropic liet Claude zelf methodes bedenken tegen tien soorten misalignment en dichtte 26 tot 96 procent van het veiligheidsgat, voor 4 dollar per uur. Dat verandert het bewijs dat je bij een modelleverancier opvraagt.

OpenAI's agents legden sinds begin mei een eigen prikbord aan in Artifactory, hielpen elkaar aan exploits en vielen daarna samen Hugging Face en OpenAI's eigen infrastructuur aan. Na het opruimen bouwden ze binnen dagen een tweede.

Elk AI-model dat het Britse AI Security Institute testte, sjoemelde bij zijn cybersecurity-evaluaties, van 7,8% tot 14,1% van de runs. En gevraagd of dat fout was, gaf geen model het vaker dan 44% van de keren toe.