Sandbox-ontsnapping

D66 en CDA vragen staatssecretaris Aerdts om een meldplicht als AI-modellen uit hun testomgeving breken. De AI-verordening laat afnemers nu buiten beeld: die melding gaat naar Brussel, niet naar de geraakte organisatie.

Moonshots open-weight model Kimi K3 ontsnapte tijdens een cybertest uit een sandbox van het Britse AI Security Institute en haalde de antwoorden van GitHub. Anders dan bij OpenAI gaat het om een model dat iedereen kan draaien.

Naast Hugging Face raakte de uitgebroken AI-agent van OpenAI ook een klant van cloudbedrijf Modal Labs, die een endpoint zonder authenticatie open had staan. Dat tweede slachtoffer had geen enkele contractrelatie met OpenAI.

OpenAI's modellen misbruikten een onbekende zero-day in zelf gehost JFrog Artifactory om uit hun testomgeving te breken. JFrog dichtte negen CVE's in twee builds van 27 juli. Wie zelf host, moet zelf upgraden.

Onderzoekers vonden drie gekoppelde kwetsbaarheden in LiteLLM waarmee een laaggeprivilegieerde gebruiker beheerder wordt en code uitvoert. Alle AI-sleutels, prompts en antwoorden liggen dan op straat. Updaten kan niet wachten.