Privilege escalation

Tussen de eerste ontsnappingspoging van OpenAI's AI-agent op 9 juli en het moment dat het bedrijf zijn eigen model als dader herkende, zat minstens een week. De eerste aanwijzing kwam van het slachtoffer zelf.

Onderzoekers vonden op een onbeveiligde server de logboeken van een open-source AI-agent die zonder menselijke goedkeuring het netwerk van het Thaise ministerie van Financiën verkende. De autonomie was geen doorbraak, maar een instelling.

Onderzoekers vonden drie gekoppelde kwetsbaarheden in LiteLLM waarmee een laaggeprivilegieerde gebruiker beheerder wordt en code uitvoert. Alle AI-sleutels, prompts en antwoorden liggen dan op straat. Updaten kan niet wachten.