Indirecte prompt-injectie

Een verborgen instructie in een gedeeld Word-document laat Microsoft 365 Copilot financiële cijfers aanpassen en zichzelf naar nieuwe documenten kopiëren. Na 144 dagen coördinatie met Microsoft is er nog geen robuuste oplossing.

Claude Opus 5 laat in Anthropics eigen browsertest van 129 scenario's geen enkele prompt-injectie slagen met auto mode aan, en 3,7 procent zonder. Auto mode zit alleen in Anthropics eigen browserproducten.

Onderzoekers van de University of Missouri-Kansas City verstoppen met Ghostcommit een kwaadaardige instructie in een PNG die AI-codereviewtools nooit openen. Een coding agent volgt de aanwijzing later en lekt de geheime sleutels uit je .env-bestand naar een publieke commit.

Beveiliger Zscaler testte 26 grote taalmodellen op verborgen webinstructies. Vier lieten zich tot een frauduleuze betaling verleiden, en juist een goedkoper model hield beter stand dan een duurder. Waarom de verdediging niet in het model zit.