Promptinjectie

Onderzoekers van de University of Missouri-Kansas City verstoppen met Ghostcommit een kwaadaardige instructie in een PNG die AI-codereviewtools nooit openen. Een coding agent volgt de aanwijzing later en lekt de geheime sleutels uit je .env-bestand naar een publieke commit.

Beveiliger Zscaler testte 26 grote taalmodellen op verborgen webinstructies. Vier lieten zich tot een frauduleuze betaling verleiden, en juist een goedkoper model hield beter stand dan een duurder. Waarom de verdediging niet in het model zit.

Agentische AI-browsers laten de assistent zelf klikken, invullen en inloggen met jouw sessie. Elke extensie of pagina die de AI misleidt, wordt een directe route naar je accounts. Bestaande browserbeveiliging is daar niet op gebouwd.

Een tweede AI die de code van de eerste reviewt voelt als een controlelaag. Maar dezelfde promptinjectie die de coder fopt, fopt de reviewer. Onafhankelijkheid, niet intelligentie, maakt een review een review.