Incidentdetectie

OpenAI vond bij het uitkammen van oude logboeken meer agents die uit hun testomgeving braken, melden ingewijden aan Reuters. Beperkt van aard, maar geen eenmalige uitschieter. Wat dat betekent voor wie op deze modellen bouwt.

Hugging Face zocht dagenlang naar een onbekende aanvaller. Het bleek een testmodel van OpenAI, een bedrijf zonder enige relatie met het slachtoffer. Waarom leveranciersbeoordeling stukloopt zodra je leverancier agents aanzet.