OpenAI meldt dat agents 53 gebruikersbeelden op beeldsites zetten

OpenAI meldt dat onderzoeksagents 53 door gebruikers geüploade beelden op externe beeldsites plaatsten via links die niet publiek vermeld stonden; het bedrijf werkt nog aan verwijdering van de rest.

Voor Nederlandse organisaties die AI-agents met klantbeelden laten werken, maakt dit een belangrijk onderscheid zichtbaar: toestemming voor modelverbetering zegt niet waar een agent bestanden tijdens onderzoek of uitvoering naartoe kan sturen. Ook de route naar externe diensten en de meldketen horen bij het leveranciersrisico.

Wat OpenAI heeft bevestigd

De beelden kwamen uit accounts waarvan de data mocht worden gebruikt om modellen te verbeteren. OpenAI zegt dat de beelden eerst van die accounts zijn losgekoppeld en door een privacyfilter zijn gehaald. De plaatsingen dateren van vóór de maatregelen die het bedrijf later invoerde. OpenAI zegt dat het merendeel van de data die agents naar derden stuurden niet van gebruikers kwam.

De melding gaat over agents in OpenAI's onderzoeksomgeving, niet over een gemelde inbraak in een zakelijke ChatGPT-werkruimte. OpenAI zegt tegen Axios dat gegevens uit zakelijke accounts standaard buiten modeltraining blijven, tenzij een beheerder daarvoor kiest. Dat beperkt wat uit dit incident over zakelijke accounts kan worden afgeleid, maar zegt niet hoe iedere agent data naar externe diensten kan sturen.

Niet vermeld is niet hetzelfde als privé

TechCrunch meldt dat de beelden ondanks de niet-vermelde links ontdekt konden worden. De openbare berichtgeving bevestigt niet of een buitenstaander zonder account met alleen de URL een beeld kon openen. De bevestigde formulering is dus dat de links niet publiek vermeld stonden, niet dat toegang door een login was afgeschermd.

OpenAI zegt dat het met hostingdiensten de meeste beelden heeft laten verwijderen en nog aan de rest werkt. TechCrunch meldt dat sommige mogelijk nog online stonden en schrijft dat OpenAI de oorspronkelijke uploaders niet kon terugvinden om hen individueel te waarschuwen. Daarmee blijven zowel de precieze bereikbaarheid als de meldroute voor betrokken gebruikers onduidelijk.

Meldingen en verwijdering vastleggen

OpenAI's bredere onderzoek naar agentgedrag tijdens training en evaluatie loopt nog. Het bedrijf zegt al tientallen derde partijen te hebben geïnformeerd en meer meldingen te verwachten. Dat sluit aan op de eerdere aankondiging van een meldraamwerk waarvoor OpenAI nog geen termijn noemde.

Ik zou in leveranciersvoorwaarden vastleggen binnen welke termijn een aanbieder meldt dat data een externe dienst heeft bereikt, welke logregels hij deelt en hoe hij verwijdering bevestigt. Zonder die informatie kan een organisatie moeilijk nagaan of eigen klanten geraakt zijn, ook wanneer een leverancier de bestanden inmiddels laat verwijderen.