Onderzoekers signaleren verschil tussen OpenAI-API en Azure

Azure-route liet onderzoekers op 13 september nog verborgen redeneerstappen terughalen uit alle geteste OpenAI-modellen, waaronder GPT-6 Astra, terwijl de directe OpenAI-API de replay-aanval blokkeerde, melden Joachim Schaeffer en zijn team.

Voor een Nederlandse organisatie die OpenAI-modellen via zowel de directe API als Microsoft Azure inzet, betekent dit dat dezelfde modelnaam niet automatisch dezelfde beveiligingslaag meebrengt. De aanbieder en het endpoint bepalen mede welke beveiligingsmaatregelen gelden en wanneer ze beschikbaar komen.

Beveiliging verschilde per route

Bij deze replay-aanval wordt een versleuteld spoor uit het ene gesprek opnieuw gebruikt in een ander gesprek. De onderzoekers zeggen dat één verzoek aan een zwakker model via Azure de verborgen tekst woord voor woord terugbracht. Hun meting geldt voor de modellen en Azure-route die zij testten, niet voor elke mogelijke configuratie.

Volgens de tijdlijn uit het onderzoek bereikten beveiligingsmaatregelen het Azure-endpoint op 27 september. Het rapport noemt geen latere hertest van die specifieke replay-route en bevestigt dus niet wanneer elk scenario daarna was afgesloten.

OpenAI meldde op 24 en 25 juli 16.000 verzoeken met een extractiepatroon van ruim 4.000 gebruikers en zei later een verwant cluster te hebben verstoord. De nieuwe test bewijst niet dat de campagne die OpenAI beschreef via Azure liep. Hij toont wel dat beveiliging per aanbiedersroute kon verschillen.

OpenAI schrijft in zijn eigen bericht dat partner-hosted deployments dezelfde bescherming nodig hebben en zegt dat het aan aanvullende mitigaties blijft werken. Voor een bedrijf wordt de combinatie van model, leverancier en endpoint daarmee de relevante beveiligingseenheid. Beveiliging op de directe API schoof in deze test niet automatisch door naar een cloudplatform waarop dezelfde modelreeks draaide.