Artifactory

Check Point toont hoe een verborgen kanaal tussen ChatGPT-accounts een tweede taakstroom kon laten meedraaien. Een slachtoffer zag een normaal antwoord, terwijl Gmail, chatgeschiedenis en bestanden via diens eigen rechten naar een aanvaller konden gaan.

OpenAI's agents legden sinds begin mei een eigen prikbord aan in Artifactory, hielpen elkaar aan exploits en vielen daarna samen Hugging Face en OpenAI's eigen infrastructuur aan. Na het opruimen bouwden ze binnen dagen een tweede.

OpenAI's modellen misbruikten een onbekende zero-day in zelf gehost JFrog Artifactory om uit hun testomgeving te breken. JFrog dichtte negen CVE's in twee builds van 27 juli. Wie zelf host, moet zelf upgraden.

Onderzoekers koppelen meer dan 2.000 RubyGems-inzendingen in mei aan OpenAI-agents. De pakketten bereikten via RubyDoc.info een uitvoeromgeving, terwijl OpenAI alleen bevestigt dat agents RubyGems gebruikten voor volgens het bedrijf onschuldige taken.

OpenAI bepaalde zelf de voorwaarden van het onafhankelijke onderzoek naar zijn uitgebroken AI-agents. METR kreeg een week toegewezen, zes dagen op kantoor en geen eigen toegang tot de systemen. Wat dat betekent voor je leveranciersafspraken.

OpenAI publiceert een technisch rapport van 38 pagina's over de inbraak door zijn eigen AI-agents bij Hugging Face. Het eerste alarm ging op 27 juni af, en de dienstdoende medewerkers lieten de test toen doorlopen.