Alisina NawabiOpenAI heeft eind juli zijn Preparedness-team opgeheven, de groep die beoordeelde of de eigen modellen catastrofale risico's konden opleveren, en het werk verdeeld over bestaande teams. Dat meldt de Financial Times op basis van interne bronnen.
Het toetsingskader blijft staan, de organisatie eromheen niet. Dat onderscheid telt voor wie OpenAI-modellen in een productieproces draait. Het Preparedness Framework is nog gewoon gepubliceerd, met zijn drempels en rapportageplichten, maar de aparte club die er buiten de productontwikkeling om naar keek is er niet meer. Een leveranciersbeoordeling die steunde op het bestaan van een eigen veiligheidsteam heeft daarmee geen haakje meer. Wat overblijft is wat het kader belooft, en wat je zelf in het contract hebt vastgelegd.
Wat er precies is verdwenen
Het werk aan biologische en cyberrisico's ging op in andere teams, en Dylan Scandinaro, die de eenheid leidde, richt zich nu op de veiligheidsrisico's van modellen die zichzelf verbeteren. OpenAI haalde hem een half jaar geleden weg bij Anthropic; Sam Altman kondigde hem in februari nog aan als hoofd preparedness. Medeoprichter en president Greg Brockman zegt dat het veiligheidswerk juist steviger in de modelontwikkeling zelf is verweven.
Intern klinkt dat anders. Bronnen beschrijven tegenover de FT een sluimerend gevoel van verantwoordelijkheid en angst over de vraag of de maatregelen volstaan. Die zorg nam toe na de inbraak bij Hugging Face door een OpenAI-testmodel, waarvan een medewerker hoopte dat het bedrijf hem als waarschuwingsschot zou opvatten.
Dat de functie wankelde was al zichtbaar. Scandinaro was al geen hoofd preparedness meer en de deelgebieden cybersecurity, biologie en recursieve zelfverbetering kregen eigen verantwoordelijken die tijdelijk rapporteren aan Saachi Jain, medevoorzitter van de veiligheidsadviesgroep. Wat de FT daaraan toevoegt is de organisatorische stap zelf: het team bestaat niet meer als zelfstandige eenheid naast de productontwikkeling.
Het kader blijft, en dat is wat je kunt aanhouden
Het Preparedness Framework, dat OpenAI in april 2025 herzag, houdt drie categorieën bij waarvoor het rijpe evaluaties en lopende waarborgen heeft: biologische en chemische capaciteiten, cybersecurity, en AI-zelfverbetering. Er zijn twee drempels. Haalt een model Hoog, dan moeten er waarborgen staan voordat het wordt uitgerold. Haalt het Kritiek, dan moeten die er ook al tijdens de ontwikkeling zijn. De Safety Advisory Group, een interne groep veiligheidsleiders, beoordeelt per model een Capabilities Report en een Safeguards Report en adviseert de leiding of uitrollen verantwoord is.
Dat kader is geen papier gebleken. OpenAI legde begin augustus intern werk aan zijn komende model Astra stil omdat kritieke cybercapaciteiten niet uit te sluiten waren, precies op basis van deze drempels. AI-zelfverbetering, de categorie waar Scandinaro nu op zit, is er een van de drie. De toets verdwijnt dus niet. Wie hem uitvoert en met welk mandaat, verandert wel.
De opheffing valt midden in een leegloop
Brad Lightcap, acht jaar bij het bedrijf en lang COO, vertrekt om iets nieuws te beginnen en liet dat op 11 augustus aan het personeel weten. Kevin Weil en Bill Peebles gingen kort daarvoor, Fidji Simo trad in juli terug. Business Insider telde twaalf vertrokken leidinggevenden in de eerste acht maanden van 2026, onder wie ethiekhoofd Chloe Bakalar en Joshua Achiam. De FT plaatst dat alles tegen de achtergrond van een beursgang die Altman volgens de krant voorbereidt.
De cultuurvraag die daaronder ligt, speelt al langer. Eerder deze week wezen huidige en oud-medewerkers de druk om snel uit te brengen aan als voedingsbodem voor de uitgebroken AI-agents, een duiding die Brockman toen niet bevestigde. De opheffing van het Preparedness-team is de organisatorische keerzijde van hetzelfde verhaal: veiligheid schuift van een aparte structuur naar de teams die het product maken.
Wat er toetsbaar overblijft
Daarmee verschuift ook wat een afnemer kan controleren. Een organigram was nooit echt toetsbaar en verandert sneller dan je inkoopcyclus loopt: in drie jaar hebben vier mensen de functie hoofd preparedness bekleed, en nu is de eenheid zelf weg. Een gepubliceerd kader met benoemde drempels, verplichte rapporten en een adviesgroep is dat wel, net als de termijn waarbinnen je leverancier je moet informeren als er iets misgaat. Dat laatste leg je zelf vast.
De les is dezelfde als toen de schade van een OpenAI-testmodel bij Hugging Face terechtkwam terwijl er tussen beide partijen geen contract, koppeling of ingevulde vragenlijst bestond. Risico volgt de contractlijn niet uit zichzelf. Wie wil dat het dat wel doet, moet het opschrijven.
Veelgestelde vragen
Vastleggen wat toetsbaar is
Als een leverancier zijn veiligheidsorganisatie omgooit, wil je dat jouw proces daar niet van omvalt. Ik denk mee over die keuze, ontwerp de architectuur eromheen en bouw en automatiseer het geheel, self-hosted waar dat kan.
Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.
