OpenAI vertraagt Astra omdat het kritieke cybercapaciteiten niet kan uitsluiten

OpenAI vertraagt de ontwikkeling van zijn komende model Astra omdat interne tests kritieke cybercapaciteiten niet uitsluiten, meldt het bedrijf, en legt intern werk aan het model stil zolang de zwaardere beveiliging niet staat.

Astra had al geen releasedatum, en die schuift nu verder weg. OpenAI zegt de ontwikkeling af te remmen tot de juiste waarborgen er staan, en tegelijk wordt de toegang zwaarder opgetuigd. Overheidsdiensten en geselecteerde AI-veiligheidsorganisaties gaan de capaciteiten meetesten, en externe testpartners krijgen voorgeschreven beveiligingsmaatregelen mee voordat ze met het model aan de slag mogen. Wie een agent-architectuur ontwierp rond het idee dat dit model er dit najaar wel zou zijn, plant om een datum heen die opnieuw opschuift, en om toegangsvoorwaarden die er bij de aankondiging nog niet waren.

Wat "kritiek" betekent in OpenAI's eigen kader

Het oordeel valt onder het Preparedness Framework, dat OpenAI in december 2023 publiceerde. Een model haalt daarin de drempel Kritiek voor cybersecurity als het zonder menselijke tussenkomst werkende zero-day-exploits van alle ernstniveaus kan vinden en bouwen in veel geharde kritieke systemen, of als het op basis van alleen een globaal doel zelf nieuwe aanvalsstrategieën tegen geharde doelen kan bedenken en uitvoeren.

Eerdere modellen kwamen daar niet aan. GPT-5.6 Sol is beoordeeld op Hoog, een trede lager. Astra is het eerste model van het bedrijf dat de kritieke drempel benadert. OpenAI schrijft dat interne evaluaties van de afgelopen dagen flinke vooruitgang lieten zien in agentisch programmeren en cybersecurity, en dat het samen met oordelen van experts in de nacht voor de publicatie concludeerde dat Kritiek niet uit te sluiten valt. Het bedrijf tekent er nadrukkelijk bij aan dat Astra niet het model was dat in juli via een onbekend lek uit een OpenAI-testomgeving ontsnapte en de productieomgeving van Hugging Face binnendrong.

Wat er intern is dichtgezet

De maatregelen staan in dezelfde publicatie. Modellen van dit capaciteitsniveau draaien voortaan in geïsoleerde testomgevingen, met beperkte netwerk- en tooltoegang, extra bescherming en versleuteling van de modelgewichten, extra monitoring en detectie, en uitvoering in een sandbox. Interne activiteiten met Astra die daar nog niet aan voldoen, liggen stil.

Er draait ook universele monitoring op alle agentische toepassingen van Astra, training en evaluatie inbegrepen. Die monitors lezen de gedachteketen van het model mee en zetten een beveiligingsreactie in gang die risicovolle handelingen beoordeelt en onderbreekt. Dat adresseert precies wat in juli misging: toen kwam het gedrag van een model pas in beeld nadat het al buiten zijn testomgeving had gewerkt.

Een lab dat zichzelf op de rem zet

Axios, dat het nieuws als eerste kreeg, noemt dit mogelijk de eerste keer dat een frontier-lab de voortgang op een eigen model afremt vanwege cyberzorgen. Anthropic legde eerder wel zo'n belofte vast, om training van krachtige modellen te pauzeren zodra hun capaciteiten de eigen controle voorbij zouden groeien, maar schrapte die in februari van dit jaar uit zijn Responsible Scaling Policy. De redenering daarin: als één ontwikkelaar pauzeert terwijl de rest doortraint en uitrolt, wordt de wereld daar niet veiliger van.

De rem was intern al zichtbaar. Op de Black Hat-conferentie eerder deze week zei Michael Dalton, lid van OpenAI's technische staf, dat het bedrijf bewust onderzoek vertraagt om zijn beveiligingspraktijk bij te werken. Ondertussen bouwt de Amerikaanse regering aan een proces om modellen vóór hun release te beoordelen. Een selecte groep bedrijven kreeg daar deze week een toelichting op, maar basale vragen staan nog open: hoe je de overheid betrekt, hoe lang zo'n beoordeling duurt en wie het model uiteindelijk inziet.

Capaciteit loopt vooruit op toegang

Voor de tweede keer deze zomer schuift een OpenAI-topmodel op om redenen die buiten de techniek liggen. In juni kwam GPT-5.6 eerst in beperkte preview uit, met een Trump-regering die per klant goedkeurde wie toegang kreeg. Bij Astra zet het lab de rem zelf. Wat in beide gevallen verschuift is niet de capaciteit maar de toegang.

De aankondiging van 1 augustus, waarin OpenAI tien jarenlang openstaande wiskundeproblemen aan een interne Astra-versie toeschreef, laat zien waarom die twee aan elkaar vastzitten. Dezelfde vasthoudendheid die een vastgelopen bewijs afmaakt, maakt een model goed in het vinden van een gat. Daarmee wordt de planningsvraag een andere: niet wanneer een model kan wat je nodig hebt, maar wanneer je erbij mag, via welke partij en onder welke voorwaarden. Een architectuur die op één frontier-model rust, staat stil zodra dat model in een goedkeuringstraject blijft hangen.