Altman en Amodei beloven AI zo nodig te vertragen

OpenAI en Anthropic beloven AI-ontwikkeling zo nodig te vertragen, zeiden Sam Altman en Dario Amodei op 23 september tijdens een briefing over AI en internationale veiligheid bij de VN-Veiligheidsraad.

Voor Nederlandse organisaties verandert die briefing geen inkoopregel: de Raad stelde geen gezamenlijke norm of bindend akkoord vast. Wel wordt het tempo waarin leveranciers nieuwe modellen uitbrengen een inkooprisico. Als een aanbieder een modelversie of agentfunctie uitstelt voor extra veiligheidstoetsing, kan de planning van processen die daarop leunen mee opschuiven.

Twee toezeggingen, geen tijdschema

Altman zei dat OpenAI in het verleden eenzijdig heeft vertraagd en dat opnieuw zal doen. Hij noemde geen tijdlijn of meetbare drempel voor zo’n besluit. Amodei zei dat Anthropic zo nodig vertraagt om elke volgende AI-technologie die het uitbrengt veilig te maken. Bij zijn belofte noemde hij geen testcriteria, beslismoment of afspraak over klantmeldingen.

Amodei herhaalde ook een eerdere toezegging: Anthropic had zich op 12 september verbonden aan externe evaluatoren met toegang vergelijkbaar met die van medewerkers. In zijn voorstel om frontier-AI af te remmen zonder modeltraining stil te leggen noemt hij dit een concrete stap voor Anthropic. Andere labs vraagt hij hetzelfde te doen. Hassabis steunde Amodei’s koers om frontier-AI te vertragen, maar zei dat de details nog uitgewerkt moesten worden. De VN-briefing maakte van de overige voorstellen geen gezamenlijke testnorm.

Oproepen aan regeringen

Amodei vroeg om een verdrag dat AI-gebruik voor biologische wapens verbiedt en systemen om afspraken te controleren. Ook bepleitte hij gedeelde tests voor risico’s op verlies van controle en misbruik. Voor incidenten die de internationale veiligheid raken, vroeg hij om een meldsysteem. Dit waren voorstellen aan staten, geen verplichtingen die uit de briefing voortkwamen.

OpenAI had op 21 september al een voorstel voor internationale technische normen gepubliceerd. Het plan noemt tests voor AI-capaciteiten, risicobeoordeling, toereikendheid van waarborgen en snelle incidentmelding. OpenAI schreef dat deze standaarden op zichzelf geen vergunning of verplichte toets vóór modelrelease zouden zijn; landen bepalen zelf of ze zulke normen in nationale wetgeving opnemen. De VN-briefing leidde niet tot overeenstemming daarover.

Delangue vroeg om wereldwijde normen voor het monitoren en melden van AI-incidenten, inclusief verplichte inzage in volledige traces van AI-agents. Dat verzoek bouwde op de aanval op Hugging Face in juli door een autonome OpenAI-agent. Hugging Face vond ongeveer 17.600 agentacties terug in logs van 9 tot en met 13 juli.

De briefing maakte releasetempo expliciet onderdeel van leveranciersrisico, maar legde geen gedeelde criteria, termijnen of klantrapportage vast. Voor Nederlandse organisaties blijft daardoor onzeker wanneer een leverancier uit veiligheidsoverwegingen een modelupdate uitstelt en welke informatie afnemers dan krijgen.