Alisina NawabiEen rapport van het Cambridge Programme on AI Science & Policy vraagt overheden om toezicht op AI-onderzoek dat AI zelf uitvoert. De oproep telt 21 auteurs, onder wie OpenAI's Jakub Pachocki en Anthropic's Jack Clark.
Voor Nederlandse organisaties ontstaat hierdoor vandaag geen nieuwe wettelijke plicht. De voorstellen richten zich op overheden; als die regels invoeren, kan controle van AI-leveranciers zich ook uitstrekken tot de AI-systemen waarmee zij volgende modellen ontwikkelen.
Onder de auteurs zijn ook Geoffrey Hinton, Yoshua Bengio en Eric Horvitz van Microsoft. De auteurs schrijven dat hun standpunten niet noodzakelijk die van hun werkgevers zijn.
Controle op het ontwikkelproces
Waar de eerdere oproep van OpenAI- en Anthropic-onderzoekers vroeg om de ontwikkeling van de krachtigste AI-modellen te vertragen, beschrijft deze nota hoe overheden specifieke AI-R&D kunnen volgen en begrenzen. De auteurs noemen gestandaardiseerde rapportage over AI-R&D, onafhankelijke controleurs die bij sommige bedrijven meekijken en manieren om de groei van modelcapaciteiten te begrenzen. Ook vragen ze om toezicht op datacenters, de mogelijkheid specifieke AI-onderzoekstaken te pauzeren, afgeschermde onderzoeksomgevingen en noodplannen. De concrete voorstellen omvatten rapportage, audits en het tijdelijk kunnen stilleggen van AI-werk.
Anthropic meet dat Claude in augustus 26% van het AI-R&D-werk leidde, tegen minder dan 1% in februari. Dat betekent dat het model bij die taken het grootste deel uitvoert op basis van een opdracht op hoofdlijnen, terwijl een mens toezicht houdt; geen van de gemeten taaksoorten is volledig autonoom.
De auteurs extrapoleren op basis van voorlopige trends dat AI tegen medio 2028 onderzoeksprojecten zou kunnen uitvoeren waar mensen maanden voor nodig hebben. Ze schrijven dat de huidige productiviteitswinst die drempel nog niet heeft bereikt. Axios noemt rekenkracht, lange trainingsduur en moeilijk te automatiseren taken als factoren die de versnelling kunnen afremmen.
De inzet verschuift daarmee van alleen testen wat een model kan naar volgen hoe labs AI inzetten om hun volgende modellen te ontwikkelen.
Veelgestelde vragen
AI bouwen met controle
Ik help je bepalen waar een softwareagent zelfstandig mag werken en welke handelingen menselijk toezicht vragen. Ik denk mee, ontwerp en realiseer het hele traject, met software op eigen infrastructuur waar dat kan.
Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.
