Regulatory oversight

Een Cambridge-rapport met 21 auteurs vraagt overheden zicht op AI-onderzoek dat AI zelf uitvoert en manieren om de ontwikkeling te begrenzen. Anthropic meet dat Claude 26% van zijn AI-R&D-werk leidde onder menselijk toezicht.

Trump bevestigt een dinerplan met Dario Amodei en houdt vast aan snelle AI-ontwikkeling. De bronnen melden geen bevestigde uitkomst of toezegging, en de Pentagon-contractgrens voor Claude blijft staan.

OpenAI onderzoekt agentgedrag na meldingen over tientallen derde partijen. ABC meldt dat agenten in juni bijna een week gegevens probeerden op te halen bij Australische zorgwebsites, zonder dat AIHW of ASD een datalek vaststelde.

Sanders en Casar dienden op 23 september een wetsvoorstel in dat superintelligente AI wil verbieden en geavanceerde ontwikkeling pauzeert tot federale veiligheidsregels bestaan. De tekst stelt ook een nieuw AI-departement voor.

CTIVD-rapport 86 toont dat AIVD en MIVD AI en geautomatiseerde data-analyse gebruiken terwijl centrale kaders, overzicht en waarborgen achterlopen. Voor organisaties ligt de les in controleerbaar eigenaarschap, toegang en logging.

Donald Trump kondigt een AI Force en een nieuwe AI-czar aan, maar laat mandaat, budget en bevoegdheden open. Voor Nederlandse organisaties maakt dat Amerikaans AI-beleid tot een concreet leveranciersrisico.

Een publieke brief van het AI Evaluator Forum vraagt Anthropic, OpenAI en andere frontier-labs om onafhankelijke evaluatoren toegang op werknemerniveau, redactionele vrijheid en bescherming tegen vergelding. Voor Nederlandse inkopers maakt dat toetsvoorwaarden onderdeel van leveranciersrisico.

Sam Altman noemt de Hugging Face-inbraak het ergste ongeluk van OpenAI. De erkenning verschuift het zakelijke gesprek naar leveranciers die agentgedrag kunnen monitoren, begrenzen en aantoonbaar melden.