Trump wijst AI-uitsterfrisico af, 22 politici vragen toezicht

Trump wijst waarschuwingen voor door AI veroorzaakt menselijk uitsterven af, meldt Bloomberg News via NDTV, en zegt dat de Verenigde Staten China met ongeveer een jaar voorliggen.

Voor een Nederlandse organisatie die AI inkoopt, verschuift de inzet van modelkeuze naar leveranciersbestuur. Een release kan worden vertraagd, een veiligheidstest uitgebreid of toegang beperkt door besluiten in Washington, terwijl de klant afhankelijk blijft van de uitkomst. Dat maakt testen, auditrechten en een uitwijkpad onderdeel van bedrijfscontinuïteit, niet alleen van compliance.

De reactie volgt op een publieke oproep van onderzoekers van OpenAI en Anthropic om frontier-AI te vertragen.

De politieke reactie

Het gaat niet om één gezamenlijk wetsvoorstel. Anadolu Ajansı telde op basis van publieke posts en verklaringen minstens 22 zittende ambtsdragers die om overheidsactie vroegen: twee gouverneurs, zeven senatoren en dertien leden van het Huis van Afgevaardigden. De verdeling was 18 Democraten, drie Republikeinen en één onafhankelijke senator, Bernie Sanders.

De opsomming van die 22 omvat:

• Gouverneurs: JB Pritzker van Illinois en Kathy Hochul van New York.
• Senatoren: Bernie Sanders, Mark Kelly, Patty Murray, Chris Murphy, Lisa Blunt Rochester, Chris Van Hollen en Ted Cruz.
• Huis van Afgevaardigden: Ro Khanna, Greg Casar, Yassamin Ansari, Anna Paulina Luna, Nathaniel Moran, Bill Foster, Ted Lieu, Lori Trahan, Don Beyer, Chris Deluzio, Pramila Jayapal, Delia Ramirez en Dave Min.

Tests en audits

De voorstellen lopen uiteen. Ro Khanna noemt verplichte certificering van beheersingssystemen, kill switches en menselijke toestemming voordat een systeem zichzelf mag herschrijven. Van Hollen vraagt om uitgebreide tests. Ted Lieu koppelt de kwestie aan de tweeledige AI Kill Switch Bill.

Een afzonderlijk voorstel gaat verder dan politieke verklaringen. Amy Klobuchar zei dat ontwikkelaars met overheidsexperts moeten samenwerken om modellen te verifiëren en te testen. Een tweeledige groep van zes afgevaardigden stelde in juli onafhankelijke beveiligingsaudits voor de krachtigste modellen voor. Die auditors zouden door het Amerikaanse ministerie van Handel worden geaccrediteerd.

Een botsing over het tempo

Bij vertrek uit Dallas op 10 september zei Trump dat hij geen zorgen had over AI die tot menselijke uitsterving leidt. Hij legde de nadruk op het behouden van de Amerikaanse voorsprong op China. Daarmee staat zijn prioriteit haaks op de oproep van de politici om eerst strengere veiligheidsinstrumenten vast te leggen.

Anthropic zegt ondertussen agressief te blijven testen op gevaarlijke mogelijkheden in cyberveiligheid en biologie en wil met de sector spreken over het tempo waarin nieuwe modellen uitkomen. Die reactie bevat geen bindende toezegging over een pauze.

Wat er voor Nederlandse inkoop verandert

Voor een Nederlandse organisatie is de directe verandering geen nieuwe Nederlandse regel die hier wordt aangekondigd, maar een zwaardere leveranciersvraag. Als ontwikkelaars releases kunnen vertragen, veiligheidseisen kunnen aanscherpen of toegang kunnen aanpassen onder politieke druk, wordt een modelkeuze ook een continuïteitskeuze.

Een contract dat alleen prijs en beschikbaarheid vastlegt, laat dan belangrijke vragen open: welke evaluaties zijn uitgevoerd, wie mag de uitkomst controleren, hoe snel worden incidenten gemeld en welke toegang kan direct worden ingetrokken? Ook data, prompts en workflows moeten kunnen verhuizen als een leverancier zijn veiligheidsbeleid of beschikbaarheid wijzigt.

De kern van dit nieuws is niet dat er al een Amerikaanse AI-pauze ligt. Die ligt er niet. Het nieuwe signaal is dat veiligheidsbeleid tegelijk uit de labs, het Congres en het Witte Huis komt, maar niet dezelfde kant op wijst. Voor Nederlandse organisaties wordt de leverancier daardoor onderdeel van het risicobeheer, naast de software die hij levert.