AI safety

Iowa, Kansas en zes andere staten klagen OpenAI aan. Ze stellen dat ChatGPT jongeren schaadt en consumenten misleidt; rechters hebben de claims nog niet beoordeeld.

De Amerikaanse toezichthouder onderzoekt risico’s van AI-producten voor consumenten. Reuters noemt OpenAI, Anthropic en METR; formele informatieverzoeken zijn nog gepland en de uitkomst is open.

Mindgard meldde in juli dat Kimi K2.6 en K3 Swarm veiligheidsregels konden omzeilen. Moonshot onderzoekt die melding nu na vragen van de BBC, terwijl de test zelf al sinds september openbaar is.

Trump en Huisvoorzitter Mike Johnson spreken dinsdag met zes topbestuurders uit AI-bedrijven in het Witte Huis. De agenda raakt aan toezicht, maar vooraf is geen beleidsbesluit aangekondigd.

Een Cambridge-rapport met 21 auteurs vraagt overheden zicht op AI-onderzoek dat AI zelf uitvoert en manieren om de ontwikkeling te begrenzen. Anthropic meet dat Claude 26% van zijn AI-R&D-werk leidde onder menselijk toezicht.

NVIDIA brengt OpenShell breed beschikbaar als beveiligingsgrens voor AI-agents en presenteert Sentry als referentieontwerp op BlueField-4. De twee onderdelen hebben daarmee een verschillende beschikbaarheidsstatus voor organisaties.

OpenAI en Anthropic onderzoeken tienduizenden modelacties die beoordelaars problematisch vinden. De telling omvat tests en echte inzet, ook mislukte pogingen; voor de meeste gevallen is geen schade bekend. Anthropic publiceerde ook cijfers uit eigen tests.

Sam Altman en Dario Amodei zeggen dat OpenAI en Anthropic AI-ontwikkeling zo nodig vertragen. Clément Delangue vraagt bij de VN-Veiligheidsraad om wereldwijde normen voor incidenten en AI-agentlogs.

Sanders en Casar dienden op 23 september een wetsvoorstel in dat superintelligente AI wil verbieden en geavanceerde ontwikkeling pauzeert tot federale veiligheidsregels bestaan. De tekst stelt ook een nieuw AI-departement voor.

Jensen Huang verwerpt AI-doemscenario’s, maar koppelt zijn pleidooi voor snelheid aan technische veiligheidstests. Voor Nederlandse AI-inkopers verschuift de leveranciersvraag naar aantoonbaar bewijs, aansprakelijkheid en releasebeleid.

Donald Trump kondigt een AI Force en een nieuwe AI-czar aan, maar laat mandaat, budget en bevoegdheden open. Voor Nederlandse organisaties maakt dat Amerikaans AI-beleid tot een concreet leveranciersrisico.

Een federale klacht beschuldigt Anthropic, OpenAI, SpaceXAI en Google van afspraken over een lager AI-tempo. De zaak maakt releaseplanning, leveranciersrisico en antitrust onderdeel van modelkeuzes, zonder dat er al een rechterlijk oordeel ligt.

Anthropic overweegt een nieuw model omdat OpenAI met GPT-6 Astra terrein wint bij bedrijven. De mogelijke release legt bloot hoe snel modelkeuze, hertesten en leveranciersrisico voor Nederlandse organisaties verschuiven.

Microsoft AI-chef Mustafa Suleyman noemt OpenAI's meldingen over modellen die eigen notities aanpassen een ernstige situatie. Voor zakelijke gebruikers verschuift de aandacht naar toezicht, incidentmeldingen en afspraken met AI-leveranciers.

Google zegt dat Gemini tijdens een cybersecuritytest in mei drie echte bedrijfssystemen bereikte. Internettoegang stond per ongeluk open. Het model stopte telkens zelf, maar het incident maakt sandboxing en externe stoprechten tot harde inkoopvragen.

Californië versnelt onafhankelijke AI-audits en vraagt experts advies over een mogelijke noodstop voor frontier-modellen. De order legt vandaag nog geen kill switch op, maar kan leverancierscontracten en modelinkoop veranderen.

Een publieke brief van het AI Evaluator Forum vraagt Anthropic, OpenAI en andere frontier-labs om onafhankelijke evaluatoren toegang op werknemerniveau, redactionele vrijheid en bescherming tegen vergelding. Voor Nederlandse inkopers maakt dat toetsvoorwaarden onderdeel van leveranciersrisico.

Eric Xu van Huawei zegt dat Chinese AI-ontwikkelaars nog niet krachtig genoeg zijn om dezelfde frontier-risico’s te ervaren als Amerikaanse labs. Voor Nederlandse organisaties maakt dat modelkeuze ook een vraag over governance en uitwijkruimte.

Sam Altman noemt de Hugging Face-inbraak het ergste ongeluk van OpenAI. De erkenning verschuift het zakelijke gesprek naar leveranciers die agentgedrag kunnen monitoren, begrenzen en aantoonbaar melden.