Yoshua Bengio

Circa 400 onderzoekers vragen een internationaal AI-orgaan om gezamenlijke containmentnormen en registratie van cyberincidenten. Voor Nederlandse bedrijven verandert de wet niet, maar aanbieders van krachtige modellen kunnen later met nieuwe toezichtseisen te maken krijgen.

Een VN-panel zegt dat het stoppen van de Hugging Face-inbraak geen garantie biedt voor menselijke controle over krachtigere AI-agents. Voor organisaties verschuift de vraag naar bevoegdheden, escalatie, logs en een onafhankelijke stoproute.

Een publieke brief van het AI Evaluator Forum vraagt Anthropic, OpenAI en andere frontier-labs om onafhankelijke evaluatoren toegang op werknemerniveau, redactionele vrijheid en bescherming tegen vergelding. Voor Nederlandse inkopers maakt dat toetsvoorwaarden onderdeel van leveranciersrisico.

Anthropic-onderzoeker Jacob Coxon vertrekt en waarschuwt dat de race naar zelfverbeterende superintelligentie onverantwoord verloopt. Anthropic-alignmentonderzoeker Evan Hubinger bevestigt de ernst en noemt een risico van meer dan tien procent.

The Information meldt dat Astra in lussen redeneert en minder leesbare denkstappen achterlaat. OpenAI ontkent de techniek niet, maar bestrijdt de omvang. Wat dat betekent voor logging, audits en toezicht op AI-agents in je eigen organisatie.