Preparedness

Anthropic-onderzoeker Jacob Coxon vertrekt en waarschuwt dat de race naar zelfverbeterende superintelligentie onverantwoord verloopt. Anthropic-alignmentonderzoeker Evan Hubinger bevestigt de ernst en noemt een risico van meer dan tien procent.

OpenAI vraagt Californië om SB 53 aan te scherpen met monitoring van modellen tijdens training en evaluatie. Een jaar geleden wilde het bedrijf de wet juist verzachten. Wat de ommezwaai betekent voor je leverancierscontract.

OpenAI pauzeerde twee weken de reinforcement-learning-training van zijn nieuwste modellen en houdt de grootste geplande frontier-run nog stil. Monitoring kijkt nu bij elk token mee, met een alarmdrempel van 30 minuten.