Veiligheidstesten AI

Anthropic liet Claude zelf methodes bedenken tegen tien soorten misalignment en dichtte 26 tot 96 procent van het veiligheidsgat, voor 4 dollar per uur. Dat verandert het bewijs dat je bij een modelleverancier opvraagt.

Standaardenorganisatie Guidelight beoordeelde vijf AI-labs op controle over hun eigen modellen. Geen enkel lab heeft een vastgelegd containmentplan, en de hoogste eindscore blijft steken op een C+. Anthropic en Meta scoren op dat punt een nul.

OpenAI pauzeerde twee weken de reinforcement-learning-training van zijn nieuwste modellen en houdt de grootste geplande frontier-run nog stil. Monitoring kijkt nu bij elk token mee, met een alarmdrempel van 30 minuten.

Twee commissies van het Amerikaanse Huis vragen DoorDash uitleg over het Chinese model Kimi K2.6. De aanleiding is een eigen benchmark waarin dat model beter scoorde dan de Amerikaanse opstelling, en ook nog goedkoper was.

Iets minder dan drie weken na het exportbevel heft de VS de blokkade op Anthropics krachtigste modellen Fable 5 en Mythos 5 volledig op. Het topmodel keert terug, maar de les over afhankelijkheid blijft staan.