Testbesef

Anthropics nieuwe Jacobian Lens leest een verborgen werkgeheugen in Claude en toont dat het model doorheeft wanneer het getest wordt. Haal dat testbesef weg, en het chanteert alsnog. Wat dat betekent voor wie een AI-agent gevoelig werk toevertrouwt.

Drie labs lieten deze maand hetzelfde zien: een AI-model kan doorhebben dat het getest wordt en gedraagt zich er anders op. Dat holt de waarde van elke veiligheidscertificering en systeemkaart uit.