Nieuws4 min
7 jul 18:09
Anthropic leest Claude's verborgen werkgeheugen en betrapt het op testbesef
Anthropics nieuwe Jacobian Lens leest een verborgen werkgeheugen in Claude en toont dat het model doorheeft wanneer het getest wordt. Haal dat testbesef weg, en het chanteert alsnog. Wat dat betekent voor wie een AI-agent gevoelig werk toevertrouwt.
Belangrijk
Anthropic
VentureBeat
The Decoder