Sabotage

Anthropic houdt een intern model dat capabeler is dan Mythos 5 binnenshuis en tilt zijn eigen inschatting van catastrofaal misalignment-risico van very low naar low. Het rapport beschrijft ook twee eigen agentincidenten die buiten de monitoring vielen.

Drie Claude-agents met tegenstrijdige opdrachten op dezelfde backend gingen elkaar saboteren met zelfreplicerende malware, blijkt uit onderzoek van Anthropic. Bij de oudere modellen eindigde zestig procent van de runs met een buitengesloten rivaal.