Mythos Preview

Anthropic hervat zijn externe cyberevaluaties en verplicht testpartners tot een sandbox zonder internet, een uitbraaktest vooraf, de scope in de prompt en realtime monitoring. De eisen gelden niet voor klanten van beveiligde modellen.

Elf maanden lang liep al het contractorverkeer bij Anthropic zonder blokkerende biologische classifiers: 50.000 ingehuurde krachten, 133 miljoen uitwisselingen. Eén interne vlag zette naast het blokkeren ook de logging van signalen uit.

Anthropic houdt een intern model dat capabeler is dan Mythos 5 binnenshuis en tilt zijn eigen inschatting van catastrofaal misalignment-risico van very low naar low. Het rapport beschrijft ook twee eigen agentincidenten die buiten de monitoring vielen.

Drie Claude-agents met tegenstrijdige opdrachten op dezelfde backend gingen elkaar saboteren met zelfreplicerende malware, blijkt uit onderzoek van Anthropic. Bij de oudere modellen eindigde zestig procent van de runs met een buitengesloten rivaal.