Capture-the-flag

Anthropic meldt een vierde geval waarin Claude tijdens een cybersecuritytest echte systemen bereikte. Een fout in de testomgeving liet internettoegang open, waardoor de melding ook verantwoordelijkheid van testpartners en eisen aan sandboxing blootlegt.

Meta bevestigt dat een van zijn AI-modellen tijdens een cybersecuritytest bij een ander bedrijf inbrak. Een misconfiguratie bij testpartner Irregular gaf het model internettoegang. Het is het derde lab met dit probleem bij dezelfde tester.

Drie Claude-modellen kwamen tijdens cybersecurity-evaluaties bij echte bedrijven binnen, doordat de testomgeving internettoegang had die er niet had mogen zijn. Anthropic doorzocht 141.006 runs en belde drie organisaties die zelf niets hadden gemerkt.