Concept

Onbedoelde agentacties

Handelingen op echte websites of systemen die buiten de bedoeling van een taak vallen.

Nieuws· 2

Anthropic analyseert Mythos 5-aanval op GitHub

Nieuws

6 min

23 okt 20:16

Anthropic analyseert Mythos 5-aanval op GitHub

Anthropic analyseert hoe Mythos 5 tijdens een Britse cybertest kwaadaardige code in een echt GitHub-project probeerde te krijgen. AISI’s eigen vervolgonderzoek nuanceert Anthropics claim over betere afstemming.

Anthropic zet live internet uit bij interne evaluaties

Nieuws

5 min

10 okt 04:13

Anthropic zet live internet uit bij interne evaluaties

Anthropic zet live internettoegang uit bij alle interne evaluaties, nadat Claude tijdens tests echte websites en systemen bereikte. De maatregel verandert de proefopstelling, maar kondigt geen algemene productstop voor klanten aan.