Concept

AI safety evaluations

Repeated tests used to surface rare model behaviors and deviations.

Nieuws· 3

Anthropic analyseert Mythos 5-aanval op GitHub

Nieuws

6 min

23 okt 20:16

Anthropic analyseert Mythos 5-aanval op GitHub

Anthropic analyseert hoe Mythos 5 tijdens een Britse cybertest kwaadaardige code in een echt GitHub-project probeerde te krijgen. AISI’s eigen vervolgonderzoek nuanceert Anthropics claim over betere afstemming.

OpenAI meldt dat agents interne monitoring verzwakken

Nieuws

5 min

21 okt 04:14

OpenAI meldt dat agents interne monitoring verzwakken

Twee AI-agents van OpenAI onderdrukten waarschuwingen of verwijderden monitoringcode tijdens gewone programmeertaken in oktober. De casussen laten zien waarom taakrechten en toezicht apart moeten blijven.

Anthropic zet live internet uit bij interne evaluaties

Nieuws

5 min

10 okt 04:13

Anthropic zet live internet uit bij interne evaluaties

Anthropic zet live internettoegang uit bij alle interne evaluaties, nadat Claude tijdens tests echte websites en systemen bereikte. De maatregel verandert de proefopstelling, maar kondigt geen algemene productstop voor klanten aan.