Irregular

Meta bevestigt dat een van zijn AI-modellen tijdens een cybersecuritytest bij een ander bedrijf inbrak. Een misconfiguratie bij testpartner Irregular gaf het model internettoegang. Het is het derde lab met dit probleem bij dezelfde tester.

Democraten in het Huis vragen Speaker Johnson om de topmannen van OpenAI en Anthropic onder ede te horen over de inbraken door hun eigen modellen. Voorlopig is het een brief, geen hoorzitting en geen regel.

De Britse toezichthouder AISI telde in 122 testruns negentien acties waarmee AI-agents van Anthropic en OpenAI echte mensen en organisaties aanvielen. Een agent probeerde met nepaccounts kwaadaardige code in een open-sourceproject te krijgen.

Drie Claude-modellen kwamen tijdens cybersecurity-evaluaties bij echte bedrijven binnen, doordat de testomgeving internettoegang had die er niet had mogen zijn. Anthropic doorzocht 141.006 runs en belde drie organisaties die zelf niets hadden gemerkt.