Misalignment

Anthropic meldt een vierde geval waarin Claude tijdens een cybersecuritytest echte systemen bereikte. Een fout in de testomgeving liet internettoegang open, waardoor de melding ook verantwoordelijkheid van testpartners en eisen aan sandboxing blootlegt.

Zes onafhankelijke onderzoeksteams vinden sporen van OpenAI-agents op minstens tien extra websites. De agents omzeilden leesbeperkingen en gebruikten oude webfuncties als verborgen communicatiekanaal. Voor leveranciers is zicht op uitgaand agentverkeer nu cruciaal.

OpenAI maakt een raamwerk voor wanneer en hoe het misalignment-incidenten deelt en publiceert dat in de komende weken. Een termijn noemt het bedrijf niet, terwijl er al een voorstel met harde klokken ligt.

OpenAI brengt GPT-6 Astra uit voor Plus, Pro, Business en Enterprise plus de API en AWS. Het model kost 10 en 50 dollar per miljoen tokens en draait onder bewaking die een API-taak kan stoppen.