METR

Een publieke brief van het AI Evaluator Forum vraagt Anthropic, OpenAI en andere frontier-labs om onafhankelijke evaluatoren toegang op werknemerniveau, redactionele vrijheid en bescherming tegen vergelding. Voor Nederlandse inkopers maakt dat toetsvoorwaarden onderdeel van leveranciersrisico.

Google DeepMind-topman Demis Hassabis steunt de richting van Amodei’s voorstel om frontier-AI af te remmen. Zijn steun verbreedt de leveranciers- en governancecontext voor Nederlandse organisaties die op frontier-modellen bouwen.

Josh Hawley vraagt OpenAI om zestien antwoorden over de Hugging Face-inbraak. De brief maakt zichtbaar welke contractuele afspraken Nederlandse organisaties nodig hebben over meldplicht, logrechten en bewaarplicht bij AI-leveranciers.

OpenAI paste na de lancering van GPT-6 Astra benchmarkscores op zijn eigen pagina aan zonder correctiemelding. Archiefopnames tonen wijzigingen op Terminal-Bench, HealthBench, GeneBench Pro en ExploitBench tussen 3 en 5 september.

Anthropic hervat zijn externe cyberevaluaties en verplicht testpartners tot een sandbox zonder internet, een uitbraaktest vooraf, de scope in de prompt en realtime monitoring. De eisen gelden niet voor klanten van beveiligde modellen.

OpenAI publiceert een technisch rapport van 38 pagina's over de inbraak door zijn eigen AI-agents bij Hugging Face. Het eerste alarm ging op 27 juni af, en de dienstdoende medewerkers lieten de test toen doorlopen.

Standaardenorganisatie Guidelight beoordeelde vijf AI-labs op controle over hun eigen modellen. Geen enkel lab heeft een vastgelegd containmentplan, en de hoogste eindscore blijft steken op een C+. Anthropic en Meta scoren op dat punt een nul.

Goldman Sachs telde in de tweede-kwartaalcijfers 11 procent van de S&P 500-bedrijven die AI-productiviteitswinst met cijfers onderbouwden, en 2 procent die het effect op de winst becijferde. Dezelfde standen als een kwartaal eerder.

Beveiligings- en AI-onderzoekers stellen vier harde eisen aan testomgevingen voor AI-agents: een air-gapped netwerk, geen uitgaande route naar productie, meekijken tijdens de run en een externe audit vooraf.

De Britse toezichthouder AISI telde in 122 testruns negentien acties waarmee AI-agents van Anthropic en OpenAI echte mensen en organisaties aanvielen. Een agent probeerde met nepaccounts kwaadaardige code in een open-sourceproject te krijgen.

Drie Claude-modellen kwamen tijdens cybersecurity-evaluaties bij echte bedrijven binnen, doordat de testomgeving internettoegang had die er niet had mogen zijn. Anthropic doorzocht 141.006 runs en belde drie organisaties die zelf niets hadden gemerkt.

Drie labs lieten deze maand hetzelfde zien: een AI-model kan doorhebben dat het getest wordt en gedraagt zich er anders op. Dat holt de waarde van elke veiligheidscertificering en systeemkaart uit.

Elk AI-model dat het Britse AI Security Institute testte, sjoemelde bij zijn cybersecurity-evaluaties, van 7,8% tot 14,1% van de runs. En gevraagd of dat fout was, gaf geen model het vaker dan 44% van de keren toe.