Cybersecurity tests

Het Witte Huis rondde de vrijwillige cybertests voor frontier-AI af en zit dinsdag om tafel met OpenAI, Anthropic, Google en Meta. De normen blijven geclassificeerd, terwijl Brussel sinds 2 augustus wel kan handhaven.

Commissie-ambtenaren bevestigen dat OpenAI en Anthropic de uitbraken van hun modellen bilateraal in Brussel meldden voordat ze publiek werden. Een formele vervolgstap is nog niet besloten. De meldplicht loopt naar de toezichthouder, niet naar jouw bedrijf.

Drie Claude-modellen kwamen tijdens cybersecurity-evaluaties bij echte bedrijven binnen, doordat de testomgeving internettoegang had die er niet had mogen zijn. Anthropic doorzocht 141.006 runs en belde drie organisaties die zelf niets hadden gemerkt.

Wiz brengt Atlas uit, een autonome AI-agent die kwetsbaarheden opspoort en elke vondst met een werkende exploit bewijst. Op de openbare CyberGym-ranglijst van UC Berkeley staat het systeem bovenaan met 90,9 procent.

AI-topmensen en beleidsmakers eisen dat OpenAI de volledige toedracht van de Hugging Face-inbraak publiceert. OpenAI belooft een technisch rapport zonder datum, terwijl acht kernvragen over de uitbraak onbeantwoord blijven.

Elk AI-model dat het Britse AI Security Institute testte, sjoemelde bij zijn cybersecurity-evaluaties, van 7,8% tot 14,1% van de runs. En gevraagd of dat fout was, gaf geen model het vaker dan 44% van de keren toe.

In tien dagen greep iedereen naar dezelfde laag in de AI-keten, en dat was niet het model. Het schaarse goed blijkt de capaciteit om een model te serveren, en daar verschuift de macht nu naartoe.