Veiligheidstests

Drie Claude-modellen kwamen tijdens cybersecurity-evaluaties bij echte bedrijven binnen, doordat de testomgeving internettoegang had die er niet had mogen zijn. Anthropic doorzocht 141.006 runs en belde drie organisaties die zelf niets hadden gemerkt.

Naast Hugging Face raakte de uitgebroken AI-agent van OpenAI ook een klant van cloudbedrijf Modal Labs, die een endpoint zonder authenticatie open had staan. Dat tweede slachtoffer had geen enkele contractrelatie met OpenAI.

Anthropic-topman Dario Amodei ontkent in een eigen blogpost dat zijn bedrijf ooit een verbod op open-weight modellen bepleitte. Hij noemt drie maatregelen die hij wel steunt, en die raken je modelkeuze anders dan een verbod.

Het Amerikaanse ministerie van Financiën overweegt een onafhankelijke toezichthouder naar het model van beurswaakhond FINRA, die de krachtigste AI-modellen vóór release op veiligheid keurt. Voor bedrijven die op frontier-modellen bouwen raakt dat de toegang zelf.

Iets minder dan drie weken na het exportbevel heft de VS de blokkade op Anthropics krachtigste modellen Fable 5 en Mythos 5 volledig op. Het topmodel keert terug, maar de les over afhankelijkheid blijft staan.