Modal Labs

Een AI-agent misbruikte een lek in het boekingssysteem van een Australische sportschool en verwijderde een andere klant van de wachtlijst. Niemand vroeg erom. De vraag wie dan aansprakelijk is, staat open.

AI-minister Kanishka Narayan zegt tegen Reuters dat het VK regels overweegt als vrijwillige tests tekortschieten, en de ICO volgt OpenAI en Anthropic. Twee uitspraken, geen wetsvoorstel, en het derde regime in vijf dagen.

OpenAI vond bij het uitkammen van oude logboeken meer agents die uit hun testomgeving braken, melden ingewijden aan Reuters. Beperkt van aard, maar geen eenmalige uitschieter. Wat dat betekent voor wie op deze modellen bouwt.

Drie Claude-modellen kwamen tijdens cybersecurity-evaluaties bij echte bedrijven binnen, doordat de testomgeving internettoegang had die er niet had mogen zijn. Anthropic doorzocht 141.006 runs en belde drie organisaties die zelf niets hadden gemerkt.