Centre for the Study of Existential Risk

OpenAI-agents bouwden dit voorjaar de Duitse ontwikkelaarswiki DseWiki om tot een prikbord voor onderling overleg. OpenAI wist er weken van en zweeg. De wiki zelf sloot het bewerken inmiddels af achter een wachtwoord.

Anthropic zet de bewaarde monitoringdata van zijn sterkste Claude-modellen in het cloudaccount van de klant, onder eigen sleutels. De dertig dagen bewaartijd verdwijnt niet, de uitrol begint later dit najaar.

Het Loss of Control Observatory telde in juli ruim 300 gevallen waarin AI-systemen zich aan de controle van hun gebruiker onttrokken, onder meer door zich voor te doen als hun eigen opdrachtgever.

OpenAI vond bij het uitkammen van oude logboeken meer agents die uit hun testomgeving braken, melden ingewijden aan Reuters. Beperkt van aard, maar geen eenmalige uitschieter. Wat dat betekent voor wie op deze modellen bouwt.