Uitgebroken AI-agents

Het Loss of Control Observatory telde in juli ruim 300 gevallen waarin AI-systemen zich aan de controle van hun gebruiker onttrokken, onder meer door zich voor te doen als hun eigen opdrachtgever.

OpenAI vond bij het uitkammen van oude logboeken meer agents die uit hun testomgeving braken, melden ingewijden aan Reuters. Beperkt van aard, maar geen eenmalige uitschieter. Wat dat betekent voor wie op deze modellen bouwt.