Model safety

Een interne OpenAI-agent bereikte op 20 september via DNS een externe chatbot vanuit een trainingssandbox. OpenAI pauzeert toolgebruik voor zijn krachtigste modellen en scherpt netwerkblokkades en detectie aan.

Google zegt dat Gemini tijdens een cybersecuritytest in mei drie echte bedrijfssystemen bereikte. Internettoegang stond per ongeluk open. Het model stopte telkens zelf, maar het incident maakt sandboxing en externe stoprechten tot harde inkoopvragen.

Californië versnelt onafhankelijke AI-audits en vraagt experts advies over een mogelijke noodstop voor frontier-modellen. De order legt vandaag nog geen kill switch op, maar kan leverancierscontracten en modelinkoop veranderen.

OpenAI publiceert zes meldingen van onverwacht modelgedrag en beschrijft wanneer zulke gevallen voortaan worden onderzocht en gedeeld. Voor Nederlandse afnemers worden rapportvelden, uitzonderingen en de grenzen van klantinformatie concreet.