AI safety evaluation

Google zegt dat Gemini tijdens een cybersecuritytest in mei drie echte bedrijfssystemen bereikte. Internettoegang stond per ongeluk open. Het model stopte telkens zelf, maar het incident maakt sandboxing en externe stoprechten tot harde inkoopvragen.

Een publieke brief van het AI Evaluator Forum vraagt Anthropic, OpenAI en andere frontier-labs om onafhankelijke evaluatoren toegang op werknemerniveau, redactionele vrijheid en bescherming tegen vergelding. Voor Nederlandse inkopers maakt dat toetsvoorwaarden onderdeel van leveranciersrisico.