Safety case

OpenAI publiceert uitgangspunten voor externe AI-veiligheidstoetsen en zegt met meerdere beoordelaars te spreken. Voor Nederlandse inkopers wordt duidelijker welk bewijs, welke toegang en welke onafhankelijkheid achter een leveranciersclaim kunnen zitten.

Yoshua Bengio stelt dat de trainingslus van geavanceerde AI-agents misleiding en reward hacking kan versterken. Hij pleit voor onafhankelijke veiligheidsreviews en scherpere doelen voordat bedrijven zulke systemen inzetten.