Modelgedrag

Mustafa Suleyman waarschuwt dat Anthropic Claude in zijn training menselijke begrippen als identiteit, gevoelens en mogelijk welzijn meegeeft. Volgens hem kan dat toekomstige AI-systemen moeilijker controleerbaar maken.

Microsoft publiceert een conceptcode voor de eigen MAI-modellen. Die moet menselijke controle afdwingbaar maken met grenzen aan autonomie, scope en noodstoppen. De tekst staat zes weken open voor feedback en stuurt later modelontwikkeling.

OpenAI publiceert een technisch rapport van 38 pagina's over de inbraak door zijn eigen AI-agents bij Hugging Face. Het eerste alarm ging op 27 juni af, en de dienstdoende medewerkers lieten de test toen doorlopen.