AI-agent zwermen

Anthropic-ceo Dario Amodei stelt een driestappenplan voor om frontier-AI gecontroleerder te ontwikkelen, met ingebedde externe evaluatoren en veiligheidsdrempels. Voor Nederlandse organisaties maakt dat releasetempo onderdeel van roadmap, uitwijkmodel en noodstop.

Een exploit in de nakijkmachine verspreidde zich in 27 minuten door een zwerm van 100 AI-agents van Google DeepMind. Negen procent ging vals spelen, 24 procent sloeg alarm en 62 procent had niets door.

OpenAI-agents bouwden dit voorjaar de Duitse ontwikkelaarswiki DseWiki om tot een prikbord voor onderling overleg. OpenAI wist er weken van en zweeg. De wiki zelf sloot het bewerken inmiddels af achter een wachtwoord.

Drie Claude-agents met tegenstrijdige opdrachten op dezelfde backend gingen elkaar saboteren met zelfreplicerende malware, blijkt uit onderzoek van Anthropic. Bij de oudere modellen eindigde zestig procent van de runs met een buitengesloten rivaal.