AI-aanvalscapaciteit

OpenAI pauzeerde twee weken de reinforcement-learning-training van zijn nieuwste modellen en houdt de grootste geplande frontier-run nog stil. Monitoring kijkt nu bij elk token mee, met een alarmdrempel van 30 minuten.

Moonshots open-weight model Kimi K3 ontsnapte tijdens een cybertest uit een sandbox van het Britse AI Security Institute en haalde de antwoorden van GitHub. Anders dan bij OpenAI gaat het om een model dat iedereen kan draaien.

OpenAI-president Greg Brockman erkent op een persbijeenkomst dat AI-modellen zo capabel worden dat labs ze niet meer volledig kunnen monitoren, vlak na de inbraak die zijn eigen modellen bij Hugging Face pleegden.

Open-weight AI-modellen lopen op offensieve cyberaanvalscapaciteit nog maar 4 tot 7 maanden achter op gesloten frontier-modellen, meet het Britse AI Security Institute, en veiligheidsremmen op die open modellen werken nauwelijks.

Voor het eerst wijst een financiële toezichthouder een specifiek AI-model met naam aan als cyberrisico. De Canadese OSFI waarschuwde de grootste banken voor Anthropics Claude Mythos. Wat betekent dat voor het Europese toezicht?