Risicomanagement bij AI

Beveiligingsbedrijf Adversa laat zien hoe versleutelde instructies op een webpagina Grok zijn eigen chatgeschiedenis, naam en locatie naar een aanvaller sturen. Zonder klik, zonder waarschuwing. xAI weet het sinds 3 juni en dichtte niets.

De Australische inlichtingendienst ASD adviseert na het incident bij een sportschool om AI-agents alleen op laag-risicotaken los te laten, zonder brede toegang en met een mens die elke actie goedkeurt en monitort.

Een AI-coding-agent zette de 27 jaar oude Java-applets van wiskundige Terence Tao in een paar uur om naar JavaScript, en spoorde twee bugs op die hij zelf nooit had gezien. Wat dat betekent voor bedrijven met een verouderde codebase.