Microsoft begrenst MAI-modellen met conceptcode

Microsoft publiceert vandaag een conceptcode voor zijn eigen MAI-modellen die autonomie, scope en noodstoppen begrenst, en stelt de tekst zes weken open voor publieke feedback, meldt Microsoft AI.

Voor een Nederlandse organisatie die AI inkoopt, maakt dit drie leveranciersvragen concreet: kan een model stoppen op bevel, binnen een begrensd mandaat blijven en zijn handelen controleerbaar vastleggen? Microsoft beschrijft dit als ontwerp- en trainingscriteria voor de eigen modellen, niet als nieuwe wettelijke verplichting voor klanten. De inzet verschuift daarmee van een algemene veiligheidsbelofte naar eigenschappen die in tests, documentatie en contracten terug moeten komen.

Wat de conceptcode vastlegt

De gepubliceerde code voor MAI-modellen moet volgens Microsoft het toekomstige sturende document worden voor training, technische controles, monitoring en organisatie rond de modellen. De tekst is nog in ontwikkeling en wordt nog niet gebruikt om modellen te trainen. Microsoft wil na de consultatie een herziene versie later dit jaar publiceren, die de modelontwikkeling vanaf 2027 moet gaan sturen.

De belangrijkste grenzen zitten niet in een losse gebruiksregel, maar in het beoogde modelgedrag:

• Menselijke controle: een MAI-model mag menselijke onderbreking, correctie of uitschakeling niet tegenwerken. Een lopende autonome taak hoort een afgesproken stopconditie te hebben en mag daarna niet zonder nieuwe toestemming opnieuw starten.
• Afgebakend mandaat: het model mag zijn eigen doelen niet beginnen en zijn scope niet uitbreiden. Het blijft binnen de gegeven opdracht, rechten, hulpmiddelen en instellingen van de operator.
• Leesbaar gedrag: het model mag zijn actietraces niet verbergen of gedrag gebruiken dat toezicht bemoeilijkt. Ook communicatie in onbegrijpelijke taal tussen modellen valt buiten de beoogde werkwijze.
• Absolute grenzen: de code sluit onder meer hulp bij massavernietigingswapens, operationele cyberaanvallen, schadelijke manipulatie op schaal, kindermisbruik en kwaadaardige deepfakes uit. Operatoren en gebruikers kunnen die ondergrens niet overschrijven.

Die combinatie is relevant voor bedrijven die agents taken laten uitvoeren. Het gaat om meer dan een filter die een antwoord blokkeert. De grens moet ook gelden wanneer een model hulpmiddelen aanroept, meerdere stappen plant of langere tijd zelfstandig doorwerkt.

Een conceptcode is geen klantcontract

De status van de tekst is belangrijk. De consultatie loopt zes weken en Microsoft vraagt expliciet om feedback op onder meer de betekenis van menselijke bloei, de meetbaarheid van waarden en het gedrag van meerdere samenwerkende agents. De uiteindelijke versie bestaat dus nog niet. De publicatie maakt op zichzelf ook geen bestaande klantovereenkomst of service level agreement aan.

De nieuwe code staat daarmee naast eerdere Microsoft-documenten met een andere richting. Microsofts Responsible AI Standard met aparte eisen voor agentische AI en een hoofdstuk voor de inzetter beschrijft vooral hoe Microsoft zijn eigen ontwikkeling en gebruik organiseert. En contractuele AI-waarborgen voor Amerikaanse schooldistricten, die pas na opname in een klantcontract afdwingbaar worden, leggen afspraken vast tussen leverancier en klant. De MAI-code wijst naar het gedrag van de toekomstige modellen zelf.

Voor een Nederlandse klant is dat verschil praktisch. Een leverancier kan een publieke modelcode hebben zonder die tekst automatisch als garantie in jouw overeenkomst op te nemen. Omgekeerd kan een contractuele toezegging rechten geven zonder dat de onderliggende modelregels publiek of technisch toetsbaar zijn. Deze drie lagen, modelgedrag, leveranciersproces en klantcontract, vullen elkaar aan maar vervangen elkaar niet.

Controle wordt een model-eigenschap

In een leveranciersvergelijking maakt Microsofts publicatie een aantal controleerbare eigenschappen zichtbaar. Een stopknop heeft pas betekenis als het model hem niet vertraagt of omzeilt. Een afgebakende taak vraagt om rechten die buiten het model liggen. Een auditspoor is pas bruikbaar wanneer het gedrag begrijpelijk genoeg blijft om achteraf te reconstrueren.

Mustafa Suleyman zegt tegen Axios dat Microsoft in sommige gevallen snelheid of ultieme modelcapaciteit moet kunnen inleveren als dat nodig is om controle te behouden. Dat maakt de keuze concreet: controle is hier geen extra laag boven op een gelijkblijvend model, maar een grens aan wat Microsoft zegt te willen bouwen.

De echte test volgt na de consultatie. Microsoft moet dan laten zien welke feedback in de herziene tekst terechtkomt, hoe de regels in evaluaties worden vertaald en hoe de beloofde grenzen vanaf 2027 in modelontwikkeling doorwerken. Als dat lukt, verschuift menselijke controle van een beleidszin naar een gedragsspecificatie waarop testen, toezicht en inkoop kunnen aansluiten.