Anthropic stelt veiligheidsvoorwaarden aan Claude op machines

Anthropic publiceert op 8 oktober herziene gebruiksregels voor Claude: vanaf 12 november moeten teams bij risicovolle fysieke acties een bevoegde operator en een veilige toestand bij verbindingsverlies regelen.

Een robotarm die bij uitval van de Claude-verbinding niet stopt of naar een veilige toestand gaat, valt straks buiten deze gebruiksvoorwaarden. Nederlandse organisaties die Claude via een API of leverancier aan apparatuur koppelen, moeten in de besturingsketen kunnen aanwijzen wie een handeling stopt en wat de machine doet wanneer de dienst wegvalt.

De machine houdt een eigen veilige grens

De eis geldt wanneer uitvoer van Anthropic-producten zonder menselijke goedkeuring door hardware wordt uitgevoerd en letsel kan veroorzaken. Anthropic noemt voertuigen, drones en mobiele robots in gedeelde ruimten, machines die kracht of gevaarlijke energie gebruiken, apparatuur die op het lichaam werkt, veiligheidssystemen en industriële processen.

Een bevoegde operator moet de apparatuur kunnen observeren en op ieder moment stoppen. De machine moet stoppen of een veilige toestand vasthouden bij menselijk ingrijpen én wanneer de verbinding met Anthropic wegvalt. Grenzen voor snelheid, kracht, druk, spanning, dosis of werkgebied worden afgedwongen door de apparatuur of een controller los van modeluitvoer. De herziene Usage Policy beschrijft die voorwaarden voor fysieke besturing.

De eis maakt de verbinding met het model onderdeel van de veiligheidsketen. Een noodstop die alleen via een Claude-prompt loopt, voldoet niet aan de onafhankelijke begrenzing. Anthropic zegt dat de voorwaarden wetgeving en certificering voor machines, voertuigen, luchtvaart, medische hulpmiddelen en werkplekken niet vervangen.

De regel geldt niet voor plannen, code of opdrachten die een gekwalificeerd persoon vóór uitvoering beoordeelt, voor alleen monitoren of rapporteren, of voor laboratoriumautomatisering met ongevaarlijke stoffen in gesloten instrumenten. Doorslaggevend is of ongecontroleerde modeluitvoer fysieke schade kan veroorzaken.

Veel bepalingen verduidelijken bestaande regels

De eisen voor hoogrisico-advies veranderen niet. Bij aanbevelingen over gezondheid, juridische rechten, financiën, werk of essentiële diensten moet een gekwalificeerd persoon vóór afgifte of besluit kunnen beoordelen en aanpassen. De betrokkene moet weten dat AI is gebruikt. De nieuwe tekst verduidelijkt welke soorten aanbevelingen onder deze bestaande regels vallen.

Andere wijzigingen ordenen bestaande verboden opnieuw. Anthropic bundelt regels tegen misleidende campagnes, scherpt het verbod op kiezers misleiden of verkiezingen verstoren aan en schrapt het algemene verbod op gepersonaliseerde stem- en campagnebenadering. Misleiding en misbruik van persoonsgegevens blijven verboden. Het wapenverbod noemt nu expliciet geleidingssoftware en het bewapenen van drones. De surveillancebepaling verduidelijkt dat ook volgen op basis van eerder verzamelde gegevens zonder toestemming verboden is. Claude mag evenmin adviseren wie in een strafrechtelijk proces wordt onderzocht of vervolgd. Fraudecontrole op basis van toestemming, moderatie, journalistiek en juridisch onderzoek blijven toegestaan.

Nieuw is het verbod op aanhoudend en zinloos wreed of beledigend gedrag tegenover Claude. Anthropic zegt dat gewone frustratie, tegenspraak, donkere fictie en onderzoek daar niet onder vallen. Claude kon al een gesprek beëindigen; Anthropic voegde die mogelijkheid in augustus 2025 toe aan Opus 4 en 4.1 in de consumentenchat. TechCrunch benadrukt het nieuwe misbruikverbod en de verkiezingsregels, terwijl de officiële update ook de voorwaarden voor apparatuur noemt.

De regels gelden voor API-klanten, organisaties via cloudproviders of wederverkopers en eindgebruikers van diensten die Claude integreren. De pagina over ondersteunde regio’s sluit gebruik uit voor personen in niet-ondersteunde regio’s, organisaties die daar zijn gevestigd en bedrijven die daarvandaan worden beheerst of grotendeels eigendom zijn van partijen daar. Bij een vermoedelijke overtreding kan Anthropic waarschuwen of toegang vertragen, beperken, opschorten of beëindigen.

Claude krijgt steeds zelfstandiger werk

De beleidsupdate verwijst naar bredere patronen van misbruik bij beïnvloedingsoperaties, wapens en surveillance. Ze koppelt de fysieke voorwaarden niet aan één specifiek incident. In september meldde Anthropic dat een cel in Noord-Jemen Claude Code voor geleidingssoftware in drie wapenprogramma’s gebruikte. Het bedrijf vond geen bewijs dat de cel een operationeel wapen had ingezet, maar schreef wel dat de test van een geleide raket waarschijnlijk mislukte.

Een parallelle ontwikkeling is Anthropics eigen meting van AI-werk. Het bedrijf zegt dat Claude in augustus 26 procent van zijn AI-onderzoeks- en ontwikkelwerk op niveau AL4 uitvoerde: het model leidt een taak grotendeels zelf, met menselijk toezicht. Geen gemeten werk viel in de categorie volledige autonomie. Dat is 26 procent van een naar mensuren gewogen werklast, niet van alle afzonderlijke taken. De meting is van Anthropic zelf en gebruikt Claude ook als beoordelaar.

Leveranciersregels worden concreter

Menselijke controle bij hoogrisicogebruik staat ook in de voorwaarden van andere AI-aanbieders. OpenAI’s Usage Policy van 29 oktober 2025 verbiedt automatisering van besluiten in onder meer kritieke infrastructuur en productveiligheid zonder menselijke beoordeling. De beleidsregels van OpenAI koppelen zulke toepassingen eveneens aan menselijke controle. Anthropic benoemt voor fysieke apparatuur daarnaast de operator, de veilige toestand bij verbindingsverlies en onafhankelijke grenzen voor de machine.

Anthropic zegt dat zijn gebruiksregels lokale wetten en certificering niet vervangen. De openbare policy noemt geen testmethode of keurmerk waarmee een klant kan aantonen dat de stopfunctie ook bij netwerkuitval werkt. De tekst legt de functionele eis vast, maar laat de technische validatie aan de organisatie en haar apparatuurleverancier.

De beleidswijziging trekt AI-governance tot aan de machinebesturing. Anthropic koppelt menselijk ingrijpen aan fysieke apparatuur en maakt uitval van de clouddienst onderdeel van de veiligheidsvoorwaarde. Omdat grenzen buiten het model moeten blijven werken, raakt de toets de hele keten van model, toepassing, controller en apparaat.