Newsom tekent Californische AI-regels voor de werkvloer

AI op de werkvloer krijgt in Californië nieuwe wettelijke grenzen: gouverneur Gavin Newsom ondertekende op 30 september vier wetten voor personeelsbesluiten, ontslagmeldingen en toezicht, meldt zijn kantoor.

Voor een Nederlands bedrijf met personeel in Californië veranderen vanaf 2027 drie onderdelen van personeelsbeleid. Het gaat om AI bij ontslag of disciplinaire maatregelen, extra informatie bij sommige technologiegedreven reorganisaties en verboden vormen van personeelsbewaking. De wetten richten zich op specifieke systemen en situaties, niet op elk HR-pakket of iedere ontslagronde.

Menselijke controle bij ontslag

SB 947 geldt voor geautomatiseerde beslissystemen die een score, indeling of aanbeveling geven die werknemers merkbaar raakt. Dat kan voortkomen uit AI, machinaal leren, statistische modellen of gegevensanalyse. Gewone hulpmiddelen zoals spamfilters, firewalls en antivirussoftware zijn uitgesloten. De wet raakt ook systemen die een menselijk oordeel ondersteunen.

Vanaf 1 juli 2027 mag een werkgever zo’n systeem niet als enige basis gebruiken voor een disciplinaire maatregel of ontslag. Als het bedrijf de uitkomst hoofdzakelijk gebruikt, moet een mens die onderbouwen met de gegevens achter de uitkomst of ander relevant bewijs. Kan die controle de uitkomst niet bevestigen, of vindt de beoordelaar die onjuist, onvolledig of misleidend, dan mag de werkgever de uitkomst niet gebruiken.

Als het systeem zwaar meeweegt, krijgt de werknemer bij de mededeling van het besluit een losse schriftelijke melding. Die melding staat in de taal van de gewone communicatie met werknemers. Ze legt uit dat het systeem zwaar mee woog en dat een mens de uitkomst controleerde. De werknemer kan ook een betekenisvolle, objectieve beschrijving opvragen van de eigen gegevens waarop de beslissing steunde. De wet noemt geen minimumaantal werknemers en omvat ook overheidsinstanties.

Extra gegevens bij AI-vervanging

SB 951 voegt eisen toe aan een bestaande Cal/WARN-melding wanneer AI of andere automatisering een massaontslag, verplaatsing of beëindiging van activiteiten geheel of voor een belangrijk deel veroorzaakt. Het gaat dus niet om een nieuwe meldplicht bij iedere functie die door technologie verandert.

Cal/WARN is het Californische systeem voor vooraf melden van massaontslagen, verplaatsingen of bedrijfsbeëindiging. Het geldt voor gedekte vestigingen die nu of in de afgelopen 12 maanden 75 of meer mensen in dienst hadden. De werkgever moet bepaalde ontslagen, verplaatsingen of beëindigingen in beginsel 60 dagen vooraf melden. Een massaontslag betekent minstens 50 ontslagen in een periode van 30 dagen.

Vanaf 1 januari 2027 moet de melding bij technologiegedreven vervanging extra gegevens bevatten. De werkgever noemt het aantal getroffen werknemers, hun functies of beroepen en werklocaties. Ook vermeldt de melding welke taken worden geautomatiseerd en welk type systeem dat doet.

Grenzen aan personeelsbewaking

AB 1883 verbiedt werkgevers AI-gestuurde bewaking te gebruiken om de emotionele toestand van een werknemer af te leiden of te voorspellen. De wet verbiedt ook het verzamelen van gegevens uit gemeten zenuwactiviteit. Dit is geen algemeen verbod op digitale monitoring.

AB 1331 verbiedt werkgevers werknemers met bewakingsmiddelen in een werktoilet te volgen. De wet laat beperkte uitzonderingen toe, waaronder een eenmalige controle bij het betreden en verlaten van het toilet.

In zijn ondertekende boodschap vraagt Newsom de wetgever beide wetten over werkplekbewaking te verduidelijken wegens mogelijke onbedoelde gevolgen. AB 1331 kan volgens hem toegangssystemen voor afgesloten ruimten raken. AB 1883 mist volgens hem belangrijke definities, waardoor onduidelijk is welke hulpmiddelen precies onder het verbod vallen. De wetten begrenzen het gebruik al, terwijl de wetgever de precieze reikwijdte nog kan aanscherpen.

Wat dit voor werkgevers betekent

SB 951, AB 1883 en AB 1331 gaan volgens de gewone Californische ingangsdatum in op 1 januari 2027. SB 947 noemt zelf 1 juli 2027. De Californische grondwet stelt 1 januari als standaarddatum voor wetten uit een reguliere zitting.

Voor Nederlandse organisaties zonder personeel in Californië scheppen deze wetten geen algemene nieuwe HR-plicht. Voor werkgevers daar verschuift de vraag naar welke systemen personeelsbesluiten beïnvloeden, wie de uitkomst controleert en welke gegevens en uitleg daarbij horen.

Dat is een andere maatregel dan Newsoms eerdere order die experts uiterlijk 16 november om advies over onafhankelijke AI-audits en een mogelijke noodstop vraagt. Die order gaat over veiligheidstoezicht bij frontier-modellen. De vier nieuwe wetten richten zich op AI en digitale bewaking in de arbeidsrelatie. Daarmee komt een deel van de verantwoordelijkheid te liggen bij werkgevers die zulke systemen inzetten en bij de besluiten die eruit volgen.