OpenAI rolt ChatGPT for Teens uit, EU krijgt leeftijdsinschatting later

OpenAI zet ChatGPT-gebruikers van 13 tot en met 17 jaar sinds 18 augustus automatisch in ChatGPT for Teens, een afgeschermde versie met strengere standaardinstellingen, studiefuncties en ouderlijk toezicht.

De schakelaar is niet langer alleen de geboortedatum die iemand zelf opgeeft. Het systeem schat op basis van gebruikssignalen of een account van een minderjarige is en zet de beveiliging dan zelf aan. Voor een Nederlandse organisatie die AI aanbiedt aan of via jongeren, van een school tot een uitgever of een app-maker, wordt daarmee zichtbaar waar de lat komt te liggen. De AVG vraagt hier namelijk al iets vergelijkbaars: kinderen onder de 16 kunnen zelf geen geldige toestemming geven voor het verwerken van hun gegevens, en je moet kunnen aantonen dat je hebt gecontroleerd of een ouder die toestemming gaf.

In de EU begint het schatten later

De leeftijdsinschatting rolt wereldwijd uit, maar in de EU pas over enkele weken, om rekening te houden met regionale eisen. Tot dat moment loopt de indeling in Nederland dus nog via de opgegeven leeftijd. Dat uitstel is zelf het interessantste signaal: hetzelfde systeem dat elders een veiligheidsmaatregel heet, is hier een verwerking die je moet kunnen verantwoorden.

Werkt het eenmaal, dan kijkt het naar signalen rond het account: de onderwerpen waarover iemand praat, de tijdstippen van gebruik, hoe en wanneer het account wordt gebruikt en hoe lang het al bestaat. Die inschatting overrulet een eerder opgegeven geboortedatum. Wie ten onrechte in de tienerversie belandt, kan zijn leeftijd laten verifiëren bij Persona, een externe partij die om een live selfie, een identiteitsbewijs of beide vraagt. Persona verwijdert dat document binnen zeven dagen en OpenAI krijgt het zelf niet te zien, alleen de geboortedatum of de schatting. In Italië geldt een aparte regel: wie om verificatie wordt gevraagd, heeft zestig dagen voordat functies dichtgaan.

Wat er standaard uit gaat

De bescherming zit in de standaardinstelling, niet in een vinkje dat een ouder moet aanzetten. Voor onder-18-accounts gelden extra remmen op zelfbeschadiging, geweld, eetstoornissen, gevaarlijke uitdagingen en expliciete of grafische inhoud. De bijgewerkte modelspecificatie gaat verder dan het blokkeren van romantische rollenspellen: ChatGPT mag tegen tieners geen romantische taal gebruiken, geen emotionele afhankelijkheid aanmoedigen en niet suggereren dat het gevoelens of bewustzijn heeft. Daar komen pauzeherinneringen bij en een waarschuwing voordat een tiener een gevoelige foto uploadt.

"Als je geen veilige plek voor ze bouwt, gaan ze naar een minder veilige modelervaring", zegt Lauren Jonas, bij OpenAI verantwoordelijk voor jeugd en gezin. Minderjarige accounts krijgen ook geen reclame te zien, terwijl advertenties deze maand juist in de gratis versie en het Go-abonnement in Nederland verschijnen.

Wat een ouder kan instellen

Ouders die hun account aan dat van hun kind koppelen, kunnen stille uren instellen, studie-uren plannen, gevoelige inhoud verder beperken en meldingen ontvangen bij een beperkt aantal risicosituaties. Die meldingen worden uitgebreid naar signalen van eetstoornissen. OpenAI wil ouders daarbij binnen een uur waarschuwen, per sms, in de app en per e-mail, tekent The Next Web op, dat ook meldt dat de leervisualisaties zijn uitgebreid van zeventig onderwerpen in maart naar meer dan driehonderd.

In dezelfde ouderschermen zit een detail dat voor scholen en ouders zwaarder weegt dan de tijdinstellingen: onder de datacontroles staat de schakelaar die bepaalt of de gesprekken en bestanden van het kind gebruikt mogen worden om de modellen te trainen. Ouderlijk toezicht geeft geen inzage in de gesprekken zelf.

Studeren in plaats van antwoorden krijgen

De tienerversie duwt gebruik richting leren. Study Mode werkt met sturende vragen en stap-voor-stapuitleg, nieuwe huiswerkherinneringen herkennen wanneer een tiener een opdracht probeert af te raffelen en sturen terug naar die modus, en met studie-uren staat Study Mode op vaste momenten standaard aan. Quizzen en leervisualisaties horen bij hetzelfde pakket.

De norm verschuift van opgeven naar schatten

Leeftijd schatten in plaats van vragen is precies de richting die de Europese Commissie ruim een jaar geleden al uitzette. Haar richtsnoeren bij artikel 28 van de Digital Services Act onderscheiden leeftijdsverificatie voor volwassen inhoud van leeftijdsschatting voor platforms die een minimumleeftijd hanteren, en verlangen methodes die accuraat, betrouwbaar en niet indringend zijn. De handhavingskant liet zich vorige maand zien toen de Italiaanse toezichthouder Character.AI 158.000 euro beboette voor leeftijdscontrole die niet werkte en een te laat uitgevoerde DPIA.

Tussen die twee polen kiest de grootste aanbieder van de markt nu openlijk positie, en dat maakt de norm concreet: standaardbeperkingen die aan staan tot het tegendeel is aangetoond, een externe partij voor het zware verificatiewerk, en zo min mogelijk documenten in eigen huis. Wie in Nederland een AI-functie bouwt die een zestienjarige kan bereiken, wordt vanaf nu tegen dat beeld afgezet, ook door een toezichthouder die vraagt hoe jij het hebt geregeld.