Tencent-topman waarschuwt voor toekomstige biologische AI-risico’s

Tencent-AI-chef Yao Shunyu waarschuwt dat AI-modellen binnenkort een biologische grens kunnen bereiken waarbij schade mogelijk wordt, zei hij op 7 november tijdens een symposium in Hongkong.

De keuze tussen een afgeschermde AI-dienst en vrij beschikbare modelgewichten krijgt daardoor een bioveiligheidsdimensie voor Nederlandse biotechbedrijven en onderzoeksafdelingen. Bij een dienst blijft de modeluitvoering bij de leverancier; een gedownloade set gewichten kan na publicatie door anderen worden aangepast. Een RAND-onderzoek vond dat het verwijderen van veiligheidstraining uit open modellen relatief haalbaar is, terwijl het verhogen van biologische capaciteiten moeilijker blijkt.

Yao spreekt over een grens in de toekomst

De uitspraak was een verwachting, geen melding van een aanval of een testresultaat. Yao zei dat cybercapaciteiten en binnenkort ook biologische capaciteiten een punt kunnen bereiken waarop schade mogelijk wordt. Het SCMP-verslag noemt geen model, meetmethode of datum waarop dat zou gebeuren. De waarschuwing is dus geen bewijs dat een huidig model al biologische schade kan veroorzaken.

Het programma vermeldt de datum van het symposium en Yao’s functie bij Tencent Hunyuan. Zijn bijdrage stond op het programma onder de titel “Tools, Agents, and Agents That Build Tools: The Evolution of AI for Science”. Op hetzelfde programma stond een lezing over een AI-native laboratorium voor geneesmiddelenonderzoek.

Yao’s punt gaat ook over toegang. India Today meldt dat hij biologische toepassingen moeilijker te reguleren vindt dan cybertoepassingen, omdat defensief en offensief gebruik moeilijker te scheiden zijn. Hij pleitte in hetzelfde gesprek voor een combinatie van open en gesloten modellen. Open toegang kan kleinere onderzoeksteams helpen, terwijl dezelfde technische mogelijkheid ook buiten een gecontroleerde onderzoeksomgeving kan worden ingezet.

Hy4 krijgt al een biologische test

Drie dagen voor Yao’s waarschuwing bracht Tencent zijn nieuwe Hy4-model uit. De release voegt beeldbegrip en computerbediening via een grafische interface en opdrachtregel toe. In de eigen veiligheidsinformatie meldt Tencent dat Hy4 30,4 op 100 scoort op de Hy-BioExperimentBench, een test voor het ontwerpen van biologische experimenten.

Tencent zegt dat Hy4 op die taak duidelijk achterblijft bij de meest geavanceerde modellen. Interne experts zouden hebben vastgesteld dat het model biologische basiskennis beheerst, maar die kennis nog beperkt omzet in uitvoerbare experimenten. Tencent zegt dat de audit geen aanwijzing opleverde dat Hy4 de drempel voor biologische of chemische schade sterk verlaagt. Die bevindingen komen uit het bedrijf zelf, niet uit een onafhankelijke evaluatie.

De score is ook geen kanspercentage: 30,4/100 betekent niet dat er 30,4 procent kans op misbruik bestaat. De release noemt geen grenswaarde voor gevaarlijke capaciteit of onafhankelijke vergelijking waarmee buitenstaanders de score kunnen plaatsen. De meting maakt wel concreet wat Tencent momenteel zegt te testen, terwijl Yao’s waarschuwing over een volgende capaciteitsgrens gaat.

Open gewichten verschuiven de controle

Tencent zegt de gewichten van Hy4 samen met een systeemkaart te willen publiceren, inclusief uitgebreidere veiligheidsbeoordelingen. Het bedrijf noemt geen datum. Tencent stelde in augustus al de Hy4-preview met 770 miljard parameters, waarvan 49 miljard per token actief zijn, open beschikbaar. Dat was de preview, niet de nieuwe release van november.

In een rapport dat RAND op 14 september publiceerde, onderzochten de auteurs hoe open modellen voor biologisch misbruik kunnen worden aangepast. Zij vonden dat het verwijderen van veiligheidstraining technisch haalbaar was, terwijl het versterken van biologische capaciteiten lastiger was. Hun eigen biosecurity-evaluatie suggereerde tegelijk dat het verwijderen van die veiligheidslaag alleen al een realistische misbruikroute kan ondersteunen. Dat resultaat bewijst niet dat een breed beschikbaar model zelfstandig een biologisch wapen kan ontwerpen. Het laat wel zien waarom veiligheidsclaims over een modelversie niet vanzelf meegaan met gewichten die anderen kunnen wijzigen.

De afweging draait om welke capaciteiten openbaar worden en welke waarborgen met de gewichten meegaan. Yao noemt zowel open als gesloten modellen nodig, terwijl Tencents eigen plan de timing relevant maakt: eerst een publieke testscore, later mogelijk gewichten en een systeemkaart. Tot die kaart verschijnt, blijven de precieze testopzet, de gehanteerde risicogrens en de onafhankelijke controle onduidelijk.

Een test moet bij de inzet passen

Microsoft en NVIDIA delen open-modelrisico’s in vijf categorieën en koppelen geselecteerde risico’s aan evaluaties: cybersecurity, gegevensbescherming, inhoud, mens-AI-interactie en vooroordelen. In hun kader hangt het risico ook af van het doel, de omgeving en de beveiligingsmaatregelen. De uitwerking onderscheidt modeltests van controle op tools, rechten en de productieomgeving.

Die context is van belang voor een Nederlandse organisatie die AI in een onderzoeksproces inzet. Een score op biologische kennis zegt op zichzelf niet wat een gekoppelde agent met laboratoriumgegevens of hulpmiddelen kan doen. De test moet dus passen bij de modelversie én bij de omgeving waarin die draait. Tencent heeft voor Hy4 nog geen datum voor de systeemkaart genoemd. Die publicatie wordt het volgende controlepunt voor de claim achter de 30,4-score.