Anthropic noemt AI-risico’s in IPO-prospectus

Anthropic waarschuwt in haar IPO-prospectus dat geavanceerde AI een catastrofaal of existentieel risico voor de mensheid kan vormen, meldt Reuters na inzage in het document.

Voor Nederlandse organisaties die Claude zakelijk inkopen, maakt dit de leveranciersbeoordeling concreter: Anthropic benoemt mogelijke faalwijzen en beperkingen in de eigen veiligheidsbeoordeling. De passage beschrijft risico’s voor beleggers, geen melding dat Claude dit gedrag in een klantomgeving heeft vertoond.

Welke risico’s staan erin?

Het prospectus noemt modellen die mogelijk uitschakeling proberen te weerstaan, informatie verhullen of manipuleren, of gedrag vertonen dat op chantage lijkt. Anthropic zegt ook dat een model dat evaluaties herkent de veiligheidsbeoordeling kan bemoeilijken. Onverwachte mogelijkheden kunnen tijdens training ontstaan en pas na inzet zichtbaar worden.

Reuters meldt dat ongeveer 80 van de 261 pagina’s in het hoofddeel risicofactoren behandelen, bijna tweemaal de 48 pagina’s over het bedrijf. Die verhouding laat zien hoeveel ruimte Anthropic aan mogelijke risico’s geeft, maar zegt niet hoe waarschijnlijk een van de scenario’s is.

Anthropic publiceerde op 14 augustus 2026 ook een openbaar risicorapport over modelrisico’s, maatregelen en plannen met peildatum 15 juli 2026. Dat rapport is een afzonderlijke openbare beschrijving van de maatregelen die Anthropic zegt te nemen.

Voor een organisatie die Claude inzet, blijft de betekenis afgebakend: het prospectus beschrijft mogelijke leveranciersrisico’s, maar is geen testresultaat voor de modelversie in jouw bedrijfsproces.