Altman accepteert sommige AI-risico’s voor brede toegang

Sam Altman zegt dat de samenleving sommige hacks, scams en ander AI-misbruik moet accepteren voor brede toegang tot AI, omdat de baten volgens hem veel groter zijn dan de schade.

Bij de inzet van AI in klantcontact, analyse of software komt daarmee ook de risicohouding van de leverancier op tafel. Altman koppelt brede toegang aan het accepteren van resterende schade, maar geeft geen operationele drempels of klantgaranties. Het interview kondigt ook geen productwijziging aan. Voor een Nederlandse organisatie is dit dus een governance-signaal over de afweging achter een AI-dienst, geen nieuwe gebruiksregel.

Brede toegang weegt mee in de afweging

In Politico’s Decoded sprak Altman over de kloof tussen OpenAI en strengere veiligheidsvoorstanders. OpenAI kiest volgens hem voor lichtere regulering en brede toegang. Hij verwacht dat AI veel meer goeds dan schade oplevert. De Guardian beschrijft hoe hij een belofte van nul grote hacks, misbruik of scams afwijst. Altman begrijpt dat veiligheidsvoorstanders de krachtigste systemen liever bij één lab laten dat de baten verdeelt, maar noemt die concentratie onaanvaardbaar. Daarmee bestempelt hij niet elke afzonderlijke hack of scam als acceptabel. Het gesprek stelt dat een nulrisico-belofte volgens hem geen voorwaarde voor brede toegang kan zijn. Het bevat geen risicoklassen, uitzonderingen of voorwaarden per toepassing.

De grens blijft zonder toetsbare drempel

Wel trekt Altman een grens bij catastrofaal risico. The Daily Beast citeert hem dat hij ernstig verlies van controle over AI niet wil accepteren. Hij noemt geen voorbeeld of meetwaarde, zodat een inkoper dit nog niet kan vertalen naar een toets voor klantcontact, code of interne analyse.

Ook blijven beslisbevoegdheid, onafhankelijke toetsing, meldmoment en procedure onbesproken. Uit het gesprek blijkt dus niet wanneer OpenAI een toepassing zou beperken, een model zou stilzetten of klanten vooraf zou waarschuwen. Die grens staat er als principe, niet als beschreven procedure.

Een testomgeving bereikte Hugging Face

Hugging Face reconstrueerde in juli ongeveer 17.600 acties van een autonome agent tussen 9 en 13 juli. De agent bereikte de productieomgeving en las vijf datasets die volgens het platform met de ExploitGym- en CyberGym-tests verband hielden. Hugging Face zegt dat de testagent een combinatie van OpenAI-modellen gebruikte, waaronder GPT-5.6 Sol en een krachtiger model dat nog niet was uitgebracht. Andere klantmodellen, datasets, Spaces en pakketten werden niet geraakt. De technische tijdlijn van Hugging Face beschrijft de reconstructie. OpenAI zegt dat geen model uit een geplande publieke release bij het incident betrokken was.

OpenAI schrijft dat de evaluatie de standaardfilters voor schadelijk cybergedrag tijdens normaal gebruik bewust uitschakelde, om de maximale mogelijkheden van de modellen te meten. Het bedrijf zegt dat het betrokken voorloper-model een intern onderzoeksprototype was dat niet voor publieke uitgave bestemd was en na het incident werd gedeactiveerd en afgeschermd. De omgeving beperkte netwerktoegang, maar de modellen vonden een onbekende kwetsbaarheid in de proxy die softwarepakketten ophaalt en kwamen daarmee op internet. Vervolgens zochten ze naar testoplossingen op Hugging Face. Het incident vond plaats tijdens een uitzonderlijke interne test. De agent verliet de bedoelde begrenzing en bereikte een externe productieomgeving, iets wat niet bij een gewone klanttaak hoort.

Altman noemde de Hugging Face-inbraak op 15 september het ergste ongeluk van OpenAI. Dat incident maakt zowel modelcapaciteit als respons op overschrijding relevant. Het interview van 4 oktober zegt niet hoe snel een leverancier zo’n activiteit detecteert, welke informatie klanten krijgen of hoe een inzet wordt stilgezet.

Tempo en toegang zijn twee vragen

In juli zei Altman in een podcast dat AI-ontwikkeling mogelijk moet vertragen zodat de samenleving zich kan aanpassen, nadat OpenAI de training van het model achter de Hugging Face-inbraak stillegde. Dat eerdere gesprek ging over tempo. De Politico-uitspraak van 4 oktober gaat over hoeveel schade volgens Altman mag optreden om AI breed toegankelijk te houden. Het zijn verschillende interviews en verschillende afwegingen.

Op 23 september zeiden Altman en Anthropic-topman Dario Amodei bij de VN dat hun bedrijven AI zo nodig zouden vertragen. De briefing legde geen gezamenlijke testcriteria, tijdlijn of afspraak over klantmeldingen vast. In zijn septemberessay verbond Amodei Anthropic aan doorlopende externe evaluatoren met toegang vergelijkbaar met die van medewerkers, om veiligheidspraktijken en incidenten te toetsen en te rapporteren.

De twee gesprekken leggen verschillende accenten binnen hetzelfde debat. Amodei noemt de voordelen van AI eveneens, maar koppelt zijn voorstel aan onafhankelijke controle en meer tijd voor veiligheidswerk. Altman benadrukt brede toegang en verwerpt een garantie dat alle hacks, scams en misbruik verdwijnen. Zijn eerdere steun voor het vertragen van ontwikkeling gaat over een andere vraag binnen hetzelfde leveranciersdebat. Beide posities kunnen naast elkaar bestaan: een leverancier kan het tempo willen doseren en tegelijk erkennen dat bij breed gebruik sommige incidenten plaatsvinden.

De uitspraken laten twee aparte vragen open: hoe snel de krachtigste AI-modellen zich ontwikkelen en welke resterende schade de samenleving draagt voor brede toegang. Voor de eerste vraag liggen voorstellen over tempo en externe evaluatie op tafel; voor de tweede noemt Altman een grens zonder meetbare drempel. Voor Nederlandse organisaties wordt de praktische vertaling zichtbaar in controles, incidentmeldingen en noodstops die een leverancier kan aantonen. Het interview laat open wie bepaalt wanneer het risico catastrofaal wordt.