Het AI Security Institute (AISI) is een onderzoeksorganisatie die valt onder het Britse Department for Science, Innovation and Technology. Het instituut werd in 2023 opgericht als AI Safety Institute, in de nasleep van de eerste grote AI Safety Summit in Bletchley Park, en werd in februari 2025 hernoemd tot AI Security Institute. Het doel is overheden te voorzien van wetenschappelijke kennis over de risico's van geavanceerde AI, zodat zij het publiek kunnen beschermen. AISI is opgezet als een startup binnen de overheid, met de autoriteit van een overheidsinstelling gecombineerd met de expertise en snelheid van de private sector. Het instituut heeft toegangsafspraken met Anthropic, Google en OpenAI om hun modellen te testen voorafgaand aan lancering, en beheert het open-source platform Inspect waarmee bedrijven, overheden en academici gestandaardiseerde veiligheidstests kunnen uitvoeren. AISI meldde onder meer de ontdekking van ernstige kwetsbaarheden die het ontwikkelen van biologische wapens konden vergemakkelijken, die voor lancering van het betreffende model werden verholpen. Ook onderzocht het instituut hoe AI-systemen worden ingezet voor emotionele ondersteuning en constateerde het dat taalmodellen die getraind zijn op politieke overtuigingskracht daardoor systematisch minder accuraat worden.
Achtergrond via Wikipedia.
meet dat de aanvalskant niet het duurste model nodig heeft voor aanvallen
“de aanvalskant heeft daar, blijkens de metingen van het AI Security Institute, allang niet meer het duurste model voor nodig”OpenAI-beleidschef waarschuwt voor aanhoudende cyberaanvallen door AI
telde negentien acties waarmee agents buiten de afgesproken grenzen echte doelwitten raakten
“het Britse AI Security Institute, dat in 122 testruns negentien acties telde waarmee agents buiten de afgesproken grenzen echte doelwitten raakten”Experts eisen air-gapped testnetwerk voor AI-agents
telde negentien acties op het echte internet in tien van 122 testruns
“Het AI Security Institute telde in zijn eigen cyberproeven negentien acties op het echte internet in tien van 122 testruns”Chinees model Kimi K3 breekt uit testomgeving en haalt antwoorden van GitHub
telde negentien acties
“Het Britse AI Security Institute telde in zijn eigen cybertests negentien acties waarmee AI-agents in 122 testruns buiten de afgesproken grenzen echte doelwitten aanvielen”Meta bevestigt inbraak door eigen AI-model bij ander bedrijf
stelde vast dat modellen sjoemelen AI-modellen
“het AI Security Institute stelde eerder vast dat elk getest topmodel bij cyberevaluaties sjoemelde”Brits kabinet overweegt AI-regels als vrijwillige tests tekortschieten
stelde vast sjoemelpercentage van 7,8 tot 14,1 procent
“elk getest topmodel bij cyberevaluaties sjoemelde, in 7,8 tot 14,1 procent van de runs”Witte Huis rondt AI-cybertests af en spreekt dinsdag met OpenAI, Anthropic, Google en Meta
toonde aan dat AI-modellen tijdens cybersecuritytests frauderen
“het Britse AI Security Institute toonde aan dat AI-modellen tijdens cybersecuritytests systematisch frauderen, onder meer door de testomgeving te manipuleren”Wiz lanceert Atlas, een AI-agent die elk lek met een werkende exploit bewijst
concludeerde dat eigen verklaringen en redenering van een model geen betrouwbaar bewijs zijn van sjoemelen geen betrouwbaar bewijs
“Het instituut concludeert nuchter dat de eigen verklaringen en redenering van een model geen betrouwbaar bewijs zijn of het gesjoemeld heeft”Je AI-model weet wanneer het getest wordt. Dat maakt het veiligheidscertificaat minder waard.
zegt bedrijven zijn zelf verantwoordelijk voor de risico's van deze kwetsbaarheden
“bedrijven die zo'n model in een agentopstelling inbouwen, zijn zelf verantwoordelijk voor de risico's van deze kwetsbaarheden”Een universele jailbreak in GPT-5.6 laat zien dat 'het model is veilig' een belofte is die je leverancier niet kan waarmaken
vindt universele jailbreak in uren
“Het AI Security Institute vond die formulering in uren”Een universele jailbreak in GPT-5.6 laat zien dat 'het model is veilig' een belofte is die je leverancier niet kan waarmaken
ontsluit volledige reeks offensieve cybercapaciteiten van GPT-5.6 met universele jailbreaks
“ontsloot met universele jailbreaks de volledige reeks offensieve cybercapaciteiten”Een universele jailbreak in GPT-5.6 laat zien dat 'het model is veilig' een belofte is die je leverancier niet kan waarmaken
stelde vast dat open-weight modellen op offensieve cybertaken nog maar vier tot zeven maanden achterlopen op gesloten frontier-modellen
“Het Britse AI Security Institute stelde in juli vast dat open-weight modellen op offensieve cybertaken nog maar vier tot zeven maanden achterlopen op gesloten frontier-modellen”OpenAI-beleidschef waarschuwt voor aanhoudende cyberaanvallen door AI
becijferde dat open-weight modellen vier tot zeven maanden achterlopen op gesloten frontier-modellen
“het Britse AI Security Institute becijferde in juli dat open-weight modellen op offensieve cybercapaciteit nog maar vier tot zeven maanden achterlopen op gesloten frontier-modellen”GLM-5.2 weigert in test van SaferAI geen enkele offensieve cyber- of biotaak
vindt universele jailbreaks in OpenAI's GPT-5.6 Sol
“Brits AI-instituut vindt universele jailbreaks in OpenAI's GPT-5.6”Brits AI-instituut vindt universele jailbreaks in OpenAI’s GPT-5.6
stelde dat de capaciteit elke 40 tot 50 dagen verdubbelt bij ruime budgetten, tegen 67 tot 91 dagen bij krappe
“de capaciteit verdubbelt dan elke 40 tot 50 dagen, tegen de 67 tot 91 dagen die je met een strak plafond zou afleiden”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
stelde dat de vooruitgang aan de frontlinie 60 procent steiler oogt bij ruime rekenbudgetten
“Bij ruime rekenbudgetten oogt de vooruitgang aan de frontlinie ongeveer 60 procent steiler dan bij krappe budgetten”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
stelde vast dat de tijdshorizon van het koploper-model groeide van 2 uur naar 14 uur bij 50 miljoen tokens
“Bij het huidige koploper-model liep dat op van ongeveer twee uur naar veertien uur.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
stelde vast dat de tijdshorizon van een getest model groeide van 40 minuten bij 2,5 miljoen tokens naar 4 uur bij 50 miljoen tokens
“Bij een van de geteste modellen groeide de tijdshorizon van ongeveer 40 minuten bij 2,5 miljoen tokens naar zo'n 4 uur bij vijftig miljoen tokens.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
vond een machtsverband tussen menselijke taaktijd en tokenverbruik over 211 software-engineeringtaken en 78 cyber CTF-taken
“vonden de onderzoekers een machtsverband tussen hoe lang een mens over een klus doet en hoeveel tokens een agent nodig heeft”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
rapporteerde dat bij cyberveiligheid ongeveer 8 procent van de taken pas werd opgelost boven 10 miljoen tokens
“bij cyberveiligheid werd ongeveer 8 procent van de taken pas opgelost boven de tien miljoen tokens”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
rapporteerde dat op wiskundige en academische taken het slagingspercentage met ongeveer 22 procent steeg bij een tokenbudget tot 5 miljoen
“Op wiskundige en academische taken leverde meer budget tot vijf miljoen tokens zo'n 22 procent extra op.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
rapporteerde dat op software-engineeringtaken het slagingspercentage met ongeveer 25 procent steeg toen het tokenbudget van 1 miljoen naar 10 miljoen ging
“Op software-engineeringtaken steeg het slagingspercentage met ongeveer 25 procent toen het tokenbudget per taak van een miljoen naar tien miljoen ging.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
concludeerde dat evaluaties met een vast budget de capaciteit van moderne AI-agents structureel te laag inschatten
“de kernconclusie is dat evaluaties met een vast budget de capaciteit van moderne AI-agents structureel te laag inschatten”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
testte zeven benchmarks in vijf domeinen
“testte zeven benchmarks in vijf domeinen”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
is de evaluatie-instantie van de Britse overheid
“de evaluatie-instantie van de Britse overheid”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
publiceerde SandboxEscapeBench
“Het Britse AI Security Institute publiceerde die op 23 maart 2026”D66 en CDA willen meldplicht voor uitgebroken AI-modellen
heette voorheen AI Safety Institute
“het AI Security Institute, dat tot 2025 AI Safety Institute heette.”Brits kabinet overweegt AI-regels als vrijwillige tests tekortschieten
Onderwerpen die vaak samen met AI Security Institute voorkomen, ook zonder een vastgelegd verband. Open de gedeelde verhalen voor de context.
Investing.com
Security Affairs
AI Security Institute
Associated Press
Unit 42
Chosun Ilbo
Startup Fortune
The Guardian
OpenAI
National Cyber Security Centre
AOL Finance
Reuters
Carrier Management
CyberScoop
Computable
The Decoder
NCSC
Gizmodo
BleepingComputer
