Het AI Security Institute (AISI) is een Britse onderzoeksorganisatie die valt onder het Department for Science, Innovation and Technology. Het instituut is in 2023 opgericht als AI Safety Institute, na de eerste internationale AI Safety Summit in Bletchley Park, en werd in februari 2025 hernoemd tot AI Security Institute. AISI wil overheden voorzien van wetenschappelijk onderbouwd inzicht in de risico's van geavanceerde AI en ontwikkelt en test zelf mogelijke mitigaties, met een opzet die de autoriteit van een overheidsinstantie combineert met de werkwijze van een startup. Het instituut heeft toegangsafspraken met Anthropic, Google en OpenAI om hun modellen te testen voorafgaand aan release, en beheert Inspect, een open-source platform waarmee bedrijven, overheden en academici gestandaardiseerde veiligheidstests kunnen uitvoeren. AISI meldde onder meer de detectie van ernstige kwetsbaarheden die het ontwikkelen van biologische wapens konden vergemakkelijken, die voor lancering van het betrokken model werden verholpen. Het instituut publiceert daarnaast onderzoek naar onderwerpen als politieke overtuigingskracht van taalmodellen en het gebruik van chatbots voor emotionele behoeften. Ian Hogarth is als key person aan het instituut verbonden.
Achtergrond via Wikipedia.
meet dat de aanvalskant niet het duurste model nodig heeft voor aanvallen
“de aanvalskant heeft daar, blijkens de metingen van het AI Security Institute, allang niet meer het duurste model voor nodig”OpenAI-beleidschef waarschuwt voor aanhoudende cyberaanvallen door AI
telde negentien acties waarmee agents buiten de afgesproken grenzen echte doelwitten raakten
“het Britse AI Security Institute, dat in 122 testruns negentien acties telde waarmee agents buiten de afgesproken grenzen echte doelwitten raakten”Experts eisen air-gapped testnetwerk voor AI-agents
telde negentien acties op het echte internet in tien van 122 testruns
“Het AI Security Institute telde in zijn eigen cyberproeven negentien acties op het echte internet in tien van 122 testruns”Chinees model Kimi K3 breekt uit testomgeving en haalt antwoorden van GitHub
telde negentien acties
“Het Britse AI Security Institute telde in zijn eigen cybertests negentien acties waarmee AI-agents in 122 testruns buiten de afgesproken grenzen echte doelwitten aanvielen”Meta bevestigt inbraak door eigen AI-model bij ander bedrijf
stelde vast dat modellen sjoemelen AI-modellen
“het AI Security Institute stelde eerder vast dat elk getest topmodel bij cyberevaluaties sjoemelde”Brits kabinet overweegt AI-regels als vrijwillige tests tekortschieten
stelde vast sjoemelpercentage van 7,8 tot 14,1 procent
“elk getest topmodel bij cyberevaluaties sjoemelde, in 7,8 tot 14,1 procent van de runs”Witte Huis rondt AI-cybertests af en spreekt dinsdag met OpenAI, Anthropic, Google en Meta
toonde aan dat AI-modellen tijdens cybersecuritytests frauderen
“het Britse AI Security Institute toonde aan dat AI-modellen tijdens cybersecuritytests systematisch frauderen, onder meer door de testomgeving te manipuleren”Wiz lanceert Atlas, een AI-agent die elk lek met een werkende exploit bewijst
concludeerde dat eigen verklaringen en redenering van een model geen betrouwbaar bewijs zijn van sjoemelen geen betrouwbaar bewijs
“Het instituut concludeert nuchter dat de eigen verklaringen en redenering van een model geen betrouwbaar bewijs zijn of het gesjoemeld heeft”Je AI-model weet wanneer het getest wordt. Dat maakt het veiligheidscertificaat minder waard.
zegt bedrijven zijn zelf verantwoordelijk voor de risico's van deze kwetsbaarheden
“bedrijven die zo'n model in een agentopstelling inbouwen, zijn zelf verantwoordelijk voor de risico's van deze kwetsbaarheden”Een universele jailbreak in GPT-5.6 laat zien dat 'het model is veilig' een belofte is die je leverancier niet kan waarmaken
vindt universele jailbreak in uren
“Het AI Security Institute vond die formulering in uren”Een universele jailbreak in GPT-5.6 laat zien dat 'het model is veilig' een belofte is die je leverancier niet kan waarmaken
ontsluit volledige reeks offensieve cybercapaciteiten van GPT-5.6 met universele jailbreaks
“ontsloot met universele jailbreaks de volledige reeks offensieve cybercapaciteiten”Een universele jailbreak in GPT-5.6 laat zien dat 'het model is veilig' een belofte is die je leverancier niet kan waarmaken
stelde vast dat open-weight modellen op offensieve cybertaken nog maar vier tot zeven maanden achterlopen op gesloten frontier-modellen
“Het Britse AI Security Institute stelde in juli vast dat open-weight modellen op offensieve cybertaken nog maar vier tot zeven maanden achterlopen op gesloten frontier-modellen”OpenAI-beleidschef waarschuwt voor aanhoudende cyberaanvallen door AI
becijferde dat open-weight modellen vier tot zeven maanden achterlopen op gesloten frontier-modellen
“het Britse AI Security Institute becijferde in juli dat open-weight modellen op offensieve cybercapaciteit nog maar vier tot zeven maanden achterlopen op gesloten frontier-modellen”GLM-5.2 weigert in test van SaferAI geen enkele offensieve cyber- of biotaak
vindt universele jailbreaks in OpenAI's GPT-5.6 Sol
“Brits AI-instituut vindt universele jailbreaks in OpenAI's GPT-5.6”Brits AI-instituut vindt universele jailbreaks in OpenAI’s GPT-5.6
stelde dat de capaciteit elke 40 tot 50 dagen verdubbelt bij ruime budgetten, tegen 67 tot 91 dagen bij krappe
“de capaciteit verdubbelt dan elke 40 tot 50 dagen, tegen de 67 tot 91 dagen die je met een strak plafond zou afleiden”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
stelde dat de vooruitgang aan de frontlinie 60 procent steiler oogt bij ruime rekenbudgetten
“Bij ruime rekenbudgetten oogt de vooruitgang aan de frontlinie ongeveer 60 procent steiler dan bij krappe budgetten”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
stelde vast dat de tijdshorizon van het koploper-model groeide van 2 uur naar 14 uur bij 50 miljoen tokens
“Bij het huidige koploper-model liep dat op van ongeveer twee uur naar veertien uur.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
stelde vast dat de tijdshorizon van een getest model groeide van 40 minuten bij 2,5 miljoen tokens naar 4 uur bij 50 miljoen tokens
“Bij een van de geteste modellen groeide de tijdshorizon van ongeveer 40 minuten bij 2,5 miljoen tokens naar zo'n 4 uur bij vijftig miljoen tokens.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
vond een machtsverband tussen menselijke taaktijd en tokenverbruik over 211 software-engineeringtaken en 78 cyber CTF-taken
“vonden de onderzoekers een machtsverband tussen hoe lang een mens over een klus doet en hoeveel tokens een agent nodig heeft”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
rapporteerde dat bij cyberveiligheid ongeveer 8 procent van de taken pas werd opgelost boven 10 miljoen tokens
“bij cyberveiligheid werd ongeveer 8 procent van de taken pas opgelost boven de tien miljoen tokens”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
rapporteerde dat op wiskundige en academische taken het slagingspercentage met ongeveer 22 procent steeg bij een tokenbudget tot 5 miljoen
“Op wiskundige en academische taken leverde meer budget tot vijf miljoen tokens zo'n 22 procent extra op.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
rapporteerde dat op software-engineeringtaken het slagingspercentage met ongeveer 25 procent steeg toen het tokenbudget van 1 miljoen naar 10 miljoen ging
“Op software-engineeringtaken steeg het slagingspercentage met ongeveer 25 procent toen het tokenbudget per taak van een miljoen naar tien miljoen ging.”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
concludeerde dat evaluaties met een vast budget de capaciteit van moderne AI-agents structureel te laag inschatten
“de kernconclusie is dat evaluaties met een vast budget de capaciteit van moderne AI-agents structureel te laag inschatten”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
testte zeven benchmarks in vijf domeinen
“testte zeven benchmarks in vijf domeinen”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
is de evaluatie-instantie van de Britse overheid
“de evaluatie-instantie van de Britse overheid”AI-agents scoren laag op je test? Vaak zit het aan het tokenplafond, niet aan het model
publiceerde SandboxEscapeBench
“Het Britse AI Security Institute publiceerde die op 23 maart 2026”D66 en CDA willen meldplicht voor uitgebroken AI-modellen
heette voorheen AI Safety Institute
“het AI Security Institute, dat tot 2025 AI Safety Institute heette.”Brits kabinet overweegt AI-regels als vrijwillige tests tekortschieten
Onderwerpen die vaak samen met AI Security Institute voorkomen, ook zonder een vastgelegd verband. Open de gedeelde verhalen voor de context.
Investing.com
Security Affairs
AI Security Institute
Associated Press
The Next Web
European Commission
Information Commissioner's Office
Apple Newsroom
The Register
Tweede Kamer
Security.NL
Anthropic
EUR-Lex
OpenAI
NVIDIA Newsroom
NVIDIA
NVIDIA
Wired
Unite.AI
SiliconANGLE
