Liquid AI's LFM2.5-230M: een mini-model dat op je telefoon data uitleest

Het kleinste taalmodel dat Liquid AI ooit uitbracht past op een Raspberry Pi, draait op een telefoon zonder internet, en verslaat op een paar concrete taken modellen die vier keer zo groot zijn. LFM2.5-230M heeft 230 miljoen parameters, een fractie van de miljarden waar de grote chatmodellen mee werken. En juist die kleinte is het hele punt: een model dat lokaal draait, stuurt geen data naar een cloud-API. Voor wie met persoonsgegevens of vertrouwelijke documenten werkt, verandert dat de rekensom.

Liquid AI, het Amerikaanse lab dat in 2023 ontstond uit MIT CSAIL en eerder 250 miljoen dollar ophaalde in een ronde geleid door AMD, mikt met dit model niet op de chatbot-arena. Het is gebouwd voor data-extractie, het aanroepen van tools en lichte agent-workflows. Niet voor wiskunde, code of creatief schrijven, en het lab zegt dat ook gewoon hardop.

Klein model, gerichte prestaties

De meeste modellen onder de 500 miljoen parameters zijn curiosa: leuk voor een demo, maar ze vallen om zodra je ze gestructureerde instructies laat volgen of betrouwbaar een tool laat aanroepen. LFM2.5-230M is daar de uitzondering. Op CaseReportBench, een benchmark voor het uitlezen van data uit rommelige tekst, scoort het model 22,51 tegen 2,28 voor Google's vier keer zo grote Gemma 3 1B. Op functie-aanroepen (BFCLv3) staat het op 43,26 tegen 16,61 voor diezelfde Gemma, en op instructies volgen (IFEval) haalt het 71,71, hoger dan IBM's Granite 4.0-350M en Gemma 3 1B.

Eerlijk blijven: waar diep redeneren nodig is, valt het model door de mand. Op de kennistest MMLU-Pro scoort het 20,25, terwijl het drie keer grotere Qwen3.5-0.8B daar op 37,42 staat. Het model weet wat het is, en dat is precies de winst. Je zet geen vrachtwagenmotor in een bezorgscooter.

Draait waar je wil, ook zonder internet

De snelheid komt uit de LFM2-architectuur, geen klassieke transformer en ook geen pure state-space-aanpak, maar een hybride: acht convolutieblokken voor lokale verwerking en zes aandachtsblokken voor langere verbanden, samen veertien lagen. Het model is getraind op 19 biljoen tokens, heeft een contextvenster van 32K en spreekt tien talen, waaronder Engels, Duits, Frans en Spaans.

Wat het concreet maakt: op een Raspberry Pi 5 haalt het model ongeveer 42 tokens per seconde, en op een Samsung Galaxy S25 Ultra zo'n 213 tokens per seconde, volledig lokaal op de processor van het toestel. Het draait net zo goed op een goedkope CPU, een cloud-GPU of een Nvidia Jetson in een robot. Het model is open-weight: je kunt het downloaden, finetunen en zelf uitrollen, en het staat klaar op Hugging Face met ondersteuning voor llama.cpp, MLX, vLLM en ONNX.

Wat betekent dit voor jou

De interessantste verschuiving zit niet in de benchmark, maar in waar je gegevens blijven. Een model dat lokaal op een laptop of telefoon draait, stuurt facturen, contracten of klantgegevens nergens naartoe. Dat haalt een hoop AVG-zorg weg bij de bron: het echte privacyrisico van AI zit niet in het model maar in de data die je eraan voert, en een extractiemodel dat de cloud niet raakt, snijdt dat probleem aan de wortel weg.

Verwacht er geen alleskunner van. Dit is een gereedschap voor één type klus: tekst inlezen en omzetten naar nette, gestructureerde velden, of een tool aanroepen in een vaste workflow. Voor dat soort werk hoef je geen dure API per token af te rekenen en geen data uit handen te geven. Het past in dezelfde beweging waarin steeds meer bedrijven een open-weight model zelf draaien in plaats van leunen op een cloud-API. Een model van 230 miljoen parameters dat op hardware van een paar tientjes draait, brengt die keuze ineens binnen handbereik van elk bedrijf, niet alleen van wie een serverpark heeft staan.