Alisina NawabiGitLab koppelt Duo Self-Hosted aan modellen in Microsoft Foundry, meldt het bedrijf, zodat organisaties GPT, Claude, Llama en Mistral per functie kunnen inzetten onder eigen netwerk- en regiokeuzes.
Voor een Nederlandse softwareorganisatie verschuift de vraag van welk AI-model beschikbaar is naar waar het wordt aangeroepen en wie de route beheert. De code, prompts en modelantwoorden lopen via een eigen AI Gateway naar modeldeployments in Foundry. Modelleverancier, netwerkpad, regio en licentie worden daarmee onderdeel van dezelfde technische beslissing.
Wat GitLab toevoegt
De nieuwe route bestaat uit drie onderdelen: een self-managed GitLab-instance, een eigen AI Gateway en een of meer model-endpoints in Foundry. Beheerders kunnen per Duo-functie een deployment toewijzen. Een model voor code completion hoeft dus niet hetzelfde te zijn als het model voor code generation of Agentic Chat. Eén Azure-abonnement kan de modellen en het verbruik centraal beheren.
De self-hosted opzet vraagt wel meer dan een vinkje. GitLab noemt een Self-Managed-instantie op Premium of Ultimate, het passende Duo-add-on, minimaal GitLab 17.9 en beheerdersrechten als voorwaarden voor de configuratie. Voor partner-modellen zoals Claude en Mistral zijn een betaald Azure-abonnement en de juiste Marketplace-rechten nodig.
Twee catalogi, twee controles
GitLab noemt vier overlappende modelgroepen: GPT, Claude, Llama en Mistral. Dat betekent niet dat elk model uit Foundry automatisch voor Duo werkt. GitLab beoordeelt modellen per functie met de labels full, partial en limited functionality. Een model kan dus geschikt zijn voor Agentic Chat en tegelijk beperkt voor code completion. De ondersteunde modellen en hun feature-ratings zijn daarom een aparte controle naast de Foundry-catalogus.
Ook binnen Foundry verschillen de voorwaarden. GPT-modellen worden door Azure aangeboden. Claude komt via partneraanbiedingen en kent extra voorwaarden voor abonnement en regio. Llama en Mistral kunnen uit Azure- of partneraanbiedingen komen. Microsoft vermeldt dat partner- en community-modellen per model en regio verschillende beschikbaarheidsvoorwaarden hebben. De aanwezigheid van een model in de catalogus zegt dus nog niets over de combinatie met GitLab, jouw abonnement of de gewenste regio.
GitLab adviseert te beginnen met één model om kwaliteit, latency, tokengebruik, rate limits en kosten als baseline te meten. Pas daarna ligt een tweede model per functie voor de hand. Een deployment op rolnaam maakt een modelupgrade administratief lichter, omdat GitLab naar de deploymentnaam verwijst.
Waar de data terechtkomt
Voor de GitLab-laag zegt de documentatie dat inference-data, waaronder code-invoer, prompts en modelantwoorden, in een volledig self-hosted modelroute niet naar GitLab gaat. GitLab registreert ook niet welk model of welke modelleverancier je gebruikt. Bij een online licentie blijft wel factureringsmetadata naar GitLab gaan: een instance-ID, een gedeïdentificeerd gebruikers-ID, het aantal aanroepen en een tijdstempel. Een offline licentie maakt geen verbinding met de factureringscomponenten van GitLab.
Dat is geen algemene EU-garantie. In Foundry bepaalt het deploymenttype waar de inferentie plaatsvindt. Global deployments kunnen verkeer naar iedere beschikbare Azure-regio sturen. Data Zone houdt de verwerking binnen de gekozen zone, zoals de EU, terwijl regionale deployments de verwerking aan één Azure-geografie koppelen. Niet elk model ondersteunt elk deploymenttype. Microsoft beschrijft die verschillen tussen Global, Data Zone en regionale deployments.
Van modelproef naar architectuurkeuze
De ontwikkeling staat naast GitHub Models, dat nieuwe projecten naar Azure AI Foundry verwijst. Daar gaat het om het sluiten van toegang voor nieuwe klanten van een experimenteeromgeving. GitLab beschrijft hier hoe Duo-functies via een eigen gateway naar Foundry worden gerouteerd. De ene ontwikkeling verandert de instap voor modelproeven, de andere de besturing van een softwareontwikkelplatform.
De catalogus wordt breder, maar de keuze wordt niet eenvoudiger. Een Foundry-deployment is pas bruikbaar als GitLab's feature-matrix, Foundry's model- en regiobeschikbaarheid, de licentie en de gekozen datastroom tegelijk kloppen. Modelleverancier is daarmee geen losse inkoopkeuze meer, maar een onderdeel van de architectuur van je softwareontwikkeling.
Veelgestelde vragen
AI zonder losse eindjes
Ik help je de hele route ontwerpen, van modelkeuze en datastromen tot koppelen, bouwen en automatiseren. Waar het kan houd ik de AI self-hosted, zodat je minder afhankelijk bent van één leverancier en zelf controle houdt.
Dit artikel is geproduceerd samen met het Agent Team. Meer over de redactie.
