Model serving

AWS biedt Reflection Beam aan via SageMaker JumpStart in twee Amerikaanse regio’s. De beheerde route vereenvoudigt testen, maar regio, GPU-capaciteit en meetbare prestaties blijven bepalend voor Nederlandse teams.

IBM maakt Bob beschikbaar op klantbeheerd OpenShift. Voor afgesloten netwerken noemt de documentatie drie modellen; de klant levert modeltoegang en beheert de modelinfrastructuur zelf, met één kernmodel tegelijk.