orchestrates model servers such as vLLM and SGLang
“llm-d orkestreert modelservers zoals vLLM en SGLang, terwijl Kubernetes de onderdelen over de beschikbare servers verdeelt.”llm-d 1.0 voegt productiebeheer toe aan AI-inferentie
has involved more than 500 contributors from over 25 organizations
“De maintainers zeggen dat ruim 500 bijdragers uit meer dan 25 organisaties aan de stack hebben gewerkt.”llm-d 1.0 voegt productiebeheer toe aan AI-inferentie
became a sandbox project of the Cloud Native Computing Foundation
“Het project werd in maart 2026 een sandboxproject van de Cloud Native Computing Foundation.”llm-d 1.0 voegt productiebeheer toe aan AI-inferentie
began as a joint project of Red Hat, IBM, Google Cloud, CoreWeave, and NVIDIA
“llm-d begon in 2025 als gezamenlijk project van Red Hat, IBM, Google Cloud, CoreWeave en NVIDIA.”llm-d 1.0 voegt productiebeheer toe aan AI-inferentie
IBM Research
GitHub
llm-d
IBM Newsroom
PR Newswire via StreetInsider