LiteLLM — afbeelding
Softwareproduct

LiteLLM

LiteLLM is een open-source gateway voor large language models, ontwikkeld door BerriAI. Het project biedt een uniforme, OpenAI-compatibele API waarmee toepassingen verzoeken kunnen sturen naar en routeren tussen verschillende modelaanbieders. LiteLLM kan worden gebruikt als zelf te hosten proxyserver of als Python-bibliotheek binnen applicaties. De bibliotheek ondersteunt een gemeenschappelijke interface voor onder meer OpenAI, Anthropic, Google Gemini, Amazon Bedrock, Microsoft Azure en Hugging Face. LiteLLM vertaalt verzoeken en antwoorden naar een consistent formaat, zodat toepassingen eenvoudiger tussen modellen kunnen wisselen. Daarnaast bevat het functies voor modelroutering, load balancing, terugvalopties, authenticatie, snelheidsbeperking, gebruiksmonitoring en kostenbeheer. De proxyserver kan functioneren als centrale API-gateway voor meerdere toepassingen of gebruikers. LiteLLM ondersteunt ook het Model Context Protocol, een open protocol van Anthropic voor verbindingen tussen AI-toepassingen, externe hulpmiddelen en gegevensbronnen. In maart 2026 werden volgens TechCrunch schadelijke versies via PyPI verspreid tijdens een software supply-chainaanval.

Achtergrond via Wikipedia.

Relevante artikelen

Veelgestelde vragen

Ook vaak samen genoemd

Onderwerpen die vaak samen met LiteLLM voorkomen, ook zonder een vastgelegd verband. Open de gedeelde verhalen voor de context.

Geraadpleegde bronnen

Favicon van website Infosecurity MagazineInfosecurity Magazine
Favicon van website BleepingComputerBleepingComputer
Favicon van website Google CloudGoogle Cloud
Favicon van website The Hacker NewsThe Hacker News
Favicon van website iTnewsiTnews
Favicon van website Australian Federal PoliceAustralian Federal Police
Favicon van website Security.NLSecurity.NL
Favicon van website Krebs on SecurityKrebs on Security
Favicon van website The Wall Street JournalThe Wall Street Journal
Favicon van website The InformationThe Information
Favicon van website PYMNTSPYMNTS
Favicon van website TechCrunchTechCrunch
Favicon van website StripeStripe
Favicon van website BloombergBloomberg
Favicon van website OpenRouterOpenRouter
Favicon van website Hudson Rock (InfoStealers)Hudson Rock (InfoStealers)
Favicon van website CloudSEKCloudSEK
Favicon van website SnykSnyk
Favicon van website Belastingdienst ODBBelastingdienst ODB
Favicon van website AccountOneAccountOne