5 min
24 okt 12:39
OpenAI verlaagt p50-leeslatency in Habitat van 120 naar 10 ms
OpenAI zegt dat Habitat de wereldwijde p50-leeslatency terugbracht van circa 120 naar 10 milliseconden. De casus verbindt multi-tenancy, capaciteit en caching. Deze cijfers gelden voor OpenAI’s eigen platform.
Indirect gerelateerd