AI-inference

OpenAI brengt GPT-5.6 Sol in een nieuwe servicelaag die tot veertien keer sneller antwoordt, op chips van Cerebras. De toegang loopt via een besloten preview en een tarief is er nog niet.

IBM bouwt voor Together AI een inferentiecluster van 240 miljoen dollar op IBM Cloud, met ongeveer 2.000 Nvidia Blackwell-chips in de Verenigde Staten. De capaciteit komt naar verwachting in het eerste kwartaal van 2027 beschikbaar.

Microsoft wil zijn AI-chip Maia 300 dit najaar onthullen, mogelijk al in september, en onderhandelt met TSMC over ruim 300.000 exemplaren voor 2027. Wat dat betekent voor Azure-klanten die nu rekenkracht inkopen.

AMD koopt de Canadese chipstartup Taalas, die de gewichten van een AI-model rechtstreeks in het silicium etst. Wat die techniek belooft, waar ze vastloopt, en wat het betekent voor de prijs van je AI-functies.

Baseten haalt naar verluidt 1,5 miljard dollar op bij een waardering tot 13 miljard. Het bedrijf draait open-source modellen als goedkoper alternatief voor OpenAI en Anthropic, een teken dat managed inference volwassen wordt.