Geheugenbandbreedte

Microsoft kondigt Project Zenith aan, een vooraf ingerichte Windows 11-opzet voor ontwikkelmachines met 64 GB geheugen en 250 GB/s bandbreedte. Modellen van 30 miljard parameters draaien er lokaal, en dat verschuift de AI-rekening van tokens naar hardware.

Apple zet de M6 in de Mac mini en de M5 Ultra in de Mac Studio, en belooft grote AI-modellen op je eigen bureau. De vraag voor een Nederlands team: welk model past er nog in het geheugen.

Cerebras lanceert de CS-4, een rack met drie wafer-grote chips dat volgens eigen metingen tot dertig keer meer tokens per seconde haalt dan GPU's. Een onafhankelijke benchmark ontbreekt en een prijs is er niet.