OpenAI koopt tienduizenden Mac mini's en Mac Studio's voor AI-training

OpenAI kocht de afgelopen maanden tienduizenden Mac mini's en Mac Studio's voor reinforcement learning en agents die zelfstandig een computer bedienen, meldt The Information op basis van ingewijden. Anthropic huurt voor hetzelfde soort werk Mac mini-clusters via Amazon Web Services.

Dat is precies de hardware die een Nederlands team koopt om AI-modellen op het eigen kantoor te draaien. Eén Mac mini die 's nachts een agent draait, of een Mac Studio met genoeg geheugen voor een groot model. Die machines zijn al maanden slecht leverbaar in de configuraties met veel geheugen, en de nieuwe modellen komen pas vanaf 22 september de deur uit. Wie lokale AI op de planning voor het vierde kwartaal heeft staan, staat in dezelfde rij als het best gefinancierde AI-lab ter wereld.

Waarom een lab bureaucomputers koopt

Reinforcement learning voor computergebruik vraagt iets anders dan een grote trainingsrun. Een agent die een scherm bekijkt, door een browser klikt en van zijn fouten leert, heeft een compleet en afgeschermd bureaublad nodig dat blijft draaien. Dus niet één reusachtig rekencluster, maar heel veel kleine, volledige werkplekken naast elkaar. Een Mac mini is daarvoor een kant-en-klare eenheid met een stopcontact eraan.

Het geheugen doet de rest. Bij Apple delen processor en grafische kern hetzelfde centrale geheugen, dus een Mac mini met 32 GB laadt een model dat niet in het videogeheugen van een losse consumenten-GPU past. Bij 4-bits kwantisering kost elke miljard parameters ruwweg een halve gigabyte, en die rekensom bepaalt of een model überhaupt start.

Doug Brooks, senior productmanager voor Apple silicon, legt uit dat mensen voor agent-werk een systeem willen dat onder hun eigen beheer staat, losstaat van hun hoofdmachine en zeven dagen per week kan doordraaien. Een Mac mini is daar volgens hem een uitstekend systeem voor. In hetzelfde verhaal staat dat Nvidia Apple inmiddels als zijn belangrijkste concurrent ziet voor AI die lokaal draait.

Apple houdt het al sinds april niet bij

De krapte is niet nieuw. Op de kwartaalpresentatie van 30 april zei Tim Cook dat de Mac mini en de Mac Studio maanden nodig hebben om vraag en aanbod in balans te brengen, omdat de klantherkenning van beide als platform voor AI en agent-tools sneller ging dan Apple had voorspeld. Apple schrapte toen de Mac Studio-configuratie met 512 GB geheugen helemaal en zette de instap-Mac mini tijdelijk op niet verkrijgbaar.

De vraag is terug te zien in de cijfers. De Mac-omzet kwam in het juniekwartaal uit op 10,4 miljard dollar, 29 procent meer dan een jaar eerder, en Apple noemt dat zelf een record voor een juniekwartaal. Daarmee groeide de Mac harder dan de iPhone, harder dan welk ander onderdeel van het bedrijf ook.

Wat dat doet met een Nederlandse bestelling

Apple trok de opvolgers naar voren en zette op 25 augustus de Mac mini met M6 in de markt vanaf 1.069 euro met 16 GB centraal geheugen, samen met een nieuwe Mac Studio. In de Nederlandse Apple Store begint die Mac Studio op 3.029 euro met M5 Max en op 6.649 euro met M5 Ultra, met levering vanaf 22 september. De uitvoering met 512 GB geheugen, de enige waarmee Apple modellen met honderden miljarden parameters op één machine belooft, staat er nog steeds als verkrijgbaar vanaf eind oktober.

Die prijzen staan er niet toevallig. Toen Apple in juni de hele Mac- en iPad-lijn duurder maakte omdat AI-datacenters het geheugen opkopen, sprong de Mac Studio met M3 Ultra van 3.999 naar 5.299 dollar. Hetzelfde tekort dat de prijs opdrijft, maakt de machine aantrekkelijk: veel geheugen op één bord is nu het schaarse goed én het verkoopargument.

Het knelpunt verschuift van model naar wachtrij

De afweging tussen lokaal draaien en een cloud-API ging tot nu toe vooral over benutting. Tegenover goedkope open-weight-API's ligt het omslagpunt naar eigen hardware pas rond vijftien tot twintig miljoen tokens per dag, een volume dat de meeste bedrijven niet halen. Daar komt nu levertijd bij. Een API staat morgen aan, een Mac Studio met veel geheugen mogelijk pas eind oktober, en langer als de labs blijven kopen.

Wat hier verschuift, is de plek van Apple in de AI-keten. Het bedrijf bouwde compacte bureaucomputers voor ontwikkelaars en studio's, en levert nu zonder daarop ingericht te zijn infrastructuur aan het lab waarmee het tegelijk voor de rechter staat: Apple beschuldigde OpenAI in juli van diefstal van bedrijfsgeheimen voor een concurrerend AI-apparaat. Voor een Nederlands bedrijf dat AI van de cloud af wil halen is de uitkomst prozaïscher. De vraag is niet langer alleen welk model in het geheugen past, maar wanneer de doos op de stoep staat.