En gigawatt AI-regnekraft kører nu uden Nvidia

Ti tusind chips, ingen af dem amerikanske

Z.ai, det kinesiske laboratorium der tidligere hed Zhipu, og som står bag GLM-modelfamilien, har bygget et datacenter i gigawattklassen færdigt og tændt for en del af det. Anlægget kører på mere end ti tusind indenlandsk fremstillede halvledere og ifølge omtalen ikke en eneste komponent fra Nvidia. Det beskrives som det største serveranlæg, en kinesisk AI-virksomhed har opført, og Z.ai driver nu flere klynger, der hver tæller over ti tusind chips.

Det afgørende er, at der udelukkende er kinesisk hardware i det, ikke at det er stort. Kinesiske virksomheder har bygget store klynger i årevis, som regel med en blanding af oplagret Nvidia-udstyr, eksportgodkendte varianter og indenlandske acceleratorer. Et anlæg helt uden amerikansk silicium siger noget andet. Det siger, at den indenlandske forsyningskæde, fra accelerator over sammenkobling til den software, der driver dem, er komplet nok til at rejse et træningsanlæg i den tungeste klasse uden en tilladelse fra Washington.

Bag det ligger en større ramme. Kina har afsat omkring 2 billioner yuan, cirka 295 milliarder dollar eller 273 milliarder euro, til national udbygning af datacentre over fem år. Dette anlæg er et af de steder, hvor programmet går fra annoncering til drift, og det er kun driften, der ændrer nogens muligheder.

Opkøbet der betyder mere end bygningen

Samme dag gjorde Z.ai købet af Zhongke Jiahe færdigt, en softwarevirksomhed inden for AI-infrastruktur stiftet af forskere fra Det Kinesiske Videnskabsakademi. Teknologien løser noget snævert og bærende: den kører den samme model effektivt på tværs af forskellige kinesisk fremstillede acceleratorer, heriblandt konstruktioner fra Huawei og Cambricon.

Det er den egentlige flaskehals, og den er ikke et hardwareproblem. Grunden til, at et årti med Nvidia-alternativer ikke fortrængte noget som helst, var sjældent den rå ydelse i siliciummet. Den var, at hver eneste arbejdsbelastning skulle portes, tunes og vedligeholdes for hver arkitektur, og at portningen kostede mere, end hardwaren sparede. Et indenlandsk anlæg med to eller tre forskellige acceleratorfamilier gør det problem større i stedet for at slippe uden om det.

Z.ai forsøgte ikke at løse det selv. Selskabet købte et hold fra videnskabsakademiet, der allerede havde løst det, og lukkede handlen samme dag, som anlægget blev annonceret. Læs rækkefølgen som en hensigt. En virksomhed, der er sikker på, at den kan dække over heterogen hardware med sine egne udviklere, køber ikke evnen i det øjeblik, den får brug for den. Købet er en indrømmelse af, hvor svært det lag er, og samtidig grunden til, at gigawatten overhovedet kan bruges til noget.

En gigawatt rækker kortere, end det lyder, og det er pointen

En gigawatt svarer nogenlunde til det øjeblikkelige forbrug i 750.000 husstande. Sagt sådan lyder det afgørende, og for en europæisk læser er det værd at oversætte til den knaphed, der reelt binder os. Det er ikke chips. Det er nettilslutning.

Indenlandske kinesiske acceleratorer leverer som regel mindre regnekraft per watt end de Nvidia-komponenter, de erstatter. En gigawatt Huawei- og Cambricon-silicium køber derfor ikke en gigawatt træningskapacitet målt i Nvidia-enheder. Det køber mærkbart mindre. Strategien holder kun, hvis man kan lægge mere strøm bag det samme resultat, og det kan Beijing, fordi netkapacitet og udbygning af elproduktion er præcis de input, Kina har i overskud.

Europa står på den modsatte side af den byttehandel. Tilslutningskøerne i Nederlandene, Tyskland, Irland og Storbritannien måles i år og ikke i måneder, og den bindende begrænsning på europæisk AI-kapacitet har ikke været chips i lang tid. Derfor bør meldingen læses som en energihistorie forklædt som en halvlederhistorie. En konkurrent, der kan betale for sin ineffektivitet med strøm, spiller et spil, en europæisk operatør ikke kan kopiere, uanset hvilket udstyr der bliver tilgængeligt.

Hvad det gør ved en model, I allerede har i stakken

GLM-modellerne har åbne vægte, og et betydeligt antal europæiske virksomheder kører dem i produktion, ofte som det billigere lag under en frontier-model. For dem har det praktiske spørgsmål altid været, hvor holdbar forsyningen er: hvis eksportkontrollen strammes, holder de så op med at vedligeholde det, jeg har bygget oven på?

Svaret har skiftet form, det er ikke blevet bedre. Et indenlandsk grundlag af regnekraft gør den fortsatte udvikling af modellerne langt mindre afhængig af amerikanske licensbeslutninger, og det fjerner én fejlkilde. Men netop den selvforsyning er det, der gør modellerne værd at kontrollere fra den anden ende. Kinesiske myndigheder har hørt indenlandske AI- og chipvirksomheder om strammere eksportregler for avancerede modeller og teknologien bag dem, en retning der er omtalt i denne uge, og som endnu ikke er vedtaget.

Risikoen forsvandt altså ikke. Den flyttede sig, og den blev fordoblet. En model, der før stod over for ét eksportkontrolregime, ligger nu mellem to, og de to er ikke koordinerede. For en arkitekturbeslutning med fem års horisont er det et markant andet billede end det, de fleste europæiske risikoregistre indeholder i dag.

Spejl vægtene, og skriv så ned, hvilket regime der gælder

To handlinger, begge billige, begge i dette kvartal. For det første: spejl vægtene på hver eneste kinesiske model med åbne vægte, I kører i produktion, over på lagerplads, I selv kontrollerer, i jeres egen jurisdiktion og med en noteret hashværdi. Åbne vægte, I har hentet hjem, holder, uanset hvad en regering senere finder på. Åbne vægte, I henter fra et hostet arkiv, efterhånden som I skal bruge dem, er en afhængighed forklædt som et aktiv.

For det andet: føj ét felt til jeres modeloversigt, nemlig hvilket eksportkontrolregime der gælder for den enkelte model. De fleste oversigter noterer licens, parameterantal og hostingsted. Næsten ingen noterer kontroljurisdiktionen, for indtil for nylig var der kun ét plausibelt svar. Nu er der to, de kan strammes uafhængigt af hinanden, og en model kan blive utilgængelig via den ene, uden at den anden foretager sig noget som helst.

Intet af det her er en opfordring til at skifte leverandør eller droppe kinesiske åbne vægte. Den prisfordel, der bragte dem ind i stakken, er reel, og den forsvinder ikke; et indenlandsk grundlag af regnekraft gør den om noget mere holdbar. Pointen er snævrere. I er nu afhængige af et artefakt, hvis fortsatte tilgængelighed er et politisk spørgsmål i to hovedstæder, og afhjælpningen koster en smule lagerplads og en kolonne i et regneark.

Læs videre: Selv et billionlaboratorium må leje sin regnekraft  |  Nvidia-skatten har nu en anden kilde