De zin die een frontier lab normaal gesproken niet opschrijft

Verstopt in de aankondiging waarmee Thinking Machines Lab op 15 juli Inkling presenteerde, staat een zin die geen enkel ander frontier lab tot nu toe wilde publiceren. Het model is, schreef het bedrijf, "over de hele linie niet het sterkste model dat vandaag beschikbaar is". Daarna beschreef het wat Inkling volgens het lab dan wel is: "een goede open-weights basis voor maatwerk". Elke modellancering van de afgelopen drie jaar begon met een benchmarkgrafiek. Deze begon met een beperking.

Lees dat als strategie, niet als bescheidenheid. Mira Murati, voorheen chief technology officer bij OpenAI, richtte Thinking Machines op en had ongeveer negen maanden nodig om een model op frontier-schaal te leveren, tegenover eerder vijf jaar bij OpenAI en drie bij Anthropic. Het lab heeft zo'n 200 mensen in dienst en raakte in januari twee medeoprichters kwijt aan OpenAI. Een bedrijf in die positie wint geen benchmarkrace tegen labs met honderd keer zoveel rekenbudget. Dus begon het er niet aan.

Het nuttige voor iedereen die AI inkoopt, is dat een eerlijke beperking informatie is waarmee u kunt plannen. Een leverancier die claimt het hoogst te scoren op een openbare ranglijst, vertelt u over een getal dat binnen enkele weken verslagen wordt, mogelijk nog voordat uw inkooptraject rond is. Een leverancier die u vertelt wat zijn product niet is, geeft u iets duurzaams. Dat komt zeldzamer voor dan zou moeten, en het is meer waard dan het lijkt.

Wat er werkelijk in de doos zit

Inkling is een mixture-of-experts-transformer met 975 miljard parameters in totaal, waarvan er 41 miljard tegelijk actief zijn. Het model is voorgetraind op 45 biljoen tokens aan tekst, beeld, audio en video en ondersteunt een contextvenster van maximaal 1 miljoen tokens. Het redeneert over tekst, beeld en audio, al schrijft het vooralsnog alleen tekst terug, inclusief code en gestructureerde data. Een lichtere variant, Inkling-Small, heeft 276 miljard parameters in totaal, waarvan er 12 miljard actief zijn.

Twee ontwerpkeuzes laten zien waarop het model is geoptimaliseerd. Het model biedt een instelbare redeneerinspanning, waarmee de aanroepende partij per verzoek redeneerdiepte kan afwegen tegen tokenverbruik, een kostenknop die de meeste API's u niet in handen geven. Thinking Machines koos daarnaast voor relatieve positionele embeddings in plaats van RoPE, met de melding dat die beter extrapoleren naar langere reeksen. Volgens het bedrijf gebruikt Inkling ongeveer een derde van het aantal tokens van Nemotron 3 Ultra van Nvidia voor dezelfde codeerprestaties. Op een rekening per token is tokenefficiëntie geen technisch detail.

Kijk eerst naar de praktische cijfers en pas daarna naar de cijfers uit de koppen. De gewichten staan op Hugging Face en Inkling is beschikbaar via Tinker, het finetuningplatform van het bedrijf, bij contextlengtes van 64.000 en 256.000 tokens, op dit moment met 50% korting voor een beperkte periode. Let op het verschil: het model ondersteunt tot een miljoen tokens context, terwijl het beheerde platform daar nu een kwart van biedt. Hangt uw toepassing af van het volledige venster, dan host u het zelf, en het zelf hosten van een model met 975 miljard parameters is een serieuze investering in infrastructuur en geen middagje werk.

De open frontier is inmiddels een gedeelde erfenis

Het detail over de herkomst verdient in deze release meer aandacht dan het aantal parameters. Thinking Machines stelt dat het mixture-of-experts-ontwerp van Inkling grotendeels DeepSeek-V3 volgt, met 256 gerouteerde experts en twee gedeelde experts, waarvan er per token zes gerouteerde experts actief zijn. Het lab gebruikte daarnaast open-weight modellen, waaronder Kimi K2.5 van Moonshot AI, om data te genereren voor de vroege post-training, voorafgaand aan grootschalige reinforcement learning. Een lab uit San Francisco, opgericht door de voormalige chief technology officer van OpenAI, bouwde zijn architectuur op het gepubliceerde ontwerp van een Chinees lab en gaf het een vliegende start met het model van nog een Chinees lab.

Zo ziet een open frontier er in de praktijk uit. Geen race om de vlag te planten tussen twee blokken, maar een gedeelde technische erfenis die alle kanten op stroomt en aan geen enkele grens om toestemming vraagt. Het technische werk verhuisde van Hangzhou en Peking naar San Francisco omdat het gepubliceerd was, en het resultaat werd op zijn beurt weer gepubliceerd.

Voor een Europese eigenaar heeft dat een specifieke en onsentimentele waarde. Toegang tot een gehost frontier model is een commerciële relatie die afhangt van beleids-, prijs- en beschikbaarheidsbeslissingen in een ander rechtsgebied, zoals inmiddels duidelijk is voor iedereen wiens model in 47 landen werd gelanceerd maar niet in de Europese Unie. Een gedownloade set open gewichten is een ander soort bezit. Die wordt niet ingeperkt, opnieuw geprijsd of onder u vandaan uitgefaseerd, want u heeft hem al. Dat is geen argument dat open gewichten beter zijn. Het is een argument dat ze anders falen, en weten hoe een afhankelijkheid faalt is waar inkoop grotendeels voor bestaat.

Of dit een aankoop is die u zou moeten doen

De grens loopt tussen intelligentie huren en een capaciteit bezitten. Is uw AI-werk breed, gevarieerd en verandert het wekelijks, huur dan: betaal per token voor het beste gehoste model en stap over zodra er een beter model komt, want u koopt flexibiliteit. Is uw werk afgebakend, repetitief, hoogvolume en specifiek voor uw bedrijf, dan kan een aanpasbare basis die u finetunt en houdt het winnen van een algemeen model dat uw domein nooit heeft gezien, en groeien de kosten niet langer mee met uw gebruik.

Wees eerlijk over wat maatwerk vraagt, want hier loopt het plan meestal vast. Finetunen vraagt om trainingsdata die u daadwerkelijk bezit en mag gebruiken. Het vraagt om een evaluatieset die is opgebouwd uit uw echte werk en niet uit een openbare benchmark, anders heeft u geen enkele manier om te weten of uw versie beter is dan waar u mee begon. En het vraagt om iemand met naam en toenaam die eigenaar is van het model in productie, want een gefinetund model dat niemand onderhoudt gaat geruisloos achteruit terwijl uw bedrijf eromheen verandert. Ontbreekt een van die drie, dan is een open-weight basis een download en geen nieuwe capaciteit.

De eerlijke lezing van Inkling is dat juist de bekentenis het sterkste punt is. Thinking Machines heeft u verteld wat het niet is, waardoor alleen de vraag overblijft of aanpasbaarheid is wat u nodig heeft. Voor de meeste bedrijven die een handvol algemene AI-taken draaien, is dat niet zo en blijft huren de juiste keuze. Voor het kleinere aantal met een afgebakend hoogvolumeprobleem en echte eigen data is een basis die u kunt bezitten en vormgeven economisch iets wezenlijk anders dan toegang op afrekenbasis tot het model van iemand anders. Allebei zijn verdedigbaar. Het tweede kopen terwijl u begroot voor het eerste is dat niet.

Lees hierna: Op 24 juli antwoordt deepseek-chat niet meer  |  De cybervoorsprong van de verdediger daalt tot maanden