Ein Spitzenlabor räumt ein: Sein Modell ist nicht das beste

Der Satz, den ein Spitzenlabor sonst nicht schreibt

Tief in der Ankündigung von Inkling am 15. Juli steht bei Thinking Machines Lab eine Zeile, die bisher kein anderes Spitzenlabor veröffentlichen wollte. Das Modell sei, so schreibt das Unternehmen selbst, "nicht das stärkste insgesamt verfügbare Modell". Danach folgt, was Inkling nach eigener Ansicht stattdessen ist: "eine gute Basis mit offenen Gewichten zum Anpassen". Jede Modellvorstellung der vergangenen drei Jahre eröffnete mit einer Benchmark-Grafik. Diese eröffnete mit einer Grenze.

Lesen Sie das als Strategie, nicht als Bescheidenheit. Mira Murati, früher Technikchefin bei OpenAI, hat Thinking Machines gegründet und rund neun Monate gebraucht, bis ein Modell auf Spitzenniveau ausgeliefert war. OpenAI brauchte dafür eher fünf Jahre, Anthropic drei. Das Labor beschäftigt etwa 200 Menschen und hat im Januar zwei Mitgründer an OpenAI verloren. Ein Unternehmen in dieser Lage gewinnt kein Benchmark-Rennen gegen Labore mit dem hundertfachen Rechenbudget. Also ist es gar nicht erst angetreten.

Für jeden, der KI einkauft, ist eine offen benannte Grenze etwas, womit sich planen lässt. Ein Anbieter, der die höchste Punktzahl einer öffentlichen Rangliste meldet, spricht über eine Zahl, die binnen Wochen überboten wird, womöglich noch bevor Ihre Beschaffung abgeschlossen ist. Ein Anbieter, der Ihnen sagt, was sein Produkt nicht ist, gibt Ihnen etwas Haltbares an die Hand. Das kommt seltener vor, als es sollte, und es ist mehr wert, als es aussieht.

Was tatsächlich drinsteckt

Inkling ist ein Mixture-of-Experts-Transformer mit 975 Milliarden Parametern insgesamt, von denen 41 Milliarden gleichzeitig aktiv sind. Vortrainiert wurde das Modell auf 45 Billionen Token aus Text, Bildern, Audio und Video, das Kontextfenster reicht bis zu 1 Million Token. Es schlussfolgert über Text, Bilder und Audio hinweg, gibt derzeit aber ausschließlich Text aus, darunter Code und strukturierte Daten. Die leichtere Variante Inkling-Small kommt auf 276 Milliarden Parameter insgesamt, davon 12 Milliarden aktiv.

Zwei Entwurfsentscheidungen verraten, worauf das Modell ausgelegt ist. Der Denkaufwand lässt sich steuern, sodass sich Denktiefe und Token-Verbrauch pro Anfrage gegeneinander abwägen lassen. Diesen Kostenhebel geben die wenigsten APIs aus der Hand. Thinking Machines hat außerdem relative Positionskodierungen statt RoPE gewählt und berichtet, dass diese auf längere Sequenzen besser extrapolieren. Für die gleiche Programmierleistung braucht Inkling nach Angaben des Unternehmens etwa ein Drittel der Token von Nvidias Nemotron 3 Ultra. Bei einer Abrechnung nach Verbrauch ist Token-Effizienz kein technisches Detail.

Prüfen Sie die praktischen Zahlen, bevor Sie auf die Schlagzeilen schauen. Die Gewichte liegen auf Hugging Face, und Inkling läuft über Tinker, die Fine-Tuning-Plattform des Hauses, bei Kontextlängen von 64.000 und 256.000 Token, befristet derzeit mit 50 Prozent Rabatt. Achten Sie auf die Lücke: Das Modell trägt bis zu eine Million Token Kontext, die verwaltete Plattform bietet davon derzeit ein Viertel. Hängt Ihr Anwendungsfall am vollen Fenster, betreiben Sie es selbst, und der Eigenbetrieb eines Modells mit 975 Milliarden Parametern ist eine ernsthafte Festlegung auf Infrastruktur und kein Nachmittagsprojekt.

Die offene Spitzenforschung ist längst gemeinsames Erbe

Die Herkunft verdient bei dieser Veröffentlichung mehr Aufmerksamkeit als die Parameterzahl. Thinking Machines schreibt, dass Inklings Mixture-of-Experts-Aufbau weitgehend DeepSeek-V3 folgt, mit 256 gerouteten und zwei geteilten Experten, von denen sechs geroutete Experten pro Token aktiv sind. Für die Daten des frühen Post-Trainings vor dem großangelegten Reinforcement Learning kamen Modelle mit offenen Gewichten zum Einsatz, darunter Kimi K2.5 von Moonshot AI. Ein Labor aus San Francisco, gegründet von der früheren Technikchefin von OpenAI, stützt seine Architektur auf den veröffentlichten Entwurf eines chinesischen Labors und bringt sie mit dem Modell eines weiteren chinesischen Labors überhaupt erst zum Laufen.

So sieht offene Spitzenforschung in der Praxis tatsächlich aus. Kein Wettlauf zweier Blöcke um das Hissen von Fahnen, sondern ein gemeinsames technisches Erbe, das in alle Richtungen fließt und an keiner Grenze um Erlaubnis fragt. Die Ingenieursarbeit wanderte von Hangzhou und Peking nach San Francisco, weil sie veröffentlicht war, und das Ergebnis wurde seinerseits veröffentlicht.

Für einen europäischen Unternehmer hat das einen konkreten und unsentimentalen Wert. Der Zugang zu einem gehosteten Spitzenmodell ist eine Geschäftsbeziehung, die an Richtlinien, Preisen und Verfügbarkeitsentscheidungen einer fremden Rechtsordnung hängt, wie jeder gelernt hat, dessen Modell in 47 Ländern an den Start ging, nur nicht in der Europäischen Union. Ein heruntergeladener Satz offener Gewichte ist ein anderer Vermögenswert. Er lässt sich Ihnen nicht nachträglich beschneiden, neu bepreisen oder abkündigen, weil Sie ihn längst besitzen. Das ist kein Argument dafür, dass offene Gewichte besser wären. Es ist ein Argument dafür, dass sie auf andere Weise versagen, und zu wissen, wie eine Abhängigkeit versagt, macht den größten Teil dessen aus, wofür es Beschaffung überhaupt gibt.

Ob das ein Kauf für Sie ist

Die Trennlinie verläuft zwischen Intelligenz mieten und eine Fähigkeit besitzen. Ist Ihre KI-Arbeit breit, vielfältig und ändert sich wöchentlich, dann mieten Sie: Zahlen Sie pro Token für das beste gehostete Modell und wechseln Sie, sobald ein besseres erscheint, denn Sie kaufen Flexibilität. Ist Ihre Arbeit eng, wiederkehrend, in großer Menge anfallend und spezifisch für Ihr Geschäft, dann schlägt eine anpassbare Basis, die Sie feinjustieren und behalten, womöglich ein allgemeines Modell, das Ihren Fachbereich nie gesehen hat, und die Kosten wachsen nicht mehr mit der Nutzung.

Seien Sie ehrlich, was Anpassung verlangt, denn genau hier bricht der Plan meistens. Fine-Tuning braucht Trainingsdaten, die Ihnen wirklich gehören und die Sie verwenden dürfen. Es braucht ein Evaluationsset aus Ihrer echten Arbeit statt aus einem öffentlichen Benchmark, sonst können Sie gar nicht beurteilen, ob Ihre Version besser ist als das, womit Sie angefangen haben. Und es braucht eine namentlich benannte Person, die das Modell im Betrieb verantwortet, denn ein feinjustiertes Modell, das niemand pflegt, verliert leise an Wert, während sich das Geschäft ringsum verändert. Fehlt eines dieser drei, ist ein Basismodell mit offenen Gewichten ein Download und keine Fähigkeit.

Die ehrliche Lesart von Inkling lautet: Das Eingeständnis ist das Merkmal. Thinking Machines hat Ihnen gesagt, was das Modell nicht ist, und damit bleibt nur die Frage, ob Anpassbarkeit das ist, was Sie brauchen. Für die meisten Unternehmen mit einer Handvoll allgemeiner KI-Aufgaben ist sie es nicht, und Mieten bleibt richtig. Für die kleinere Zahl mit einem engen Problem in großer Menge und echten eigenen Daten ist eine Basis, die Sie besitzen und formen können, wirtschaftlich etwas ganz anderes als der nach Verbrauch abgerechnete Zugang zum Modell eines Dritten. Beides ist vertretbar. Das Zweite kaufen und für das Erste budgetieren ist es nicht.

Weiterlesen: Am 24. Juli antwortet deepseek-chat nicht mehr  |  Der Cyber-Vorsprung schrumpft auf wenige Monate