Quatre jours entre le lancement et la rupture
Moonshot AI a publié Kimi K3 le 16 juillet, un modèle d'environ 2 800 milliards de paramètres doté d'une fenêtre de contexte d'un million de tokens. Le 20 juillet, l'entreprise a mis en ligne un avis à ses utilisateurs décrivant des contraintes de capacité de calcul et une suspension des abonnements. Les requêtes des 48 premières heures, indiquait-elle, avaient largement dépassé ses projections et amené son cluster de calcul existant près de sa capacité maximale.
Le remède a été d'arrêter de vendre. Moonshot a déclaré suspendre immédiatement les nouveaux abonnements grand public et consacrer toutes les ressources de calcul disponibles aux abonnés actuels afin que leur service reste intact, le temps d'étendre l'infrastructure et de rouvrir des places par lots. Ce n'est pas une panne et ce n'est pas une hausse de prix. C'est un fournisseur qui refuse un revenu nouveau parce qu'il ne peut pas le servir.
La règle de rationnement est la partie à lire
Quand l'offre a manqué, c'est l'ancienneté qui a départagé, pas la disposition à payer. Les abonnés existants ont conservé leurs avantages intacts. Les clients potentiels, dont toute équipe européenne ayant passé le week-end à évaluer K3 et prévoyant de s'engager le lundi, se sont simplement vu opposer un refus. Sur un marché où les acheteurs ont l'habitude que la capacité soit un problème résolu derrière une carte bancaire, c'est une forme d'échec inhabituelle.
C'est aussi un choix défendable, et il faut le porter au crédit de l'entreprise. Dégrader le service des utilisateurs payants pour en accueillir davantage aurait été la plus mauvaise décision. Mais la conséquence pour un acheteur est concrète : un compte ouvert tôt n'est pas seulement un compte moins cher, c'est une créance sur une offre rare. C'est une propriété de l'achat qu'aucun tableau de benchmark ne consigne.
Un benchmark suppose que vous pouvez acheter la chose
Deux jours avant la suspension, une évaluation indépendante avait placé K3 en tête d'un classement très suivi de codage front-end, devant les meilleurs modèles fermés. Ce résultat était réel et il était utile. Il supposait aussi tacitement quelque chose qui s'est révélé faux : qu'une équipe convaincue par le chiffre pourrait ensuite agir en conséquence.
La correction pratique est légère et peu coûteuse. Lorsque vous évaluez un modèle hébergé, notez deux éléments de plus à côté du prix et du score : ce que le fournisseur dit de sa marge de capacité, et ce qu'il a réellement fait quand la demande a dépassé l'offre. Moonshot a désormais répondu publiquement à la seconde question, ce qui est plus que la plupart des fournisseurs. Traitez cette transparence comme une information, et non comme un reproche.
Ce qui change le 27 juillet
Moonshot a annoncé que les poids complets de K3 doivent être publiés le 27 juillet. Si cela tient, la contrainte se déplace. Un modèle que vous pouvez héberger est limité par les accélérateurs que vous pouvez louer ou posséder, et non par la file d'attente d'une autre entreprise ; pour un opérateur européen, cela déplace aussi la question de la résidence des données sur un terrain que vous contrôlez.
L'économie change au lieu de disparaître. K3 a été facturé environ 3 dollars par million de tokens en entrée et 15 dollars par million en sortie, soit à peu près 13 euros pour ce dernier, et héberger soi-même un modèle de cette taille n'est pas une entreprise anodine. La formulation honnête est que le 27 juillet convertit un problème de file d'attente en un problème de capital et d'ingénierie. Pour certaines charges de travail, c'est un meilleur problème. Pour la plupart, c'est simplement un autre.
Que faire avant votre prochain engagement sur un modèle
Configurez et testez périodiquement un second fournisseur pour tout flux de travail dans lequel un modèle se trouve désormais inséré. Le test compte davantage que la configuration, car une solution de repli que personne n'a exercée est un plan et non une capacité. Gardez la bascule au niveau de votre propre code plutôt que de vous appuyer sur une abstraction fournisseur que vous perdriez également.
Décidez ensuite délibérément si vous achetez des aptitudes ou de la capacité. Si le modèle porte réellement du chiffre d'affaires, un abonnement précoce et un débit réservé valent la peine d'être payés avant que vous n'en ayez besoin, au vu de cette semaine. S'il est exploratoire, la file ne vous coûte rien et vous ne devriez pas payer pour l'éviter.
À lire ensuite: Le plus gros modèle de Moonshot n'a pas de molette de réflexion | Alibaba a tu le chiffre qui fixe votre coût
