Um laboratório de fronteira admite que o seu modelo não é o melhor

A frase que um laboratório de fronteira não costuma escrever

Perdida no anúncio do Inkling feito pela Thinking Machines Lab a 15 de julho está uma linha que nenhum outro laboratório de fronteira se dispôs a publicar. O modelo, escreveu a empresa, "não é o modelo globalmente mais forte disponível hoje". A seguir descreveu o que julga que o Inkling é: "uma boa base de pesos abertos para personalização". Todos os lançamentos de modelos dos últimos três anos abriram com um gráfico de benchmarks. Este abriu com uma limitação.

Leia-se isto como estratégia, não como modéstia. Mira Murati, antiga diretora de tecnologia da OpenAI, fundou a Thinking Machines e demorou cerca de nove meses a entregar um modelo à escala da fronteira, contra algo mais próximo de cinco anos para a OpenAI e três para a Anthropic. O laboratório emprega cerca de 200 pessoas e perdeu dois cofundadores para a OpenAI em janeiro. Uma empresa nessa posição não ganha uma corrida de benchmarks contra laboratórios com cem vezes o orçamento de computação. Por isso recusou-se a entrar numa.

A parte útil para quem compra IA é que uma limitação honesta é informação com que se pode planear. Um fornecedor que reclama a pontuação mais alta numa tabela pública está a falar de um número que será batido dentro de semanas, muito possivelmente antes de o seu processo de aquisição terminar. Um fornecedor que lhe diz aquilo que o seu produto não é deu-lhe algo duradouro. É mais raro do que devia ser, e vale mais do que parece.

O que está de facto dentro da caixa

O Inkling é um transformer de mistura de especialistas com 975 mil milhões de parâmetros totais e 41 mil milhões ativos em cada momento. Foi pré-treinado com 45 biliões de tokens que abrangem texto, imagem, áudio e vídeo, e suporta uma janela de contexto até 1 milhão de tokens. Raciocina sobre texto, imagens e áudio, embora de momento só devolva texto, incluindo código e dados estruturados. Uma variante mais leve, o Inkling-Small, traz 276 mil milhões de parâmetros totais com 12 mil milhões ativos.

Duas opções de desenho dizem-lhe para que está otimizado. O modelo expõe um esforço de raciocínio controlável, que permite a quem o chama trocar profundidade de raciocínio por gasto de tokens pedido a pedido, uma alavanca de custo que a maioria das APIs não lhe põe na mão. A Thinking Machines escolheu ainda embeddings posicionais relativos em vez de RoPE, e refere que extrapolam melhor para sequências mais longas. A empresa diz que o Inkling gasta cerca de um terço dos tokens do Nemotron 3 Ultra da Nvidia para desempenho equivalente em código. Numa fatura ao consumo, a eficiência em tokens não é um detalhe técnico.

Verifique os números práticos antes dos números de manchete. Os pesos estão no Hugging Face, e o Inkling está disponível através do Tinker, a plataforma de afinação da empresa, com comprimentos de contexto de 64 000 e 256 000 tokens, por agora com 50% de desconto durante um período limitado. Repare na diferença: o modelo suporta até um milhão de tokens de contexto, enquanto a plataforma gerida oferece hoje um quarto disso. Se o seu caso de uso depender da janela completa, terá de o alojar por sua conta, e alojar um modelo de 975 mil milhões de parâmetros é um compromisso sério de infraestrutura, não uma tarde de trabalho.

A fronteira aberta é agora uma herança partilhada

O detalhe de proveniência deste lançamento merece mais atenção do que a contagem de parâmetros. A Thinking Machines afirma que o desenho de mistura de especialistas do Inkling segue em larga medida o do DeepSeek-V3, com 256 especialistas encaminhados e dois especialistas partilhados, e seis especialistas encaminhados ativos por token. Usou também modelos de pesos abertos, entre eles o Kimi K2.5 da Moonshot AI, para gerar dados do pós-treino inicial antes da aprendizagem por reforço em grande escala. Um laboratório de São Francisco fundado pela antiga diretora de tecnologia da OpenAI assentou a sua arquitetura no desenho publicado por um laboratório chinês e arrancou com o modelo de outro laboratório chinês.

É assim que uma fronteira aberta se parece na prática. Não uma corrida a plantar bandeiras entre dois blocos, mas uma herança técnica partilhada que corre em todas as direções e não pede licença em nenhum posto de fronteira. A engenharia passou de Hangzhou e de Pequim para São Francisco porque foi publicada, e o resultado foi publicado por sua vez.

Para um dono de empresa europeu isto tem um valor específico e sem qualquer sentimentalismo. O acesso a um modelo de fronteira alojado é uma relação comercial sujeita a decisões de política, de preço e de disponibilidade tomadas noutra jurisdição, como já aprendeu quem viu o seu modelo ser lançado em 47 países e não na União Europeia. Um conjunto descarregado de pesos abertos é um ativo de outra natureza. Não lhe é restringido, não lhe é reavaliado no preço nem lhe é descontinuado por baixo dos pés, porque já o tem. Isto não é um argumento de que os pesos abertos são melhores. É um argumento de que falham de maneira diferente, e saber como falha uma dependência é quase tudo aquilo para que serve a aquisição.

Se esta é ou não uma compra que deve fazer

A linha a traçar está entre alugar inteligência e ser dono de uma capacidade. Se o seu trabalho de IA for amplo, variado e mudar de semana para semana, alugue: pague ao token o melhor modelo alojado e troque quando aparecer outro melhor, porque o que compra é flexibilidade. Se o seu trabalho for estreito, repetitivo, de grande volume e específico do seu negócio, uma base personalizável que afina e guarda pode bater um modelo geral que nunca viu o seu domínio, e o seu custo deixa de crescer ao ritmo da utilização.

Seja honesto quanto ao que a personalização exige, porque é aqui que o plano costuma partir-se. A afinação precisa de dados de treino que lhe pertençam de facto e que esteja autorizado a usar. Precisa de um conjunto de avaliação construído a partir do seu trabalho real, e não de um benchmark público, ou não terá maneira de saber se a sua versão é melhor do que aquilo de onde partiu. E precisa de uma pessoa nomeada, dona do modelo em produção, porque um modelo afinado que ninguém mantém degrada-se em silêncio à medida que o negócio muda à sua volta. Se faltar qualquer um destes três, uma base de pesos abertos é um descarregamento, não uma capacidade.

A leitura honesta do Inkling é que a admissão é a funcionalidade. A Thinking Machines já lhe disse aquilo que o modelo não é, o que deixa de pé uma única pergunta: se a adaptabilidade é aquilo de que precisa. Para a maioria das empresas que corre um punhado de tarefas gerais de IA não é, e alugar continua a ser o correto. Para o número mais pequeno com um problema estreito, de grande volume e com dados proprietários a sério, uma base que pode possuir e moldar é uma proposta económica genuinamente diferente do acesso ao consumo ao modelo de outrem. As duas vias são defensáveis. Comprar a segunda com o orçamento da primeira não é.

Leia a seguir: A 24 de julho, deepseek-chat deixa de responder  |  A vantagem cibernética do defensor cai para meses