Notebook MacBook Pro aberto sobre uma mesa
Imagem: Apple MacBook Pro 15" (2017), de iMahesh, via Wikimedia Commons (CC BY-SA 4.0).

Inkling 2 Mini: IA aberta de 26,4 bi roda em notebook

A Thinking Machines Lab lançou o Inkling 2 Mini, um modelo de IA de pesos abertos com 26,4 bilhões de parâmetros. A empresa diz que ele é pequeno o bastante para rodar em um notebook, e que, mesmo assim, lidera vários testes de programação e de agentes entre os modelos abertos com menos de 100 bilhões de parâmetros. O anúncio é de 20 de novembro e os pesos já estão no Hugging Face.

Um truque de arquitetura: repetir as camadas do meio

O Inkling 2 Mini usa o formato Mixture-of-Experts, em que só parte do modelo trabalha a cada palavra gerada. A novidade está no “loop”: das 24 camadas guardadas, as 12 do meio rodam três vezes para cada token. Na prática, o modelo faz 48 passagens por camada, mas ocupa a memória de apenas 24.

A ideia é raciocinar mais sem gastar mais memória. Segundo a Thinking Machines, repetir o miolo rendeu mais ganho do que repetir o final da rede, e um modelo equivalente sem loop precisaria de bem mais poder de cálculo na inferência para chegar à mesma qualidade em tarefas longas de agente. O modelo lançado usa um número fixo de passagens.

Do que ele é capaz, segundo a empresa

Os números abaixo vêm da tabela da própria Thinking Machines, com configurações de teste que variam entre os modelos comparados:

  • DeepSWE v1.1: 48,2% das tarefas resolvidas;
  • SWE-bench Verified (só com terminal): 79,2%;
  • BrowseComp, teste de pesquisa na web: 79,0%;
  • MCP Atlas, uso de ferramentas: 82,7%.

Em outros testes ele fica em segundo, atrás do Qwen3.8-27B, como no Terminal Bench v2.1 (71,6% contra 73,0%). A própria página admite limites: o Inkling 2 Mini não é o melhor modelo pequeno para conversa longa com muitas instruções, perde para modelos maiores em raciocínio pesado, e o loop melhora o raciocínio, mas não aumenta o conhecimento guardado no modelo.

Como rodar em casa

O modelo foi treinado já em 4 bits, e a empresa informa um tamanho de cerca de 20 GB na memória. No lançamento, ele roda via Ollama em qualquer Mac com pelo menos 32 GB de RAM, e também em placas como o NVIDIA DGX Spark, com versões GGUF para o llama.cpp. Em uma demonstração, a Thinking Machines o rodou offline, em modo avião, em um MacBook Pro com chip M5 Pro e 48 GB, e pediu a ele um simulador de voo jogável.

A página não informa o nome da licença dos pesos nem preço de API, então vale conferir os termos no Hugging Face antes de usar em projeto comercial.

O que muda pra você

Se você tem um Mac com 32 GB ou mais, já pode testar uma IA de programação e agente rodando localmente, sem mandar código para a nuvem e sem pagar por token. É o caminho que a Thinking Machines aposta para modelos abertos: menos tamanho, mais raciocínio por camada. Os resultados são da própria empresa, e testes independentes ainda vão mostrar se eles se repetem no uso do dia a dia.

Para quem acompanha a corrida entre os laboratórios, veja também o que aconteceu com a Anthropic e a nova linha do Claude.

Com informações de Thinking Machines Lab.

Imagem: Apple MacBook Pro 15″ (2017), de iMahesh, via Wikimedia Commons (CC BY-SA 4.0).