Feriado no homelab costuma ser um perigo… mas nada de concreto saiu, só ideias, alguns aprendizados e testes…
Foi num teste desses, ajustando um script local, que o GLM 5.3 identificou e corrigiu um bug que o Claude Sonnet 5 tinha deixado passar.
Para quem acompanha preço de API, o contraste salta. O Sonnet 5 cobra US$ 10 por milhão de tokens de saída. O GLM 5.3 sai por US$ 4,40, na mesma faixa do Kimi K2.7 Code. Nos modelos mais enxutos, como o Qwen3.8 Flash, a conta cai para US$ 0,47. No outro extremo, os modelos de topo das grandes casas batem em US$ 50 por milhão de tokens de saída. Fiz essas contas com mais calma no post sobre benchmarks de IA e o custo real de 200 mil tokens.
A distância de qualidade entre os modelos de topo e os modelos abertos ou baratos encolhe a cada release. A diferença existe, mas a curva de retorno sobre o investimento está cada vez mais achatada.
Daí a tese que tomou conta do mercado: se nenhum modelo é o melhor em tudo, o futuro exigiria um roteador inteligente na frente. Um proxy que fatia o prompt, despacha tarefa simples para modelo de centavos, reserva o raciocínio pesado para os caros, mantém a aplicação desacoplada do provedor e sobrevive cobrando uma fatia da economia gerada.
A teoria é elegante. 2026 mostrou que o tabuleiro é mais cínico.
A conta do restaurante e o fim do open bar
Duas mudanças recentes derrubaram a ideia de que a infraestrutura de IA rodaria com subsídio infinito.
A primeira veio do lado chinês: até a DeepSeek começou a cobrar como quem precisa pagar a conta de luz do datacenter. Com o DeepSeek V4 Pro, a tarifa fixa deu lugar a preço dinâmico por horário. No pico, medido no fuso de Pequim, a entrada com cache chegou a subir 1.100%.
Ou seja, além do custo por milhão de tokens, o roteamento agora exige que o seu proxy conheça fuso horário e saiba que horas são na China antes de despachar a carga.
A segunda veio da Microsoft e do GitHub: o Copilot abandonou a assinatura flat e migrou para consumo baseado em AI Credits.
O Copilot mostra que o modelo “coma à vontade” não sobrevive num mercado onde todo mundo tem fome insaciável de token. Um autocomplete de três linhas não pode custar a mesma mensalidade que um agente autônomo rodando loops, varrendo monorepos inteiros, injetando contexto massivo e disparando subagentes em cadeia. A matemática da infraestrutura cobrou a conta.
O cemitério dos intermediários
Se a precificação ficou mais complexa, o gateway de LLM faz mais sentido do que nunca, certo? Em parte. Intermediar chamada de API virou um negócio ingrato.
| Segmento | Solução | Status em 2026 |
|---|---|---|
| Self-hosted e open source | LiteLLM | Padrão de fato na infraestrutura local. Proxy compatível com OpenAI, suporte a centenas de provedores, virtual keys, failover e controle local. |
| Hospedado e multi-provedor | OpenRouter | O baseline do mercado. Agrega centenas de modelos com billing unificado, mas os roteadores automáticos perdem a especificidade técnica dos prompts. |
| Enterprise gerenciado | Prisma AIRS (ex-Portkey) | Foco em governança, PII e auditoria corporativa. O Portkey foi absorvido pela Palo Alto Networks e virou componente de segurança de rede. |
| Pioneiros e descontinuados | TensorZero e Helicone | Projetos que não encontraram modelo de negócio sustentável foram descontinuados ou entraram em modo estrito de manutenção. |
Para um gateway comercial lucrar, a diferença de preço entre os modelos precisa continuar grande o bastante para que a economia de roteamento cubra a margem dele. Só que os modelos de entrada ficaram baratos demais e os próprios provedores consolidaram suas APIs. A margem do intermediário é esmagada no meio.
Reflexão de feriado: para onde vai a nossa stack?
Olhando para o terminal neste feriado, a conclusão que tiro dessa dinâmica não é que precisamos terceirizar o discernimento para mais um SaaS proprietário.
Roteamento e controle de custo deixaram de ser firula. Mandar qualquer prompt cegamente para o endpoint mais caro é preguiça de engenharia e uma forma eficiente de queimar orçamento transformando ciclo de GPU em calor residual.
Antes, os devs eram cobrados para usar IA (antes digo, até meses atrás!), agora precisam justificar o uso do modelo específico, ou espremer o máximo do limão para tirar mais suco. Não digo que há uma bolha estourando, creio que isso nunca vai ocorrer: já é open source, cada um pode rodar o seu próprio, na sua própria infraestrutura, não há como algo estourar neste ponto. Mas o preço deixou de ser convidativo, e agora não dá para afirmar que se substitui um dev por IA. A IA está cara demais para ser usada por alguém sem conhecimento técnico suficiente e que não consiga fazer o “finops de token” corretamente.
Confiar em “roteadores mágicos” de terceiros também cobra o seu preço: perda de controle sobre system prompts ajustados, latência de rede a mais e dependência de um intermediário que pode ser descontinuado ou adquirido no próximo trimestre.
Para quem roda a própria infraestrutura e mantém o controle do pipeline, a abordagem mais pragmática continua sendo a boa e velha engenharia:
- LiteLLM ou outro gateway open source sob seu controle, para garantir tolerância a falhas, abstração de SDK e métrica real de consumo.
- Roteamento determinístico na aplicação, sabendo exatamente qual etapa do fluxo exige raciocínio profundo e qual resolve com um modelo de quarenta centavos.
- Atenção aos detalhes operacionais: tamanho de contexto, cache de prompt e, agora, até a hora do dia no provedor.
Claro, se o seu ambiente for grande o suficiente para isto.
O buffet livre fechou as portas. O que resta é fazer engenharia de software.