As técnicas que mais baixam a conta de tokens são: usar modelo pequeno para tarefa simples (o preço muda mais de 100 vezes entre modelos), cache do prompt (a leitura em cache sai por 2,5% a 10% do preço de entrada), processamento em lote (50% mais barato), histórico curto e teto de gasto. Nenhuma delas exige trocar de fornecedor.
Em resumo
- Modelo certo para cada tarefa é a economia maior.
- Cache de prompt e lote cortam o preço de partes da conta.
- Histórico e base de conhecimento enxutos reduzem a entrada.
- Cortar demais o limite de saída quebra a resposta: modelo que raciocina precisa de folga.
Qual técnica economiza mais tokens?
Escolher o modelo pelo tamanho da tarefa. Classificar uma mensagem ("é dúvida, reclamação ou pedido?"), extrair um CPF ou resumir um texto curto funciona bem em modelo pequeno. Negociar, explicar uma regra complexa ou escrever um texto de venda pede modelo maior. Usar o topo de linha para tudo é pagar dezenas de vezes mais por tarefas que o modelo pequeno faz igual. Detalhamos a escolha em qual modelo de IA usar em cada tarefa.
Quais são as 7 técnicas para reduzir o custo de tokens?
- Modelo por tarefa. Pequeno para classificar e extrair; grande só onde a qualidade da resposta muda o resultado.
- Cache de prompt. Instruções fixas e documentos que se repetem podem ser lidos do cache. Em preços públicos de 21/10/2026, a leitura em cache custava de 2,5% a 10% do preço normal de entrada.
- Lote para o que não é urgente. Relatórios, classificação de base e resumos noturnos podem ir em lote, com cerca de 50% de desconto nos principais fornecedores.
- Histórico curto. Em vez de reenviar a conversa inteira, envie as últimas mensagens e um resumo do resto.
- Base de conhecimento enxuta. Mande ao modelo os 3 ou 4 trechos que respondem a pergunta, não o manual inteiro. Veja base de conhecimento para agente de IA.
- Instrução sem gordura. Prompt de 5.000 tokens cobrado em cada resposta pesa. Revise o que o agente realmente usa.
- Teto de gasto. Um limite por grupo de uso impede que erro em loop vire fatura. Explicamos em gateway de LLM.
Onde cortar tokens dá errado?
No limite de saída de modelos que "raciocinam" antes de responder. Eles gastam tokens pensando, e esses tokens contam no limite. Com limite curto, o modelo usa tudo pensando e devolve resposta vazia ou cortada.
Na nossa operação, um limite de 300 tokens de saída fez uma resposta voltar com 20 caracteres. Não deu erro: deu uma resposta ruim, que é pior porque ninguém investiga. A regra interna virou no mínimo 2.000 tokens de limite para esses modelos. Economize em outro lugar, não aqui.
Como medir se a economia não piorou a resposta?
Com um conjunto de perguntas reais, respondidas antes e depois da mudança, e uma comparação lado a lado. Duas armadilhas:
- Pergunta escrita por você, não pelo cliente. O teste passa e a vida real falha. Use frases tiradas de conversas.
- Cache de resposta no teste. Se o sistema guarda respostas iguais, repetir a mesma pergunta mede o cache, não o modelo. Varie a frase.
O método completo está em como testar um agente de IA antes de pôr no ar.
Rodar um modelo próprio sai mais barato que pagar tokens?
Depende do volume. Modelo aberto em servidor próprio troca o custo por token por custo fixo de máquina, geralmente com GPU, e por trabalho de manutenção. Faz sentido com volume alto e constante, ou quando o dado não pode sair da empresa. Para volume baixo ou irregular, pagar por token costuma sair mais barato. Servidores para esse uso estão na NuvoCloud.
Quanto dá para economizar na prática?
Não há número único: depende de quanto da conta é entrada repetida, quanto é tarefa simples e quanto pode esperar. Como referência de preço público, só a troca de um modelo de topo por um intermediário numa tarefa simples já reduz o preço por token em 10 vezes ou mais, e lote e cache cortam metade ou mais das partes onde se aplicam. Veja a tabela em quanto custam os tokens de IA.
Em que ordem aplicar as técnicas?
Comece pelo que não muda a resposta e depois vá para o que muda. Primeiro meça onde o token vai. Depois ligue o cache de prompt e mande para lote o que pode esperar: essas duas não alteram a qualidade. Em seguida enxugue histórico e base de conhecimento, conferindo com casos reais. Só então troque modelos de tarefas simples para modelos menores, uma tarefa por vez, com teste antes e depois. O teto de gasto entra desde o primeiro dia, porque protege contra o erro, não contra o uso normal.
Mostramos onde o token está indo e o que dá para cortar sem piorar a resposta.
Perguntas frequentes
Cache de prompt muda a resposta?
Não. O cache guarda a leitura das instruções e documentos fixos; a resposta continua sendo gerada para a pergunta nova.
Posso usar lote para atendimento ao cliente?
Não. Lote pode levar horas para devolver. Serve para tarefas que podem esperar, como relatório e classificação de base.
Modelo menor erra mais?
Em tarefa complexa, sim. Em classificação, extração e resumo curto, a diferença costuma ser pequena. Teste com casos reais antes de trocar.
Qual o primeiro passo para reduzir a conta?
Medir onde o token vai: quanto é instrução, quanto é histórico, quanto é base de conhecimento e quanto é saída.
Mais sobre o tema em Agentes de IA.
