Use modelo pequeno para classificar, extrair dado e resumir texto curto; modelo intermediário para atender cliente e consultar base de conhecimento; modelo grande para negociar, escrever texto de venda e raciocínio com várias regras. Como o preço público muda mais de 100 vezes entre o menor e o maior, a escolha certa decide a conta.
Em resumo
- Escolha pelo custo do erro, não pela fama do modelo.
- Tarefa com resposta conferível (sim/não, campo extraído) vai bem em modelo pequeno.
- Conversa com cliente pede intermediário com base de conhecimento.
- Teste com casos reais antes de trocar o modelo de uma tarefa.
Como decidir o tamanho do modelo para uma tarefa?
Pergunte quanto custa o erro e se dá para conferir a resposta. Se o modelo erra a classificação de um e-mail, alguém corrige em segundos. Se erra o valor de um acordo de cobrança, o prejuízo é real. Quanto mais caro o erro e mais difícil conferir, maior o modelo, e mais travas em volta dele.
Qual modelo usar em cada tarefa?
| Tarefa | Tamanho de modelo | Por quê |
|---|---|---|
| Classificar mensagem (dúvida, pedido, reclamação) | Pequeno | Resposta curta e fácil de conferir |
| Extrair CPF, endereço, valor de um texto | Pequeno | Formato fixo; valide no código |
| Resumir ligação ou conversa | Pequeno a intermediário | Erro pequeno é tolerável; volume alto |
| Responder dúvida com base de conhecimento | Intermediário | Precisa entender a pergunta e não inventar |
| Atender cliente no WhatsApp | Intermediário | Equilíbrio entre qualidade, tempo e custo |
| Qualificar lead e conduzir venda | Intermediário a grande | Tom e objeção mudam o resultado |
| Negociar cobrança dentro de regras | Grande, com travas | Erro custa dinheiro; regra no código |
| Escrever texto longo (artigo, proposta) | Grande | Qualidade do texto é o produto |
Os preços de referência de cada faixa estão em quanto custam os tokens de IA.
Modelo grande resolve tudo melhor?
Não. Modelo grande escreve melhor e erra menos em raciocínio longo, mas é mais lento, mais caro e às vezes "pensa demais" numa tarefa simples. Em atendimento, segundos a mais na resposta pesam. E nenhum tamanho de modelo dispensa as travas: o que precisa acontecer sempre (não dar desconto sozinho, não prometer prazo) tem que estar no código, não só no prompt.
Por que usar mais de um modelo no mesmo agente?
Porque uma conversa tem tarefas diferentes. Um padrão comum: um modelo pequeno classifica a intenção da mensagem, o intermediário responde, e o grande só entra quando a conversa vira negociação. O cliente vê um atendente só. A conta paga o modelo certo em cada passo.
O que fazer quando o fornecedor retira um modelo?
Acontece com frequência: modelos saem do catálogo e o sistema que chamava pelo nome passa a receber erro. Por isso o sistema deve pedir um apelido de uso e um gateway de LLM decide o modelo. Na nossa operação, cada apelido tem pelo menos duas alternativas antes de cair numa opção mais cara, e uma mensagem de "modelo inválido" é tratada como mudança de catálogo, não como falta de crédito.
Como testar se o modelo mais barato dá conta?
- Junte 30 a 50 casos reais da tarefa, com a resposta certa de cada um.
- Rode os casos nos dois modelos, variando a frase para não medir cache.
- Compare acerto, tempo e custo. Olhe os erros, não só a média.
- Troque e acompanhe as primeiras semanas.
O método está em como testar um agente de IA.
Quanto a escolha do modelo muda a conta?
Muito, porque o preço público por milhão de tokens muda mais de 100 vezes entre o menor e o maior modelo. Um exemplo genérico: uma tarefa de classificação que roda 100 mil vezes por mês, com 500 tokens de entrada e 20 de saída, consome 50 milhões de tokens de entrada e 2 milhões de saída. Num modelo de US$ 0,10 / US$ 0,40 por milhão, isso dá cerca de US$ 6 no mês. Num modelo de US$ 4 / US$ 20, cerca de US$ 240. Se o modelo menor acerta a classificação tão bem quanto o maior, a diferença é dinheiro jogado fora.
O raciocínio inverso também vale: numa tarefa em que o erro custa caro, como negociar um acordo, pagar mais por resposta pode sair barato perto de um desconto dado errado.
Mapeamos as tarefas do seu agente e o tamanho de modelo de cada uma.
Perguntas frequentes
Qual o melhor modelo de IA para atendimento?
Não há um melhor para todos. Para atendimento com base de conhecimento, modelos intermediários costumam dar o melhor equilíbrio de qualidade, tempo e custo. Teste com suas conversas.
Modelo aberto serve para empresa?
Serve, principalmente quando o dado não pode sair da empresa. Exige servidor e manutenção; para volume baixo, costuma sair mais caro que pagar por token.
Devo trocar de modelo toda vez que sai um novo?
Não. Troque quando o teste com casos reais mostrar ganho de qualidade ou de custo que justifique.
O cliente percebe que são vários modelos?
Não, se o tom e as regras forem os mesmos em todos os passos. É o agente que fala, não o modelo.
Mais sobre o tema em Agentes de IA.
