Latência, custo, duração do contexto, confiabilidade da chamada de ferramenta — comparamos os três grandes em 6 cenários do mundo real.
Executamos as três principais famílias fronteiriças através de seis cenários em formato de produção em prompts idênticos, mesma temperatura, mesmo dia, encaminhados pelo mesmo gateway. Aqui está o que realmente os separa.
Os cenários
- Refator de código de vários ficheiros com 180 mil tokens de contexto
- Extração estruturada de faturas confusas em um esquema JSON estrito
- Resposta do suporte ao cliente com restrições de tom e uma chamada de ferramenta
- Resumo de documentos longos em 600 mil tokens
- Loop de agente de chamadas de cadeia de ferramentas, oito etapas de profundidade
- Esboço criativo de formato longo com um guia de estilo
O que encontramos
A confiabilidade da chamada da ferramenta é a maior lacuna. No loop do agente de oito etapas, o melhor modelo completou 94% das execuções sem uma chamada malformada; o pior foi de 71%. Na geração simples de giro único, as três famílias estão a poucos pontos uma da outra e a escolha deve se resumir ao preço e à latência.
Se sua carga de trabalho é uma solicitação, uma resposta, escolha o custo. Se for agente, escolha a confiabilidade da chamada de ferramenta e aceite o preço – novas tentativas são mais caras do que o modelo melhor.
Uma política de roteamento padrão
{
"routes": [
{ "match": "tools:true", "model": "claude-sonnet-4-5" },
{ "match": "context>400000", "model": "gemini-2.5-pro" },
{ "match": "latency<300ms", "model": "qwen-3.8-flash" },
{ "default": "gpt-5" }
]
}
Comece por aí e deixe que as métricas de qualidade por rota do gateway lhe digam para onde se desviar. Reavalie trimestralmente – a ordem mudou duas vezes no ano passado.