Anteprima del contenuto del prototipo. Le cifre, i dettagli dell'autore, le dichiarazioni sui prodotti e gli esempi API sono in attesa di verifica; gli esempi non sono istruzioni di integrazione confermate.
Latenza, costo, durata del contesto, affidabilità delle chiamate degli strumenti: confrontiamo i tre principali scenari 6 del mondo reale.
Abbiamo analizzato le tre principali famiglie di frontiera attraverso sei scenari modellati sulla produzione su prompt identici, stessa temperatura, stesso giorno, instradati attraverso lo stesso gateway. Ecco cosa li separa realmente.
Gli scenari
- Refactoring di codice multifile con token di contesto 180k
- Estrazione strutturata da fatture disordinate in uno schema rigoroso JSON
- Risposta dell'assistenza clienti con vincoli di tono e chiamata allo strumento
- Riepilogo di documenti lunghi nei token 600k
- Loop agente di chiamate a catena, profondo otto passaggi
- Redazione creativa di lunga durata con una guida di stile
Cosa abbiamo trovato
L’affidabilità delle chiamate agli strumenti è il divario più ampio. Nel ciclo agente in otto fasi, il modello migliore ha completato 94% di esecuzioni senza una chiamata non corretta; il peggiore è stato a 71%. Nella semplice generazione a turno singolo le tre famiglie si trovano a pochi punti l'una dall'altra e la scelta dovrebbe dipendere dal prezzo e dalla latenza.
Se il tuo carico di lavoro è un suggerimento, una risposta, scegli il costo. Se è agente, scegli l'affidabilità delle chiamate tramite strumento e accetta il prezzo: i nuovi tentativi sono più costosi rispetto al modello migliore.
Una politica di routing predefinita
{
"routes": [
{ "match": "tools:true", "model": "claude-sonnet-4-5" },
{ "match": "context>400000", "model": "gemini-2.5-pro" },
{ "match": "latency<300ms", "model": "qwen-3.8-flash" },
{ "default": "gpt-5" }
]
}
Inizia da lì, poi lascia che i parametri di qualità per percorso del gateway ti dicano dove deviare. Rivalutazione trimestrale: l'ordine è cambiato due volte nell'ultimo anno.