Anteprima del contenuto del prototipo. Le cifre, i dettagli dell'autore, le dichiarazioni sui prodotti e gli esempi API sono in attesa di verifica; gli esempi non sono istruzioni di integrazione confermate.
L'architettura alla base del nostro gateway multi-fornitore: controlli di integrità, interruttori automatici, pool caldi in standby e politiche di degrado.
Il tempo di attività di 99.99% rispetto ai fornitori che consegnano individualmente intorno a 99.9% non è un numero di marketing: è ciò che ottieni da domini di errore indipendenti, controlli di integrità aggressivi e un livello di routing che decide in millisecondi a una cifra.
Controlli sanitari
Ogni endpoint upstream viene analizzato ogni 2 secondi con una richiesta sintetica che esercita il percorso di inferenza reale, non una pagina di stato. Monitoriamo la latenza p50 e p99, il tasso di errore e la validità strutturale della risposta. Un provider viene contrassegnato come degradato prima che inizi a restituire errori: la deriva della latenza è il primo segnale.
Interruttori automatici
- Chiuso: percorso normale, tutti i flussi di traffico
- Semiaperto: 5% del recupero delle sonde di traffico mentre il resto si dirige in standby
- Apertura: senza traffico; riaperto solo dopo 30 sonde sane consecutive
Piscine calde in attesa
Il failover a freddo ti costa la latenza del primo token di una nuova connessione più qualsiasi avvio a freddo lato provider. Manteniamo le connessioni persistenti aperte a ogni standby e riproduciamo la richiesta in volo rispetto al nuovo target, in modo che il client veda un'unica risposta più lenta anziché un errore.
Il miglior failover è quello che gli utenti non notano mai. La latenza media aggiunta dal livello di routing è inferiore a 4ms; un evento di failover completo aggiunge 180-400m alla richiesta interessata.
Politica di degrado
Quando nessun modello equivalente è integro, sei tu a scegliere cosa succede: ricorrere a un livello più economico, fornire una voce della cache obsoleta o fallire rapidamente. L'impostazione predefinita del fail-fast è la scelta onesta per i carichi di lavoro degli agenti in cui una risposta peggiore è più costosa di nessuna risposta.