Prototip içerik önizlemesi. Şekiller, yazar ayrıntıları, ürün iddiaları ve API örnekleri doğrulamayı beklemektedir; örnekler onaylanmış entegrasyon talimatları değildir.
Çoklu tedarikçi ağ geçidimizin arkasındaki mimari: durum kontrolleri, devre kesiciler, yedek sıcak havuzlar ve bozulma politikaları.
Bireysel olarak 99.9% civarında teslimat yapan sağlayıcıların yanı sıra 99.99% çalışma süresi bir pazarlama numarası değildir; bağımsız arıza etki alanlarından, agresif durum kontrollerinden ve tek haneli milisaniyeler içinde karar veren bir yönlendirme katmanından elde ettiğiniz şeydir.
Sağlık kontrolleri
Her yukarı akış uç noktası, her 2 saniyede bir durum sayfasını değil, gerçek çıkarım yolunu uygulayan sentetik bir istekle incelenir. p50 ve p99 gecikmesini, hata oranını ve yanıtın yapısal geçerliliğini izliyoruz. Bir sağlayıcı, hata döndürmeye başlamadan önce bozulmuş olarak işaretlenir; gecikme sapması en erken sinyaldir.
Devre kesiciler
- Kapalı: normal yönlendirme, tüm trafik akışları
- Yarı açık: 5% trafiğin iyileşmesi araştırılırken geri kalanı bekleme moduna geçer
- Açık: trafik yok; yalnızca 30 ardışık sağlıklı problardan sonra yeniden açıldı
Sıcak bekleme havuzları
Soğuk yük devretme, yeni bir bağlantının ilk belirteç gecikmesine ve ayrıca sağlayıcı tarafında herhangi bir soğuk başlatmaya mal olur. Kalıcı bağlantıları her beklemede açık tutuyoruz ve uçuş sırasındaki isteği yeni hedefe göre yeniden oynatıyoruz, böylece istemci bir hata yerine daha yavaş tek bir yanıt görüyor.
En iyi yük devretme, kullanıcılarınızın asla fark etmediği yük devretmedir. Yönlendirme katmanından eklenen ortalama gecikme süresi 4m'nin altındadır; tam bir yük devretme olayı, etkilenen isteğe 180-400m'leri ekler.
Bozulma politikası
Hiçbir eşdeğer model sağlıklı olmadığında ne olacağını siz seçersiniz: daha ucuz bir seviyeye geri dönün, eski bir önbellek girişi sağlayın veya hızlı bir şekilde başarısız olun. Daha kötü bir cevabın hiç cevap vermemekten daha pahalı olduğu aracılık iş yükleri için varsayılan olarak hızlı arızaya geçmek dürüst bir seçimdir.