การแสดงตัวอย่างเนื้อหาต้นแบบ ตัวเลข รายละเอียดผู้แต่ง การกล่าวอ้างผลิตภัณฑ์ และตัวอย่าง API อยู่ระหว่างการตรวจสอบยืนยัน ตัวอย่างไม่ได้รับการยืนยันคำแนะนำในการบูรณาการ
สถาปัตยกรรมเบื้องหลังเกตเวย์ซัพพลายเออร์หลายรายของเรา: การตรวจสอบสภาพ เซอร์กิตเบรกเกอร์ สระน้ำอุ่นสำรอง และนโยบายการย่อยสลาย
เวลาทำงานของ 99.99% นอกเหนือจากผู้ให้บริการที่ให้บริการรายบุคคลประมาณ 99.9% ไม่ใช่ตัวเลขทางการตลาด แต่เป็นสิ่งที่คุณได้รับจากโดเมนความล้มเหลวที่เป็นอิสระ การตรวจสอบสภาพเชิงรุก และเลเยอร์การกำหนดเส้นทางที่ตัดสินใจในหน่วยมิลลิวินาทีหลักเดียว
การตรวจสุขภาพ
จุดสิ้นสุดอัปสตรีมทุกจุดจะถูกตรวจสอบทุกๆ 2 วินาทีด้วยคำขอสังเคราะห์ที่ใช้เส้นทางการอนุมานจริง ไม่ใช่หน้าสถานะ เราติดตามเวลาแฝงของ p50 และ p99 อัตราข้อผิดพลาด และความถูกต้องเชิงโครงสร้างของการตอบสนอง ผู้ให้บริการถูกทำเครื่องหมายว่าลดระดับก่อนที่จะเริ่มส่งคืนข้อผิดพลาด — ค่าความหน่วงแฝงเป็นสัญญาณแรกสุด
เบรกเกอร์วงจร
- ปิด: เส้นทางปกติ การไหลของการจราจรทั้งหมด
- เปิดครึ่งหนึ่ง: 5% ของการตรวจสอบการรับส่งข้อมูลจะกู้คืนในขณะที่เส้นทางที่เหลือไปยังโหมดสแตนด์บาย
- เปิด: ไม่มีการจราจร; เปิดอีกครั้งหลังจากการตรวจสุขภาพที่ดีติดต่อกันของ 30 เท่านั้น
สระว่ายน้ำแสตนด์บายอันอบอุ่น
การเฟลโอเวอร์แบบ Cold จะทำให้คุณเสียเวลาแฝงของโทเค็นแรกของการเชื่อมต่อใหม่ บวกกับ Cold Start ฝั่งผู้ให้บริการ เราเปิดการเชื่อมต่ออย่างต่อเนื่องให้กับทุก ๆ การสแตนด์บาย และเล่นซ้ำคำขอบนเครื่องบินกับเป้าหมายใหม่ ดังนั้นลูกค้าจึงเห็นการตอบสนองที่ช้ากว่าเพียงครั้งเดียวแทนที่จะเป็นข้อผิดพลาด
การเฟลโอเวอร์ที่ดีที่สุดคือสิ่งที่ผู้ใช้ของคุณไม่เคยสังเกตเห็น ค่ามัธยฐานเวลาแฝงที่เพิ่มจากเลเยอร์การกำหนดเส้นทางอยู่ภายใต้ 4ms เหตุการณ์เฟลโอเวอร์แบบเต็มจะเพิ่ม 180-400ms ไปยังคำขอที่ได้รับผลกระทบ
นโยบายการย่อยสลาย
เมื่อไม่มีโมเดลที่เทียบเท่าใดที่มีประสิทธิภาพดี คุณเลือกว่าจะเกิดอะไรขึ้น: ถอยกลับไปใช้ระดับที่ถูกกว่า ใช้งานรายการแคชเก่า หรือล้มเหลวอย่างรวดเร็ว ค่าเริ่มต้นของการทำงานล้มเหลวอย่างรวดเร็วคือตัวเลือกที่ตรงไปตรงมาสำหรับปริมาณงานแบบเอเจนต์ โดยที่คำตอบที่แย่กว่านั้นมีราคาแพงกว่าการไม่มีคำตอบ