Kiến trúc đằng sau cổng đa nhà cung cấp của chúng tôi: kiểm tra tình trạng, cầu dao, bể nước ấm dự phòng và chính sách xuống cấp.
99,99% thời gian hoạt động của các nhà cung cấp cung cấp riêng lẻ khoảng 99,9% không phải là con số tiếp thị — đó là những gì bạn nhận được từ các miền lỗi độc lập, kiểm tra tình trạng tích cực và lớp định tuyến quyết định tính bằng mili giây một chữ số.
Kiểm tra sức khỏe
Mỗi điểm cuối ngược dòng được thăm dò cứ sau 2 giây với một yêu cầu tổng hợp thực hiện đường dẫn suy luận thực chứ không phải trang trạng thái. Chúng tôi theo dõi độ trễ p50 và p99, tỷ lệ lỗi và tính hợp lệ về cấu trúc của phản hồi. Một nhà cung cấp được đánh dấu là đã xuống cấp trước khi bắt đầu trả về lỗi — độ lệch độ trễ là tín hiệu sớm nhất.
Bộ ngắt mạch
- Đóng: định tuyến bình thường, tất cả các luồng lưu lượng
- Nửa mở: 5% lưu lượng thăm dò sự phục hồi trong khi phần còn lại chuyển sang chế độ chờ
- Mở: không có giao thông; chỉ mở cửa trở lại sau 30 lần thăm dò khỏe mạnh liên tiếp
Hồ bơi dự phòng ấm áp
Chuyển đổi dự phòng nguội khiến bạn mất đi độ trễ đầu tiên của kết nối mới cộng với bất kỳ khởi động nguội nào từ phía nhà cung cấp. Chúng tôi luôn mở các kết nối liên tục ở mọi chế độ chờ và phát lại yêu cầu đang thực hiện đối với mục tiêu mới, để khách hàng thấy phản hồi chậm hơn chứ không phải là lỗi.
Cách chuyển đổi dự phòng tốt nhất là cách mà người dùng của bạn không bao giờ nhận thấy. Độ trễ bổ sung trung bình từ lớp định tuyến là dưới 4 mili giây; một sự kiện chuyển đổi dự phòng đầy đủ sẽ thêm 180-400 mili giây vào yêu cầu bị ảnh hưởng.
Chính sách suy thoái
Khi không có mô hình tương đương nào hoạt động tốt, bạn chọn điều gì sẽ xảy ra: quay trở lại cấp rẻ hơn, cung cấp mục nhập bộ nhớ đệm cũ hoặc thất bại nhanh chóng. Mặc định là không nhanh là lựa chọn trung thực cho khối lượng công việc tác nhân, trong đó một câu trả lời tệ hơn còn đắt hơn là không có câu trả lời.