Pratinjau konten prototipe. Gambar, detail penulis, klaim produk, dan contoh API menunggu verifikasi; contoh instruksi integrasi tidak dikonfirmasi.
Arsitektur di balik gateway multi-pemasok kami: pemeriksaan kesehatan, pemutus sirkuit, kolam air hangat siaga, dan kebijakan degradasi.
Waktu aktif 99.99% di atas penyedia yang secara individual memberikan sekitar 99.9% bukanlah angka pemasaran — ini adalah apa yang Anda dapatkan dari domain kegagalan independen, pemeriksaan kesehatan yang agresif, dan lapisan perutean yang memutuskan dalam satu digit milidetik.
Pemeriksaan kesehatan
Setiap titik akhir upstream diperiksa setiap 2 detik dengan permintaan sintetis yang menggunakan jalur inferensi sebenarnya, bukan halaman status. Kami melacak latensi p50 dan p99, tingkat kesalahan, dan validitas struktural respons. Penyedia ditandai terdegradasi sebelum mulai mengembalikan kesalahan — penyimpangan latensi adalah sinyal paling awal.
Pemutus sirkuit
- Tertutup: perutean normal, semua arus lalu lintas
- Setengah terbuka: 5% lalu lintas memeriksa pemulihan sementara sisanya dialihkan ke siaga
- Buka: tidak ada lalu lintas; dibuka kembali hanya setelah pemeriksaan sehat berturut-turut 30
Kolam siaga yang hangat
Cold failover membebani Anda dengan latensi token pertama dari koneksi baru ditambah cold start di sisi penyedia. Kami menjaga koneksi persisten tetap terbuka untuk setiap standby dan memutar ulang permintaan dalam penerbangan terhadap target baru, sehingga klien melihat satu respons yang lebih lambat daripada kesalahan.
Kegagalan terbaik adalah kegagalan yang tidak pernah diperhatikan oleh pengguna Anda. Latensi tambahan median dari lapisan perutean berada di bawah 4ms; peristiwa failover penuh menambahkan 180-400m ke permintaan yang terpengaruh.
Kebijakan degradasi
Jika tidak ada model setara yang sehat, Anda dapat memilih apa yang akan terjadi: kembali ke tingkat yang lebih murah, menyajikan entri cache yang sudah usang, atau gagal dengan cepat. Default untuk gagal cepat adalah pilihan yang jujur untuk beban kerja agen di mana jawaban yang lebih buruk lebih mahal daripada tidak ada jawaban.