Pratinjau konten prototipe. Gambar, detail penulis, klaim produk, dan contoh API menunggu verifikasi; contoh instruksi integrasi tidak dikonfirmasi.
Kami menelusuri setiap titik akhir, parameter, dan kasus tepi di lapisan kompatibilitas OpenAI — termasuk tempat kami sengaja menyimpang.
Banyak gateway yang mengklaim kompatibilitas OpenAI dan kemudian secara diam-diam menghilangkan separuh luas permukaan yang Anda andalkan. Inilah tepatnya apa yang kami terapkan, apa yang kami kembangkan, dan di mana kami sengaja menyimpang.
Didukung penuh
- /v1/chat/completions termasuk streaming, alat, tool_choice, dan output terstruktur
- /v1/embeddings dengan pengelompokan
- /v1/images/generations dan edit
- /v1/audio/transcriptions, terjemahan, dan pidato
- /v1/models dengan ID yang memenuhi syarat penyedia
Sakelar satu jalur
from openai import OpenAI
client = OpenAI(
base_url="https://api.starsg.ai/v1",
api_key=STARSG_API_KEY,
)
Dimana kita berbeda
Tiga perbedaan yang disengaja. Pertama, ID model memenuhi syarat penyedia sehingga nama yang sama tidak pernah berarti dua hal. Kedua, header batas tarif melaporkan batas gateway gabungan Anda, bukan batas vendor upstream. Ketiga, kami mengembalikan blok amplink tambahan pada setiap respons yang membawa model yang benar-benar disajikan, status cache, dan apakah terjadi failover.
Apa pun yang secara diam-diam akan mengubah arti suatu bidang, tidak akan kami lakukan. Ekstensi masuk dalam extra_body saat masuk dan blok dengan namespace saat keluar.
Parameter yang tidak didukung akan ditolak dengan 400, bukan diabaikan. Menghapus logit_bias secara diam-diam adalah cara Anda akhirnya men-debug regresi kualitas selama seminggu.