Prototip içerik önizlemesi. Şekiller, yazar ayrıntıları, ürün iddiaları ve API örnekleri doğrulamayı beklemektedir; örnekler onaylanmış entegrasyon talimatları değildir.
OpenAI uyumluluk katmanımızdaki her uç noktayı, parametreyi ve uç durumu inceliyoruz - kasıtlı olarak farklılaştığımız yerler de dahil.
Çok sayıda ağ geçidi OpenAI uyumluluğunu iddia ediyor ve ardından bağımlı olduğunuz yüzey alanının yarısını sessizce bırakıyor. İşte tam olarak neyi uyguluyoruz, neyi genişletiyoruz ve bilinçli olarak nerede ayrılıyoruz.
Tamamen destekleniyor
- Akış, araçlar, tool_choice ve yapılandırılmış çıkışlar dahil /v1/chat/completions
- Toplu işlemle /v1/embeddings
- /v1/images/generations ve düzenlemeler
- /v1/audio/transcriptions, çeviriler ve konuşma
- Sağlayıcı onaylı kimliklere sahip /v1/models
Tek hatlı anahtar
from openai import OpenAI
client = OpenAI(
base_url="https://api.starsg.ai/v1",
api_key=STARSG_API_KEY,
)
Nerede ayrılıyoruz
Üç kasıtlı farklılık. İlk olarak, model kimlikleri sağlayıcı tarafından onaylanmıştır, dolayısıyla aynı ad hiçbir zaman iki anlama gelmez. İkincisi, hız sınırı üstbilgileri, yukarı akış satıcısının değil, havuzlanmış ağ geçidi sınırınızı bildirir. Üçüncüsü, gerçekte sunulan modeli, önbellek durumunu ve bir yük devretme oluşup oluşmadığını taşıyan her yanıtta ekstra bir amplink bloğu döndürürüz.
Bir alanın anlamını sessizce değiştirecek hiçbir şey yapmayız. Uzantılar girişte extra_body'ye, çıkışta ise ad alanlı bir bloğa gider.
Desteklenmeyen parametreler, göz ardı edilmek yerine 400 ile reddedilir. logit_bias'yi sessizce bırakmak, bir hafta boyunca kalite regresyonunda hata ayıklamanın yoludur.