Vorschau des Prototypinhalts. Zahlen, Angaben zum Autor, Produktaussagen und API-Beispiele müssen noch überprüft werden. Beispiele sind keine bestätigten Integrationsanweisungen.
Wir gehen jeden Endpunkt, Parameter und Randfall in unserer OpenAI-Kompatibilitätsschicht durch – auch dort, wo wir absichtlich abweichen.
Viele Gateways behaupten, OpenAI-Kompatibilität zu haben, und verzichten dann stillschweigend auf die Hälfte der von Ihnen benötigten Oberfläche. Hier erfahren Sie genau, was wir umsetzen, was wir erweitern und wo wir bewusst abweichen.
Vollständig unterstützt
- /v1/chat/completions einschließlich Streaming, Tools, tool_choice und strukturierte Ausgaben
- /v1/embeddings mit Batchverarbeitung
- /v1/images/generations und Änderungen
- /v1/audio/transcriptions, Übersetzungen und Sprache
- /v1/models mit vom Anbieter qualifizierten IDs
Der One-Line-Schalter
from openai import OpenAI
client = OpenAI(
base_url="https://api.starsg.ai/v1",
api_key=STARSG_API_KEY,
)
Wo wir auseinandergehen
Drei bewusste Unterschiede. Erstens sind Modell-IDs vom Anbieter qualifiziert, sodass derselbe Name niemals zwei Dinge bedeutet. Zweitens melden Rate-Limit-Header Ihr gepooltes Gateway-Limit, nicht das des Upstream-Anbieters. Drittens geben wir bei jeder Antwort einen zusätzlichen Amplink-Block zurück, der das tatsächlich bereitgestellte Modell, den Cache-Status und die Angabe, ob ein Failover stattgefunden hat, enthält.
Alles, was die Bedeutung eines Feldes stillschweigend ändern würde, tun wir nicht. Erweiterungen werden beim Eingang in extra_body und beim Ausgang in einen Block mit Namensraum eingefügt.
Nicht unterstützte Parameter werden mit einem 400 abgelehnt und nicht ignoriert. Wenn Sie logit_bias stillschweigend fallen lassen, müssen Sie am Ende eine Woche lang eine Qualitätsregression debuggen.