Softwareentwicklung

OpenAI-kompatibel API: Was „kompatibel“ eigentlich bedeutet

Vorschau des Prototypinhalts. Zahlen, Angaben zum Autor, Produktaussagen und API-Beispiele müssen noch überprüft werden. Beispiele sind keine bestätigten Integrationsanweisungen.

Wir gehen jeden Endpunkt, Parameter und Randfall in unserer OpenAI-Kompatibilitätsschicht durch – auch dort, wo wir absichtlich abweichen.

Viele Gateways behaupten, OpenAI-Kompatibilität zu haben, und verzichten dann stillschweigend auf die Hälfte der von Ihnen benötigten Oberfläche. Hier erfahren Sie genau, was wir umsetzen, was wir erweitern und wo wir bewusst abweichen.

Vollständig unterstützt

  • /v1/chat/completions einschließlich Streaming, Tools, tool_choice und strukturierte Ausgaben
  • /v1/embeddings mit Batchverarbeitung
  • /v1/images/generations und Änderungen
  • /v1/audio/transcriptions, Übersetzungen und Sprache
  • /v1/models mit vom Anbieter qualifizierten IDs

Der One-Line-Schalter

from openai import OpenAI

client = OpenAI(
    base_url="https://api.starsg.ai/v1",
    api_key=STARSG_API_KEY,
)

Wo wir auseinandergehen

Drei bewusste Unterschiede. Erstens sind Modell-IDs vom Anbieter qualifiziert, sodass derselbe Name niemals zwei Dinge bedeutet. Zweitens melden Rate-Limit-Header Ihr gepooltes Gateway-Limit, nicht das des Upstream-Anbieters. Drittens geben wir bei jeder Antwort einen zusätzlichen Amplink-Block zurück, der das tatsächlich bereitgestellte Modell, den Cache-Status und die Angabe, ob ein Failover stattgefunden hat, enthält.

Alles, was die Bedeutung eines Feldes stillschweigend ändern würde, tun wir nicht. Erweiterungen werden beim Eingang in extra_body und beim Ausgang in einen Block mit Namensraum eingefügt.

Nicht unterstützte Parameter werden mit einem 400 abgelehnt und nicht ignoriert. Wenn Sie logit_bias stillschweigend fallen lassen, müssen Sie am Ende eine Woche lang eine Qualitätsregression debuggen.

This article is an original publication of Starsg Group Inc. All rights reserved. No part of this article may be reproduced, copied, distributed, republished, or otherwise used in any form or by any means without the prior written permission of Starsg Group Inc., except as permitted by applicable law. Copyright © Starsg Group Inc. All Rights Reserved.

Mehr in Softwareentwicklung

DeepSeek V4.1 Flash auf StarsG: Ein praktischer Leitfaden zum Modell zur Neudefinition kosteneffizienter KI-Inferenz

29. Okt. 2026 · 13 Mindestablesung

So machen Sie Gemini 4 Argon API-bereit

15. Okt. 2026 · 19 Mindestablesung

Jev erklärt: So erstellen Sie zuverlässige, typisierte KI-Entscheidungen für die Produktion

10. Okt. 2026 · 20 Mindestablesung